I Built a Trap for AI Image Judges. They Walked Into a Different One.

A new benchmark called Vision Q asks AI models to judge computer vision images on one named quality, such as edge sharpness. The authors tested 20 AI models acting as judges. The best one was right 63.1 percent of the time, a little under two times out of three. Random guessing would be right 32.2 percent of the time. The best model is clearly better than guessing, but it still misses more than a third of the time.

That gap is the reason for this article. If the best AI judge makes this many mistakes, you should test your own judge before trusting it. These scores matter outside the lab too, because people already ask AI assistants to look at photos and answer. Imagine uploading two photos of a medicine box and asking how much to take, then uploading them in the opposite order. If the answer changes, you need to know whether the label was hard to read or the image order affected the result.

The author tested whether image order could affect a model's answers. In one test, Claude was shown two pictures and asked which had fewer compression artifacts. Over 24 trials, Claude picked the second picture in 23 of them, whatever the pictures were. That suggests a strong position bias, though the result came from the author's own test images and may not hold for every kind of picture.

The author then built a smaller test of original images, each pair differing by one known change, and logged every answer to Weights & Biases. The goal was a short script that checks three things about an image judge: whether it looks at the detail you ask about, whether it favors the first or second image, and whether it makes up an answer.

يطلب معيار جديد يسمى Vision Q من نماذج الذكاء الاصطناعي الحكم على صور الرؤية الحاسوبية بناءً على جودة محددة واحدة، مثل حدة الحواف. اختبر المؤلفون 20 نموذجًا من نماذج الذكاء الاصطناعي تعمل كحكام. كان أفضلها صحيحًا في 63.1 بالمئة من الحالات، أي قليلًا أقل من مرتين من كل ثلاث مرات. أما التخمين العشوائي فكان سيصيب في 32.2 بالمئة من الحالات. أفضل النماذج أفضل بوضوح من التخمين، لكنه ما يزال يخطئ في أكثر من ثلث الحالات.

هذه الفجوة هي سبب هذا المقال. إذا كان أفضل حكم بالذكاء الاصطناعي يرتكب هذا القدر من الأخطاء، فينبغي أن تختبر حكمك الخاص قبل أن تثق به. تهم هذه النتائج خارج المختبر أيضًا، لأن الناس يطلبون بالفعل من مساعدي الذكاء الاصطناعي فحص الصور والإجابة عنها. تخيّل أنك ترفع صورتين لعلبة دواء وتسأل عن الجرعة المناسبة، ثم ترفعهما بالترتيب المعكوس. إذا تغيرت الإجابة، فعليك أن تعرف هل كانت الملصقة صعبة القراءة أم أن ترتيب الصور أثر في النتيجة.

اختبر المؤلف ما إذا كان ترتيب الصور يمكن أن يؤثر في إجابات النموذج. في أحد الاختبارات، عُرضت على Claude صورتان وسُئل أيهما يحتوي على عدد أقل من تشوهات الضغط. وفي 24 محاولة، اختار Claude الصورة الثانية في 23 منها، مهما كانت محتوياتها. يشير ذلك إلى انحياز قوي للموضع، وإن كانت النتيجة مستمدة من صور الاختبار الخاصة بالمؤلف وقد لا تنطبق على كل أنواع الصور.

ثم أعد المؤلف اختبارًا أصغر بصور أصلية، يختلف فيه كل زوج بتغيير واحد معروف، وسجّل كل إجابة في Weights & Biases. كان الهدف كتابة نص برمجي قصير يتحقق من ثلاثة أمور في حكم الصور: هل ينتبه إلى التفصيل الذي تسأل عنه، وهل يفضّل الصورة الأولى أو الثانية، وهل يختلق إجابة.

Vision Q নামের একটি নতুন বেঞ্চমার্ক AI মডেলগুলোকে কম্পিউটার ভিশনের ছবি একটি নির্দিষ্ট গুণ, যেমন প্রান্তের তীক্ষ্ণতা, দেখে বিচার করতে বলে। লেখকরা বিচারক হিসেবে কাজ করা ২০টি AI মডেল পরীক্ষা করেন। সেরাটি ৬৩.১ শতাংশ ক্ষেত্রে সঠিক ছিল, অর্থাৎ প্রায় তিন-চতুর্থাংশের কাছাকাছি নয়, বরং তিনের মধ্যে প্রায় দুবার। এলোমেলো অনুমান ৩২.২ শতাংশ ক্ষেত্রে সঠিক হতো। সেরা মডেলটি অনুমানের চেয়ে স্পষ্টভাবে ভালো, তবু এক-তৃতীয়াংশের বেশি সময় ভুল করে।

এই ব্যবধানই এই প্রবন্ধের কারণ। সেরা AI বিচারক যদি এত ভুল করে, তবে তার ওপর ভরসা করার আগে আপনার নিজের বিচারককে যাচাই করা উচিত। এই স্কোরগুলো ল্যাবের বাইরেও গুরুত্বপূর্ণ, কারণ মানুষ ইতিমধ্যে AI সহকারীদের ছবি দেখে উত্তর দিতে বলছে। ধরুন আপনি একটি ওষুধের বাক্সের দুটি ছবি আপলোড করে জিজ্ঞেস করলেন কতটুকু খেতে হবে, তারপর ছবি দুটি উল্টো ক্রমে আপলোড করলেন। উত্তর বদলে গেলে আপনাকে জানতে হবে লেবেলটি পড়া কঠিন ছিল নাকি ছবির ক্রম ফলাফলকে প্রভাবিত করেছে।

লেখক পরীক্ষা করেছেন ছবির ক্রম মডেলের উত্তরকে প্রভাবিত করতে পারে কি না। এক পরীক্ষায় Claude-কে দুটি ছবি দেখিয়ে জিজ্ঞেস করা হয়েছিল কোনটিতে কম কমপ্রেশন আর্টিফ্যাক্ট আছে। ২৪টি পরীক্ষায় Claude ২৩বার দ্বিতীয় ছবিটি বেছে নেয়, ছবির বিষয় যাই হোক না কেন। এতে শক্তিশালী স্থানগত পক্ষপাতের ইঙ্গিত মেলে, যদিও ফলটি লেখকের নিজের পরীক্ষার ছবি থেকে এসেছে এবং সব ধরনের ছবিতে নাও খাটতে পারে।

এরপর লেখক মূল ছবি নিয়ে একটি ছোট পরীক্ষা সেট তৈরি করেন, যেখানে প্রতিটি জোড়ায় একটি জানা পরিবর্তন ছিল, এবং প্রতিটি উত্তর Weights & Biases-এ লিপিবদ্ধ করেন। লক্ষ্য ছিল একটি ছোট স্ক্রিপ্ট, যা ইমেজ বিচারকের তিনটি বিষয় যাচাই করে: সে কি আপনার জিজ্ঞাসিত বিবরণে মনোযোগ দেয়, প্রথম বা দ্বিতীয় ছবির প্রতি ঝোঁক দেখায় কি না, এবং উত্তর বানিয়ে বলে কি না।

Ein neuer Benchmark namens Vision Q verlangt von KI-Modellen, Bilder der Computer Vision anhand einer einzigen genannten Qualität zu beurteilen, etwa der Kantenschärfe. Die Autoren testeten 20 KI-Modelle, die als Richter fungierten. Das beste lag in 63,1 Prozent der Fälle richtig, also knapp zwei von drei Malen. Zufälliges Raten wäre in 32,2 Prozent der Fälle richtig gewesen. Das beste Modell ist eindeutig besser als Raten, verfehlt aber trotzdem mehr als ein Drittel der Fälle.

Diese Lücke ist der Grund für diesen Artikel. Wenn der beste KI-Richter so oft danebenliegt, sollten Sie Ihren eigenen Richter testen, bevor Sie ihm vertrauen. Diese Ergebnisse sind auch außerhalb des Labors wichtig, denn Menschen bitten KI-Assistenten bereits, Fotos zu prüfen und Fragen dazu zu beantworten. Stellen Sie sich vor, Sie laden zwei Fotos einer Medikamentenschachtel hoch und fragen, wie viel Sie einnehmen sollen, und laden sie dann in umgekehrter Reihenfolge hoch. Ändert sich die Antwort, müssen Sie wissen, ob das Etikett schwer lesbar war oder die Bildreihenfolge das Ergebnis beeinflusst hat.

Der Autor prüfte, ob die Reihenfolge der Bilder die Antworten eines Modells beeinflussen kann. In einem Test wurden Claude zwei Bilder gezeigt, und es sollte angeben, welches weniger Kompressionsartefakte aufweist. Bei 24 Durchläufen wählte Claude in 23 Fällen das zweite Bild, egal worum es sich handelte. Das deutet auf eine starke Positionsverzerrung hin, obwohl das Ergebnis auf den eigenen Testbildern des Autors beruht und möglicherweise nicht für alle Bildarten gilt.

Anschließend erstellte der Autor einen kleineren Test mit Originalbildern, bei dem sich jedes Paar durch genau eine bekannte Änderung unterschied, und protokollierte jede Antwort in Weights & Biases. Ziel war ein kurzes Skript, das drei Dinge über einen Bildrichter prüft: ob er auf das Detail achtet, nach dem gefragt wird, ob er das erste oder das zweite Bild bevorzugt und ob er Antworten erfindet.

Un nuevo benchmark llamado Vision Q pide a los modelos de IA que juzguen imágenes de visión artificial según una cualidad concreta, como la nitidez de los bordes. Los autores probaron 20 modelos de IA actuando como jueces. El mejor acertó el 63,1 por ciento de las veces, un poco menos de dos de cada tres. Adivinar al azar acertaría el 32,2 por ciento de las veces. El mejor modelo es claramente mejor que adivinar, pero aun así se equivoca más de un tercio de las veces.

Esa diferencia es el motivo de este artículo. Si el mejor juez de IA comete tantos errores, deberías probar tu propio juez antes de confiar en él. Estas puntuaciones importan también fuera del laboratorio, porque la gente ya pide a los asistentes de IA que miren fotos y respondan. Imagina subir dos fotos de una caja de medicamentos y preguntar cuánto tomar, y luego subirlas en el orden contrario. Si la respuesta cambia, necesitas saber si la etiqueta era difícil de leer o si el orden de las imágenes afectó el resultado.

El autor comprobó si el orden de las imágenes podía afectar las respuestas del modelo. En una prueba, se mostró a Claude dos imágenes y se le preguntó cuál tenía menos artefactos de compresión. En 24 ensayos, Claude eligió la segunda imagen en 23 de ellos, fuera cual fuera el contenido. Eso sugiere un fuerte sesgo de posición, aunque el resultado proviene de las imágenes de prueba del propio autor y podría no mantenerse para todo tipo de imágenes.

Después, el autor creó una prueba más pequeña con imágenes originales, en la que cada par difería en un único cambio conocido, y registró cada respuesta en Weights & Biases. El objetivo era un script breve que comprobara tres cosas de un juez de imágenes: si atiende al detalle que se le pide, si favorece la primera o la segunda imagen, y si inventa una respuesta.

Un nouveau benchmark appelé Vision Q demande aux modèles d'IA d'évaluer des images de vision par ordinateur selon une seule qualité précise, comme la netteté des contours. Les auteurs ont testé 20 modèles d'IA jouant le rôle de juges. Le meilleur avait raison dans 63,1 % des cas, un peu moins de deux fois sur trois. Une réponse au hasard aurait été juste dans 32,2 % des cas. Le meilleur modèle fait clairement mieux que le hasard, mais il se trompe encore plus d'un tiers du temps.

C'est cet écart qui motive cet article. Si le meilleur juge IA commet autant d'erreurs, vous devriez tester votre propre juge avant de lui faire confiance. Ces scores comptent aussi hors du laboratoire, car des personnes demandent déjà aux assistants IA d'examiner des photos et de répondre. Imaginez que vous envoyiez deux photos d'une boîte de médicaments en demandant la dose à prendre, puis que vous les envoyiez dans l'ordre inverse. Si la réponse change, vous devez savoir si l'étiquette était difficile à lire ou si l'ordre des images a influencé le résultat.

L'auteur a vérifié si l'ordre des images pouvait affecter les réponses d'un modèle. Dans un test, Claude a reçu deux images et on lui a demandé laquelle comportait moins d'artefacts de compression. Sur 24 essais, Claude a choisi la seconde image dans 23 cas, quel que soit le contenu. Cela suggère un fort biais de position, même si le résultat provient des images de test de l'auteur et pourrait ne pas se vérifier pour tous les types d'images.

L'auteur a ensuite construit un test plus petit à partir d'images originales, chaque paire ne différant que par une modification connue, et a enregistré chaque réponse dans Weights & Biases. L'objectif était un court script vérifiant trois points pour un juge d'images : s'il examine le détail demandé, s'il privilégie la première ou la seconde image, et s'il invente une réponse.

Vision Q नाम का एक नया बेंचमार्क AI मॉडलों से कहता है कि वे कंप्यूटर विज़न की छवियों को किसी एक निर्दिष्ट गुणवत्ता, जैसे किनारों की तीक्ष्णता, के आधार पर परखें। लेखकों ने जज की भूमिका निभाने वाले 20 AI मॉडलों का परीक्षण किया। सबसे अच्छा मॉडल 63.1 प्रतिशत बार सही था, यानी लगभग तीन में से दो बार। यादृच्छिक अनुमान 32.2 प्रतिशत बार सही होता। सबसे अच्छा मॉडल अनुमान लगाने से स्पष्ट रूप से बेहतर है, फिर भी वह एक-तिहाई से अधिक बार गलती करता है।

यही अंतर इस लेख का कारण है। अगर सबसे अच्छा AI जज इतनी गलतियाँ करता है, तो उस पर भरोसा करने से पहले आपको अपने जज की जाँच करनी चाहिए। ये स्कोर प्रयोगशाला के बाहर भी मायने रखते हैं, क्योंकि लोग पहले ही AI सहायकों से तस्वीरें देखकर उत्तर देने को कहते हैं। कल्पना कीजिए कि आप दवा के डिब्बे की दो तस्वीरें अपलोड करके पूछते हैं कि कितनी खुराक लेनी है, और फिर उन्हें उल्टे क्रम में अपलोड करते हैं। यदि उत्तर बदल जाता है, तो आपको पता लगाना होगा कि लेबल पढ़ना कठिन था या छवियों के क्रम ने परिणाम को प्रभावित किया।

लेखक ने परखा कि क्या छवियों का क्रम मॉडल के उत्तरों को प्रभावित कर सकता है। एक परीक्षण में Claude को दो तस्वीरें दिखाकर पूछा गया कि किसमें कम कंप्रेशन आर्टिफैक्ट्स हैं। 24 परीक्षणों में Claude ने 23 बार दूसरी तस्वीर चुनी, चाहे तस्वीरें कैसी भी थीं। इससे मज़बूत स्थिति-पूर्वाग्रह का संकेत मिलता है, हालाँकि यह परिणाम लेखक की अपनी परीक्षण छवियों से आया है और हर प्रकार की तस्वीर पर लागू नहीं हो सकता।

इसके बाद लेखक ने मूल छवियों का एक छोटा परीक्षण सेट बनाया, जिसमें हर जोड़ी में एक ज्ञात बदलाव था, और हर उत्तर को Weights & Biases में दर्ज किया। लक्ष्य एक छोटी स्क्रिप्ट बनाना था जो इमेज जज की तीन बातों की जाँच करे: क्या वह उस विवरण को देखता है जिसके बारे में आप पूछते हैं, क्या वह पहली या दूसरी छवि की ओर झुकता है, और क्या वह उत्तर गढ़ लेता है।

Sebuah benchmark baru bernama Vision Q meminta model AI menilai gambar computer vision berdasarkan satu kualitas tertentu, seperti ketajaman tepi. Para penulis menguji 20 model AI yang berperan sebagai juri. Yang terbaik benar dalam 63,1 persen kasus, sedikit kurang dari dua dari tiga kali. Tebakan acak akan benar dalam 32,2 persen kasus. Model terbaik jelas lebih baik daripada menebak, tetapi tetap meleset lebih dari sepertiga waktu.

Kesenjangan itulah alasan artikel ini ditulis. Jika juri AI terbaik membuat kesalahan sebanyak ini, Anda sebaiknya menguji juri Anda sendiri sebelum mempercayainya. Skor ini juga penting di luar laboratorium, karena orang sudah meminta asisten AI untuk memeriksa foto dan menjawab. Bayangkan Anda mengunggah dua foto kotak obat dan bertanya berapa dosis yang harus diminum, lalu mengunggahnya kembali dengan urutan terbalik. Jika jawabannya berubah, Anda perlu tahu apakah labelnya sulit dibaca atau urutan gambar memengaruhi hasilnya.

Penulis menguji apakah urutan gambar dapat memengaruhi jawaban model. Dalam satu tes, Claude diperlihatkan dua gambar dan ditanya mana yang memiliki lebih sedikit artefak kompresi. Dari 24 percobaan, Claude memilih gambar kedua dalam 23 di antaranya, apa pun isi gambarnya. Hal ini menunjukkan bias posisi yang kuat, meskipun hasilnya berasal dari gambar uji milik penulis sendiri dan mungkin tidak berlaku untuk semua jenis gambar.

Penulis kemudian membuat tes yang lebih kecil menggunakan gambar asli, dengan setiap pasangan berbeda hanya pada satu perubahan yang diketahui, dan mencatat setiap jawaban di Weights & Biases. Tujuannya adalah sebuah skrip singkat yang memeriksa tiga hal pada juri gambar: apakah ia memperhatikan detail yang Anda tanyakan, apakah ia lebih memilih gambar pertama atau kedua, dan apakah ia mengarang jawaban.

Vision Qと呼ばれる新しいベンチマークは、エッジの鮮明さなど一つの指定された品質について、AIモデルにコンピュータビジョンの画像を評価させます。著者らは審査役を務める20のAIモデルを試しました。最も優れたモデルの正答率は63.1%で、ほぼ3回に2回です。ランダムに推測した場合の正答率は32.2%でした。最良のモデルは推測よりも明らかに優れていますが、それでも3分の1以上の確率で誤答します。

この差こそが本記事の理由です。最良のAI審査役でさえこれほど間違えるのであれば、信頼する前に自分の審査役を検証すべきです。こうしたスコアは研究室の外でも重要です。人々はすでにAIアシスタントに写真を見せて答えさせています。たとえば、薬の箱の写真を2枚アップロードして服用量を尋ね、その後、順番を入れ替えて再びアップロードすると想像してください。答えが変わったなら、ラベルが読みにくかったのか、それとも画像の順序が結果に影響したのかを知る必要があります。

著者は、画像の順序がモデルの回答に影響するかどうかを検証しました。ある試験では、Claudeに2枚の画像を見せ、どちらに圧縮ノイズが少ないかを尋ねました。24回の試行のうち、Claudeは画像の内容に関係なく23回で2番目の画像を選びました。これは強い位置バイアスを示唆しますが、結果は著者自身の試験画像によるものであり、あらゆる種類の画像に当てはまるとは限りません。

その後、著者は元の画像を用いた小規模な試験を作成しました。各ペアは既知の一つの変更のみが異なり、すべての回答をWeights & Biasesに記録しました。目標は、画像審査役について三つの点、すなわち尋ねられた細部に注目しているか、最初と2番目のどちらの画像を優遇するか、答えを捏造していないかを確認する短いスクリプトを作ることでした。

Um novo benchmark chamado Vision Q pede que modelos de IA avaliem imagens de visão computacional com base em uma única qualidade específica, como a nitidez das bordas. Os autores testaram 20 modelos de IA atuando como juízes. O melhor acertou 63,1 por cento das vezes, um pouco menos de duas em cada três. O chute aleatório acertaria 32,2 por cento das vezes. O melhor modelo é claramente superior ao acaso, mas ainda erra mais de um terço das vezes.

Essa diferença é o motivo deste artigo. Se o melhor juiz de IA comete tantos erros, você deve testar o seu próprio juiz antes de confiar nele. Esses resultados também importam fora do laboratório, porque as pessoas já pedem a assistentes de IA que olhem fotos e respondam. Imagine enviar duas fotos de uma caixa de remédio e perguntar quanto tomar, e depois enviá-las na ordem inversa. Se a resposta mudar, você precisa saber se o rótulo era difícil de ler ou se a ordem das imagens afetou o resultado.

O autor verificou se a ordem das imagens poderia afetar as respostas do modelo. Em um teste, mostrou-se duas imagens ao Claude e perguntou-se qual tinha menos artefatos de compressão. Em 24 tentativas, o Claude escolheu a segunda imagem em 23 delas, independentemente do conteúdo. Isso sugere um forte viés de posição, embora o resultado venha das imagens de teste do próprio autor e possa não valer para todos os tipos de imagem.

Em seguida, o autor montou um teste menor com imagens originais, em que cada par diferia por uma única alteração conhecida, e registrou cada resposta no Weights & Biases. O objetivo era um script curto que verificasse três coisas em um juiz de imagens: se ele observa o detalhe que você pede, se favorece a primeira ou a segunda imagem e se inventa uma resposta.

Новый бенчмарк под названием Vision Q просит модели ИИ оценивать изображения компьютерного зрения по одному заданному качеству, например по резкости контуров. Авторы протестировали 20 моделей ИИ, выступавших в роли судей. Лучшая из них оказалась права в 63,1 процента случаев, чуть меньше двух раз из трёх. Случайное угадывание дало бы верный ответ в 32,2 процента случаев. Лучшая модель явно лучше угадывания, но всё же ошибается более чем в трети случаев.

Именно этот разрыв и побудил написать эту статью. Если лучший ИИ-судья допускает столько ошибок, перед тем как доверять своему судье, его стоит проверить. Эти цифры важны и за пределами лаборатории, потому что люди уже просят ИИ-ассистентов рассмотреть фотографии и ответить. Представьте, что вы загружаете два фото упаковки лекарства и спрашиваете, сколько принимать, а затем загружаете их в обратном порядке. Если ответ меняется, нужно понять, была ли надпись трудночитаемой или порядок изображений повлиял на результат.

Автор проверил, может ли порядок изображений влиять на ответы модели. В одном тесте Claude показали две картинки и спросили, на какой меньше артефактов сжатия. В 24 попытках Claude выбрал вторую картинку в 23 случаях, какими бы ни были изображения. Это указывает на сильное смещение по позиции, хотя результат получен на тестовых изображениях самого автора и может не подтвердиться для всех типов картинок.

Затем автор создал меньший тест на основе исходных изображений, в котором каждая пара отличалась одним известным изменением, и записал каждый ответ в Weights & Biases. Цель состояла в том, чтобы написать короткий скрипт, проверяющий три свойства ИИ-судьи изображений: смотрит ли он на тот деталь, о которой его спрашивают, отдаёт ли предпочтение первому или второму изображению и выдумывает ли он ответ.

一个名为Vision Q的新基准要求AI模型根据某一指定质量标准（例如边缘锐度）来评判计算机视觉图像。作者测试了20个充当评判者的AI模型。表现最好的一个正确率为63.1%，略低于三分之二。随机猜测的正确率为32.2%。最佳模型显然优于随机猜测，但仍有超过三分之一的时间会出错。

这一差距正是本文的写作原因。如果最佳AI评判者犯这么多错误，那么在信任自己的评判器之前，你应该先测试它。这些分数在实验室之外同样重要，因为人们已经在让AI助手查看照片并作答。设想你上传两张药盒照片，询问应该服用多少，然后又以相反的顺序上传。如果答案发生变化，你需要弄清楚究竟是标签难以辨认，还是图像顺序影响了结果。

作者测试了图像顺序是否会影响模型的回答。在一项测试中，向Claude展示两张图片，询问哪一张的压缩伪影更少。在24次试验中，无论图片内容如何，Claude有23次都选择了第二张图片。这表明存在较强的位置偏差，不过该结果来自作者自己的测试图像，未必适用于所有类型的图片。

随后，作者构建了一个规模较小的原始图像测试集，每对图像只存在一处已知的差异，并将每个回答记录到Weights & Biases。目标是编写一个简短的脚本，检查图像评判器的三个方面：它是否关注你所询问的细节、是否偏向第一张或第二张图片，以及它是否会编造答案。