The agent receives only an image and a generic instruction, with no claim. EviScene alternates between inspecting the image, retrieving outside information and analysing evidence, rewriting its questions as it goes, then returns a verdict with evidence. On the test set, balanced accuracy is 79.05% and SESR is 52.26%, so evidence sufficiency is lower. Limits are how the benchmark was built and the quality of retrieved content; a person makes the final call.
ملخص مصوّر — المقال كاملًا في صفحة واحدة (انقر للتكبير)

1. «هل هو ذكاء اصطناعي؟» و«هل هو صحيح؟» سؤالان مختلفان

تركّز جزء كبير من الأعمال الحديثة في التحقق من الصور على سؤال واحد: هل أُنتجت هذه الصورة بواسطة نموذج توليدي؟ ويبدأ الملخص بالإشارة إلى أن هذا لا يجيب عن السؤال المهم عمليًا. فمعرفة ما إذا كانت الصورة مولَّدة بالذكاء الاصطناعي لا تثبت ما إذا كان الموقف الذي تصوّره مدعومًا بالوقائع.[1]

الحالات الأصعب هي الحالات العادية. تُنشر صورة حقيقية من جديد وكأنها تُظهر يومًا مختلفًا أو مكانًا مختلفًا. فالمشهد أصيل، لكن القصة المرفقة به كاذبة. والعكس يحدث أيضًا: فقد تظل الصورة المعدَّلة تنقل شيئًا دقيقًا. وفي كثير من هذه الحالات، لا يفيد كاشفٌ يقول "حقيقية" أو "مولَّدة".

ثمة صعوبة ثانية. تتلقى معظم أنظمة التحقق من الوقائع ادعاءً مكتوبًا، مثل «تُظهر هذه الصورة كذا»، ثم تختبره. وهذه الورقة تزيل هذا الادعاء. فالنظام لا يتلقى سوى الصورة وتعليمات عامة بالتحقق منها. وعليه أن يقرر بنفسه ما يستحق الفحص.

2. الفكرة الأساسية: مراجعة السؤال أثناء التحقيق

يعرّف المؤلفون المهمة على النحو التالي. بالنظر إلى صورة وتعليمات تحقق عامة، يعيد النظام حكمًا، إما مدعومًا أو مدحوضًا، مع تفسير قائم على الأدلة. وبما أنه لا يُقدَّم أي ادعاء، يجب على النظام أن يضيّق أسئلته الواقعية مع تقدم التحقيق، وأن يطابق الأدلة الخارجية التي يجدها مع الموقف المحدد في الصورة.

صُمم EviScene لهذه المهمة. ووفقًا للملخص، فهو وكيل متعدد الوسائط على طراز ReAct يتناوب بين ثلاثة إجراءات: فحص الصورة، واسترجاع معلومات خارجية، وتحليل الأدلة. وReAct إطار عمل سابق يدمج فيه نموذج لغوي خطوات الاستدلال مع إجراءات مثل البحث.[4]

تحصر هذه المراجعة المنهج في نقطة واحدة: يستخدم الوكيل النتائج الجديدة لإعادة صياغة أسئلته وللعودة إلى الأجزاء ذات الصلة من الصورة. فهو لا يواصل البحث بالسؤال الذي بدأ به. وعندما لا يوجد ادعاء يُثبَّت عليه البحث، يرى المؤلفون أن هذا الذهاب والإياب هو ما يحدد جودة الحكم.

كما يُوصف أسلوب التدريب. يُضبط أولًا نموذج مضغوط للسياسات ضبطًا دقيقًا على آثار تحقيقات من نموذج معلّم راجعها بشر. ثم يُدرَّب بالتقطير الذاتي المتوافق مع السياسة مع معلومات مميزة على قرارات من تحقيقاته الخاصة أمكن التحقق منها. أما ما تتكون منه المعلومات «المميزة» فلا يُذكر في الملخص.

3. ما يورده الملخص

تبرز فجوة واحدة. فكفاية الأدلة أقل بكثير من دقة الحكم، ما يعني أن الحكم الصحيح كثيرًا ما يأتي مصحوبًا بأدلة لن تجتاز مراجعة صارمة. ولا يذكر الملخص الوكلاء الآخرين الذين جرت المقارنة معهم، ولا حجم تلك الفروق.

4. مثال تطبيقي: صورة تتداول داخل شركة

لنتأمل حالة قريبة من العمل الصيدلاني. نُشرت صورة في دردشة داخلية تُظهر عبوة غير مألوفة على رف صيدلية، وبدأ الناس يسألون عما إذا كانت مقلَّدة. يطبّق التبادل أدناه نهج EviScene لأغراض التوضيح فقط؛ فالملخص لا يذكر ما إذا كانت الورقة البحثية قد تضمنت صورًا من هذا النوع.

الموظف: يرجى التحقق مما إذا كانت هذه الصورة واقعية.
الوكيل: (يفحص الصورة) أرى ملصق العبوة وبطاقة سعر على الرف وإشعارًا في المتجر. سؤالي الأول هو ما إذا كانت هذه العبوة تطابق التصميم الأصلي الحالي.
الوكيل: (يبحث) يحتوي موقع الشركة المصنّعة على إشعار بشأن تغيير في التغليف، والتصميم الجديد يطابق الصورة.
الوكيل: (يعدّل السؤال) التالي: متى وأين تُعرض هذه الصورة على أنها التُقطت؟ سأنظر مجددًا إلى النص الموجود على إشعار المتجر.
الوكيل: الحكم: مؤيَّد. الإشعار الرسمي يطابق العبوة، لذا فإن رواية التزييف غير مدعومة. لم أتمكن من تأكيد مكان التقاط الصورة.

الغاية من هذا المثال أن السؤال الأول (هل هي مزيفة؟) والسؤال المعدَّل (متى وأين التُقطت؟) سؤالان مختلفان. وإعادة ما تعذّر تأكيده إلى جانب الحكم تعكس السبب في أن الورقة تقيّم كفاية الأدلة بشكل منفصل عن الدقة.

5. ما ليس جديدًا وأين تكمن الحدود

بعض الأجزاء مألوفة. فالمزج بين الاستدلال والبحث يتبع خط أعمال ReAct. والتحقق من الادعاءات في ضوء أدلة خارجية له تاريخ بحثي طويل. وتقطير آثار معلّم في نموذج أصغر تقنية معيارية. أما الإسهام فيُقرأ على نحو أفضل في صياغة المهمة (الدقة الوقائعية دون ادعاء مقدَّم)، وفي المعيار المرجعي، وفي تقييم يسأل عما إذا كانت الأدلة كافية، لا عما إذا كان الحكم صحيحًا فحسب.

القيود عدة. أولًا، كيفية بناء EviLens. فالصور المنتجة في ظل بناء محكوم تجعل أنواع الأخطاء سهلة التنظيم، لكنها قد لا تتطابق مع طريقة انتشار المعلومات المضللة في الواقع. ولا يصف الملخص مدى اتساع مراجعة الخبراء.

ثانيًا، جودة الأدلة نفسها. يعتمد الوكيل على الاسترجاع. فإذا كان محتوى الويب الذي يجده قديمًا أو خاطئًا أو مزروعًا عمدًا، فسيتبعه الحكم. ولا يوضح الملخص كيف تم تحديد نطاق البحث أو تاريخه.

ثالثًا، كيفية قراءة الأرقام. فالدقة المتوازنة التي تقارب ثمانية من عشرة تعني أيضًا أن الوكيل يخطئ في نحو حالة من كل خمس حالات، وكفاية الأدلة أقل من ذلك. وهذا ليس مستوى يمكن عنده الاستغناء عن المراجعة البشرية، والمؤلفون لا يدّعون ذلك.

رابعًا، قابلية إعادة الإنتاج. يذكر الملخص أنه سيتم إصدار الشيفرة والنماذج والبيانات. هذه خطة معلنة؛ ولم تتحقق هذه المراجعة مما إذا كان الإصدار قد تم.

6. لماذا يتكتل هذا الموضوع الآن

صنّف خط الانتقاء هذه الورقة ضمن مجموعة «الوكلاء والاستقلالية» بحجم 2. أما الورقة الأخرى، «Beyond the Verdict»، فتدرس الحكم على حلول البرمجة التنافسية وتشخيصها دون استهلاك عمليات التقديم الرسمية، وتتعامل مع الأمثلة المضادة المولَّدة بوصفها أدلة قابلة للتحقق.[3]

الصور والبرامج مادتان مختلفتان تمامًا. ما تشترك فيه الورقتان هو رفض الاكتفاء بحكم مجرد بالصواب أو الخطأ. فكلتاهما تطلب من النظام تقديم دليل يمكن لطرف ثالث التحقق منه. ومع منح الوكلاء مزيدًا من القرارات، ينتقل السؤال من مدى صحة الحكم إلى ما إذا كان بإمكان أحد تدقيقه لاحقًا، وكلتا الورقتين تدمج هذا الشرط في تقييمها.

للتوثيق، الإشارات متواضعة. ففي صفحة الورقة على Hugging Face حصل العمل على 44 تصويتاً إيجابياً وتعليق واحد، ولا يملك مستودعه على GitHub أي نجوم (0).[2] تُظهر التصويتات الإيجابية أن الباحثين لاحظوا الورقة. لكنها لا تقول شيئًا عن صحة ادعاءاتها أو فائدتها العملية. المجموعة المكوّنة من اثنين صغيرة، ومن السابق لأوانه وصف هذا باتجاه مكتمل التشكّل.

7. أين يرتبط هذا بالعمل الدوائي والتنظيمي

تتلقى شركات الأدوية صورًا مجهولة المصدر طوال الوقت: صور منتجات على وسائل التواصل الاجتماعي، وعبوات قد تكون مقلّدة، وصور مرفقة باستفسارات عن أحداث ضارة، وصور مقترحة للاستخدام في مواد ترويجية يحتاج مصدرها إلى تحقق. ولا يُحسم أيٌّ من هذه الأمور بالسؤال عمّا إذا كانت الصورة مولَّدة. فالمهم هو ما إذا كان الموقف المصوَّر حقيقيًا.

إن خيار التصميم الأكثر صلة بالممارسة هو الفصل بين الحكم ومدى كفاية الأدلة التي يستند إليها. ففي القرارات الخاضعة للتنظيم، غالباً ما لا يقل سجلّ كيفية الوصول إلى الاستنتاج أهمية عن الاستنتاج نفسه. ومن الصعب الدفاع عن حكم صحيح لكن دعمه ضعيف أثناء التدقيق. أما تقييم كفاية الأدلة على محور مستقل فيوفّر طريقة للتفكير في معايير القبول عند إضافة الذكاء الاصطناعي إلى أعمال التحقق.

ومع ذلك، سيكون وكيل كهذا في مستوى الفرز الأولي ومسودة سجل تحقيق. ولأنه يعتمد على ما يعيده الاسترجاع في لحظة معينة، فإن أحكامه مرتبطة بتلك اللحظة. ينبغي الاحتفاظ بالسجل، وأن يبقى القرار النهائي بيد شخص، وأن يكون بوسع هذا الشخص قراءة السجل والتحقق منه. وما يمكن استخلاصه من ورقة بحثية أولية في هذه المرحلة هو عادة التصميم القائمة على تسجيل الحكم والدليل بصورة منفصلة، أكثر من رقم الأداء المحدد.