Zaidi ya "Ilitengenezwa na AI?": Wakala Anayekagua Kama Tukio Lililo Kwenye Picha Lilitokea Kweli ── Makala ya awali (preprint) inayopendekeza EviScene, ambayo huboresha maswali yake yenyewe kutoka kwenye picha na kukusanya ushahidi wa nje bila kupewa dai la kuthibitisha

1. "Je, ni AI?" na "Je, ni kweli?" ni maswali tofauti

Sehemu kubwa ya kazi za hivi karibuni kuhusu uthibitishaji wa picha imejikita kwenye swali moja: je, picha hii ilitengenezwa na modeli ya kizazi? Muhtasari unaanza kwa kubainisha kwamba hili halijibu swali muhimu katika vitendo. Kujua kama picha imetengenezwa na AI hakuthibitishi kama hali inayoonyeshwa inaungwa mkono na ukweli.^[1]

Visa vigumu zaidi ni vya kawaida. Picha halisi inachapishwa upya kana kwamba inaonyesha siku nyingine au mahali pengine. Tukio ni halisi, lakini hadithi iliyoambatishwa ni ya uongo. Kinyume chake pia hutokea: picha iliyohaririwa bado inaweza kufikisha jambo sahihi. Katika visa vingi kati ya hivi, kigunduzi kinachosema "halisi" au "imetengenezwa" hakisaidii.

Kuna ugumu wa pili. Mifumo mingi ya kukagua ukweli hupokea dai lililoandikwa, kama vile "picha hii inaonyesha X," kisha hulijaribu. Makala hii inaondoa dai hilo. Mfumo hupewa picha pekee na maelekezo ya jumla ya kuithibitisha. Lazima ujiamulie wenyewe nini kinastahili kukaguliwa.

2. Wazo kuu: kurekebisha swali wakati wa uchunguzi

Waandishi wanafafanua kazi hiyo kama ifuatavyo. Ikipewa picha na maagizo ya jumla ya uthibitishaji, mfumo hurudisha uamuzi, ama unaungwa mkono au umekanushwa, pamoja na maelezo yanayotegemea ushahidi. Kwa kuwa hakuna dai linalotolewa, mfumo lazima upunguze maswali yake ya kiukweli uchunguzi unavyoendelea na ulinganishe ushahidi wa nje unaoupata na hali mahususi iliyo kwenye picha.

EviScene imejengwa kwa kazi hii. Kulingana na muhtasari, ni wakala wa aina nyingi wa mtindo wa ReAct unaobadilishana kati ya vitendo vitatu: kukagua picha, kupata taarifa za nje, na kuchambua ushahidi. ReAct ni mfumo wa awali ambamo modeli ya lugha huchanganya hatua za kufikiri na vitendo kama utafutaji.^[4]

Mapitio haya yanapunguza mbinu hadi hoja moja: wakala hutumia matokeo mapya kuandika upya maswali yake na kurudi kwenye sehemu husika za picha. Haendelei kutafuta kwa swali alilolianza nalo. Pasipo na dai la kushikilia utafutaji, waandishi wanahoji, mzunguko huu wa kwenda na kurudi ndio huamua ubora wa hukumu.

Mapishi ya mafunzo pia yameelezwa. Kwanza, modeli ndogo ya sera hurekebishwa kwa kutumia kumbukumbu za uchunguzi kutoka kwa modeli mwalimu ambazo zilikaguliwa na binadamu. Kisha hufunzwa kwa kujifunza-kutoka-kwake (self-distillation) ndani ya sera yenye taarifa za "kipekee" kuhusu maamuzi ya uchunguzi wake yaliyoweza kuthibitishwa. Muhtasari haueleza taarifa za "kipekee" hizo zinajumuisha nini.

3. Kile muhtasari unachoripoti

• Kigezo cha ulinganisho (EviLens): picha 10,174 zinazothibitishwa na kukanushwa, zilizopitiwa na wataalamu, zilizotokana na uundaji unaodhibitiwa na ukusanyaji kutoka mtandaoni. Inajumuisha aina kumi na mbili za makosa ya kiukweli na hupima usahihi wa hukumu na kama ushahidi uliotajwa unatosha.
• Kielelezo: wakala aliyefunzwa kwa msingi wa Qwen3.5-9B.
• Matokeo: kwenye seti ya majaribio ya picha 1,527, wakala aliyefunzwa hufikia usahihi uliosawazishwa wa 79.05% na Kiwango Kali cha Utoshelevu wa Ushahidi (SESR) cha 52.26%.
• Ulinganisho: hizi ni pointi 6.71 na 9.37 za asilimia juu kuliko wakala msingi ambaye hajafunzwa kwenye mfumo huo huo. SESR yake imeelezwa kuwa ya juu zaidi kati ya mawakala waliotathminiwa.

Pengo moja linajitokeza. Utoshelevu wa ushahidi uko chini sana kuliko usahihi wa hukumu, jambo linalomaanisha kwamba hukumu sahihi mara nyingi huja na ushahidi ambao haungepita ukaguzi mkali. Muhtasari haulitaji mawakala wengine uliolinganisha nao wala haueleze tofauti hizo zilikuwa kubwa kiasi gani.

4. Mfano wa vitendo: picha inayosambaa ndani ya kampuni

Fikiria kisa kilicho karibu na kazi ya dawa. Picha inachapishwa kwenye gumzo la ndani ikionyesha kifurushi kisichojulikana kwenye rafu ya duka la dawa, na watu wanaanza kuuliza kama ni bidhaa bandia. Mazungumzo yaliyo hapa chini yanatumia mbinu ya EviScene kwa mfano tu; muhtasari haubainishi kama jarida lilijumuisha picha za aina hii.

Hoja ya mfano huo ni kwamba swali la kwanza (je, ni bandia?) na swali lililorekebishwa (lilipigwa lini na wapi?) ni tofauti. Kurudisha kile kisichoweza kuthibitishwa pamoja na hukumu kunaonyesha kwa nini karatasi hiyo hupima utoshelevu wa ushahidi kando na usahihi.

5. Nini si kipya, na mipaka iko wapi

Baadhi ya sehemu zinajulikana. Kuchanganya hoja na utafutaji kunafuata mstari wa kazi wa ReAct. Kuthibitisha madai kwa ushahidi wa nje kuna historia ndefu ya utafiti. Kumdistilia mwalimu hatua zake kwenye mfumo mdogo ni mbinu ya kawaida. Mchango unasomeka vyema zaidi kama uundaji wa kazi (ukweli bila dai lililotolewa), kipimo cha ulinganisho, na tathmini inayouliza kama ushahidi unatosha, si tu kama hukumu ni sahihi.

Mipaka ni kadhaa. Kwanza, jinsi EviLens ilivyojengwa. Picha zilizotengenezwa chini ya ujenzi unaodhibitiwa hurahisisha kupanga aina za makosa, lakini huenda zisilingane na jinsi taarifa potofu zinavyosambazwa katika mazingira halisi. Muhtasari haueleezi jinsi mapitio ya wataalamu yalivyokuwa mapana.

Pili, ubora wa ushahidi wenyewe. Wakala hutegemea upatikanaji wa taarifa. Ikiwa maudhui ya mtandaoni anayoyapata ni ya zamani, yasiyo sahihi, au yaliyopandikizwa, hukumu itayafuata. Muhtasari hauelezi jinsi wigo wa utafutaji au tarehe ya utafutaji ilivyobainishwa.

Tatu, jinsi ya kusoma namba hizi. Usahihi uliosawazishwa karibu na nane kati ya kumi pia unamaanisha wakala hukosea takriban mara moja kati ya kesi tano, na utoshelevu wa ushahidi ni mdogo zaidi. Hiki si kiwango ambacho mapitio ya binadamu yanaweza kuachwa, na waandishi hawadai hivyo.

Nne, uwezekano wa kurudiwa. Muhtasari unasema msimbo, miundo, na data vitatolewa. Huo ni mpango uliotajwa; mapitio haya hayajakagua kama utoaji umefanyika.

6. Kwa nini mada hii inakusanyika sasa

Mfumo wa uteuzi uliweka makala hii katika kundi la "Agents and Autonomy" lenye ukubwa wa 2. Makala nyingine, "Beyond the Verdict," inachunguza kuhukumu na kutambua kasoro katika suluhisho za mashindano ya programu bila kutumia uwasilishaji rasmi, na inachukulia mifano pinzani iliyozalishwa kama ushahidi unaoweza kuthibitishwa.^[3]

Picha na programu ni vitu tofauti sana. Kinachofanana kwenye karatasi hizo mbili ni kukataa kuishia kwenye hukumu tupu ya sahihi au kosa. Zote mbili zinataka mfumo utoe ushahidi ambao mtu wa tatu anaweza kuukagua. Mawakala wanapopewa maamuzi zaidi, swali linahama kutoka kama hukumu ni sahihi hadi kama mtu anaweza kuikagua baadaye, na karatasi zote mbili zinajenga sharti hilo ndani ya tathmini yake.

Kwa kumbukumbu, ishara ni za wastani. Kwenye ukurasa wa karatasi wa Hugging Face kazi hiyo ina kura 44 za kuunga mkono na maoni 1, na hazina yake ya GitHub ina nyota 0.^[2] Kura za kupendwa zinaonyesha kuwa watafiti waliiona makala hiyo. Hazisemi chochote kuhusu kama madai yake ni sahihi au kama inafaa kwa vitendo. Kundi la mbili ni dogo, na ingekuwa mapema kusema huu ni mwelekeo uliokomaa kikamilifu.

7. Mahali hili linapoungana na kazi za dawa na udhibiti

Kampuni za dawa hupokea picha zenye asili isiyo wazi kila mara: picha za bidhaa kwenye mitandao ya kijamii, vifungashio vinavyoweza kuwa bandia, picha zilizoambatishwa kwenye maswali ya matukio mabaya, na picha zinazopendekezwa kutumika katika nyenzo za matangazo ambazo chanzo chake kinahitaji kuthibitishwa. Hakuna kati ya hayo linalotatuliwa kwa kuuliza kama picha ilitengenezwa. Cha muhimu ni kama hali inayoonyeshwa ni halisi.

Chaguo la usanifu lenye umuhimu mkubwa zaidi kwa utendaji ni utenganishaji kati ya hukumu na utoshelevu wa ushahidi wake. Katika maamuzi yanayodhibitiwa, rekodi ya jinsi hitimisho lilivyofikiwa mara nyingi ni muhimu kama hitimisho lenyewe. Hukumu sahihi yenye uthibitisho hafifu ni vigumu kuitetea katika ukaguzi. Kupima utoshelevu wa ushahidi katika kipimo chake chenyewe kunatoa njia ya kufikiria vigezo vya kukubalika pale AI inapoongezwa kwenye kazi ya uthibitishaji.

Hata hivyo, wakala kama huyu angekuwa katika ngazi ya uchambuzi wa awali wa kupanga kipaumbele na rasimu ya kumbukumbu ya uchunguzi. Kwa kuwa unategemea kile ambacho urejeshaji wa taarifa hurudisha wakati fulani, hukumu zake zimefungamana na wakati huo. Kumbukumbu inapaswa kuhifadhiwa, uamuzi wa mwisho ubaki kwa mtu, na mtu huyo aweze kusoma kumbukumbu na kuikagua. Kinachoweza kuchukuliwa kutoka kwenye preprint katika hatua hii si sana kiwango mahususi cha utendaji, bali ni tabia ya usanifu ya kurekodi hukumu na ushahidi kando kando.