Sheria ya AI ya Kuajiri ya NYC: Waajiri 18 tu kati ya 391 Walichapisha Ukaguzi── Ikiwa hakuna mtu wa nje anayeweza kukagua kama ukaguzi unaohitajika ulifanywa, ukiukaji haujulikani na hakuna anayewajibishwa

Mnamo Oktoba 14, 2026, Stanford HAI ilimwelezea Deb Raji, mtafiti anayechunguza uwajibikaji wa AI, na Raji alisema sekta hiyo ilidharau sana ugumu wa kutekeleza sheria ambazo ilizipigania. Kwa nini sheria za uwajibikaji wa AI mara nyingi hazimwachi mtu yeyote kuwajibishwa kweli?Kwa sababu pale ambapo hakuna mtu wa nje anayeweza kuthibitisha kama ukaguzi na taarifa zinazotakiwa zilifanyika, ukiukaji hubaki usioonekana, na mchakato wa kumwajibisha yeyote haujawahi kuanza.

01Sheria za AI zinakwama pale ambapo watu wa nje hawawezi kukagua utiifu

Sheria iliyopo lakini isiyoweza kutekelezwa huacha mkondo wa namba, na mkondo ulio wazi zaidi unatoka katika jiji ambalo sheria ya AI imekuwa ikifanya kazi kwa muda. Anza na Raji mwenyewe. Anajulikana kwa ukaguzi wa mifumo ya kibiashara ya utambuzi wa nyuso, alisaidia kuunda Model Cards akiwa Google, na anatumia msimu huu wa vuli katika Stanford HAI kama mtafiti mgeni kabla ya kujiunga na kitivo katika msimu wa vuli wa 2027.

Katika mahojiano, Raji alieleza historia ya fani hii kwa hatua. Karibu mwaka 2017, mazungumzo yote yalihusu kanuni za kiwango cha juu. Kuanzia takriban 2020 hadi 2023, mapendekezo makini ya kisheria yalifika. Baada ya ChatGPT, sheria zilianza kupitishwa, na mojawapo ya mifano aliyoitaja ilikuwa Local Law 144 ya Jiji la New York.

Kinachofuata baada ya kupitishwa ni utekelezaji. "Nadhani tulipuuza sana changamoto ya utekelezaji," alisema Raji.

Rekodi ya Sheria ya Mtaa 144 inaelekeza upande huo huo. Mnamo 2024, timu ya watafiti ilikagua waajiri 391 na kugundua kwamba ni 18 pekee waliokuwa wamechapisha ukaguzi wa upendeleo unaohitajiwa na sheria. Mnamo 2025, Mdhibiti wa Fedha wa Jimbo la New York alichunguza jinsi wakala wa jiji ulivyokuwa ukitekeleza sheria hiyo. Wakala huo ulikuwa umepitia ukaguzi 32 uliochapishwa na kubaini ukiukaji mmoja unaowezekana. Wakaguzi wa jimbo walisoma ukaguzi huo huo 32 na kupata angalau 17.

Ili kuwa wazi, hakuna kati ya namba hizi inayotoka kwa Raji. Zinatoka kwa watafiti wa kitaaluma na ukaguzi wa serikali ya jimbo. Hata hivyo, vyanzo hivyo viwili vinakutana kwenye ukweli mmoja: utii unaposhindwa kuonekana kutoka nje, ukiukaji haujitokezi.

Kwa yeyote anayetumia AI ndani ya shirika, nina hitimisho moja la kivitendo. Usisubiri kuona sheria zipi zitakuja. Weka kumbukumbu ya matumizi yako ya AI ambayo mtu wa nje anaweza kuikagua. Mtu anapokuomba utoe maelezo kuhusu uamuzi, kumbukumbu hiyo ndiyo msingi pekee ambao jibu lako linaweza kusimamia.

02Local Law 144: zana za uajiri zinahitaji ukaguzi wa upendeleo ndani ya mwaka mmoja, na matokeo yawekwe wazi

Kabla ya kuchukulia 18 kati ya 391 kama hukumu, inasaidia kujua hasa ni wajibu gani waajiri hao walikuwa nao.

Local Law 144 ni sheria ya Jiji la New York inayohusu zana za kiotomatiki za maamuzi ya ajira, programu ambazo waajiri hutumia kuchuja au kupanga wagombea wa kazi. Utekelezaji ni wa Idara ya Ulinzi wa Watumiaji na Wafanyakazi ya jiji, ambayo mara nyingi hufupishwa kama DCWP. Wajibu uko kwa mwajiri, na unafuata mpangilio maalum.

Ukaguzi lazima uwe umefanyika ndani ya mwaka mmoja kabla ya zana kutumika. Muhtasari wa matokeo yake lazima uwekwe mahali ambapo yeyote anaweza kuusoma. Wagombea na wafanyakazi lazima wapokee notisi siku kumi za kazi kabla ya zana kutumika kwao. DCWP ilianza kutekeleza sheria hiyo na kanuni zake tarehe 5 Julai 2023.

Kielelezo hiki kinafanya sifa moja isikose kuonekana: wakala huyo yuko mwisho kabisa wa mnyororo. Ukaguzi, kubandika na kuarifu yote ni mambo ambayo mwajiri hufanya upande wake. DCWP inaweza kuingilia kati tu baada ya kujua kwamba mojawapo ya hatua hizo haipo.

Raji anahesabu aina hii ya ukaguzi wa upendeleo miongoni mwa zana za vitendo za utekelezaji. Kwa hiyo zana hizo zilikuwepo kwenye karatasi. Hatua iliyofuata dhahiri ilikuwa kuhesabu waajiri wangapi walikuwa wamezitumia kweli, na kikundi cha watafiti kilifanya hivyo hasa.

03Kati ya waajiri 391 waliokaguliwa, 18 walichapisha ukaguzi na 13 walichapisha notisi

Hesabu hiyo ilitoka kwa timu ya utafiti iliyoongozwa na Lucas Wright, huku Jacob Metcalf na J. Nathan Matias wakiwa miongoni mwa waandishi wenza. Waraka wao ulikubaliwa katika FAccT 2024, kongamano kuu la kitaaluma kuhusu haki na uwajibikaji katika mifumo ya kompyuta.

Timu ilifunza wanafunzi 155 kuwa wachunguzi. Kwa pamoja wanafunzi hao walirekodi jinsi waajiri 391 walivyokuwa wakitii Local Law 144. Kati ya waajiri hao, 18 walikuwa wamechapisha ripoti za ukaguzi. Ni 13 pekee waliokuwa wamechapisha notisi za uwazi zinazowaambia watahiniwa kwamba zana ya kiotomatiki inatumika.

Sheria hiyo hiyo inawapa pande tatu tofauti kazi tatu tofauti, na kila mmoja aliacha nambari tofauti. Zikiwekwa kando kwa kando, zinaonekana hivi.

Kwa kila mwajiri nje ya wale 18, mtu wa nje hakuweza kujua kama AI ilikuwa ikitumika kuchuja maombi kabisa. Usomaji wa haraka ungehitimisha kuwa wengine walikuwa wakivunja sheria. Timu ya utafiti iliweka sababu ya hitimisho hilo kushindwa katika kichwa cha makala yao.

Kikomo kimoja kinastahili kutajwa hapa. Utafiti unaakisi mwaka 2024. Sijakagua kama waajiri zaidi wamechapisha ukaguzi tangu wakati huo.

04Waajiri hujiamulia wenyewe kama sheria inawahusu, hivyo ukimya hauthibitishi lolote

Idadi ndogo ya 18 haimaanishi idadi kubwa ya ukiukaji, na sababu iko katika muundo wa sheria.

Kulingana na Wright na wenzake, Sheria ya Mtaa 144 inawapa waajiri uhuru mkubwa wa kuamua kama mfumo wao uko ndani ya wigo wa sheria hiyo. Mwajiri anayeamua kuwa zana yake iko nje ya wigo hachapishi ukaguzi wowote wala hatoi notisi. Mwajiri ambaye zana yake iko ndani ya wigo lakini hachapishi chochote anaonekana sawa kabisa kutoka mtaani.

Watafiti waliita hali hii null compliance. Utafutaji unapokosa kupata chochote, matokeo hayo matupu hayawezi kusemwa kuashiria kutotii. Hayawezi pia kusemwa kuashiria utii. Mtazamaji anabaki bila jibu.

Raji anagusa ukuta uleule kutoka upande tofauti. Kampuni, alisema, zina kikomo cha kimuundo katika jinsi zinavyoweza kuwa wazi kuhusu mfumo unavyofanya kazi vizuri au la. Kama ninavyosoma neno 'kimuundo', kikomo kiko katika nafasi ambayo kampuni inajikuta nayo inapozungumzia bidhaa yake yenyewe, si katika uaminifu wa mfanyakazi yeyote mmoja.

Kwa mtazamo wangu, ukweli huo mbili huchochea kila mmoja. Sheria humkabidhi mwajiri uamuzi wa wigo, na mwajiri hayuko katika nafasi nzuri ya kusema waziwazi kuhusu zana zake mwenyewe. Taarifa chache kuwafikia watu wa nje ni matokeo yanayotabirika ya kuweka mambo hayo mawili pamoja.

05Wakaguzi wa jimbo walipata ukiukaji unaowezekana zaidi ya 17 katika ukaguzi 32; jiji lilikuwa limepata mmoja

Waajiri wasiochapisha chochote hawawezi kutofautishwa na waajiri wanaokiuka sheria. Hilo linaacha ukaguzi uliochapishwa. Je, ulisomwa kwa makini angalau?

Mdhibiti wa Fedha wa Jimbo la New York alikagua shughuli za utekelezaji za DCWP kuanzia Julai 2023 hadi Juni 2025 na kuchapisha ukaguzi huo mnamo Desemba 2025. Sikuweza kufungua ripoti kamili kutoka kwenye mazingira yangu. Takwimu zilizo hapa chini zimenukuliwa kutoka uchambuzi wa kampuni ya sheria ya DLA Piper, uliochapishwa Januari 2026.

Matokeo yanaangukia katika sehemu tatu. Kwa wasomaji walio nje ya New York, 311 ni namba ya simu ya jumla ya jiji kwa maswali na malalamiko kuhusu huduma za jiji.

Kati ya hayo matatu, la pili ndilo lenye uzito zaidi kwangu. Kumbukumbu zilikuwepo. Zilikuwa zimechapishwa, mahali ambapo sheria ilisema zichapishwe. Lakini msomaji anapopuuza kilichomo ndani yake, matokeo hayatofautiani na kutokuwa na kumbukumbu kabisa.

Matokeo ya kwanza pia ni muhimu. Mtahiniwa anayeona taarifa haipo na kuchukua simu ana, kwa matokeo haya ya majaribio, nafasi ya watatu kati ya wanne ya kutofikia dawati sahihi. Mojawapo ya milango michache ambayo mtu wa nje angeweza kuripoti ukiukaji ilikuwa imefungwa kwa kiasi kikubwa.

06Dhima inahitaji sheria, rekodi inayoonekana na uwezo wa kuichunguza

Kati ya ukaguzi huohuo 32, wakala uligundua ukiukaji mmoja unaowezekana. Tukiweka ukweli wa hadi sasa kando kwa kando, sababu zinazofanya hakuna anayewajibishwa zinaangukia katika maeneo matatu.

Hoja ya kwanza inabadilisha jinsi ya kusoma vichwa vya habari kuhusu sheria mpya za AI. Ninapoona ripoti kwamba eneo lingine la mamlaka limepitisha sheria kama hiyo, sichukulii tena kwamba maana yake ni kwamba uwajibikaji sasa unaweza kupangiwa. Sheria ya Mtaa 144 ilianza kutekelezwa mwaka 2023, na takwimu ilizozalisha baadaye zilikuwa waajiri 18 na suala moja lililoibuliwa.

Hoja ya pili inabadilisha jinsi ukimya unavyopaswa kuchukuliwa. Chini ya hali ya kutotii kabisa (null compliance), kampuni isiyochapisha chochote na kampuni inayovunja sheria zinaonekana sawa kutoka nje. Kikomo cha uwazi wa kampuni anachokieleza Raji kinasukuma upande uleule, kuelekea ufichuzi mdogo badala ya mkubwa zaidi.

Hoja ya tatu inabadilisha jinsi ya kuhukumu thamani ya rekodi. Ukaguzi 32 uliochapishwa ulikuwa kamili kama rekodi. Thamani yao ilitegemea ni nani aliyeusoma. Ulipokuwa umesomwa na wakaguzi wa jimbo, ulikuwa na angalau masuala 17 yanayowezekana. Ulipokuwa umesomwa na wakala, ulikuwa na moja.

Mambo hayo matatu hayajitegemei. Sheria inaeleza wajibu, mtumiaji huchapisha rekodi, na mtu fulani huisoma. Kama kiungo chochote kimoja kikikosekana, viwili vilivyobaki havitoshi kuanzisha mchakato wa kumwajibisha mtu yeyote.

07Wakazi wa California waliomba uwajibikaji, lakini hakuna njia ya utekelezaji iliyotajwa

Kumwajibisha mtu yeyote kunahitaji sheria, rekodi na mtu anayeweza kuisoma. Katika jimbo ambalo sasa linaandaa duru yake ijayo ya kanuni za AI, ni kipi kati ya hivyo vitatu kinachokosekana?

Mnamo Oktoba 13, 2026, Gavana wa California Gavin Newsom alitangaza matokeo ya Engaged California, juhudi ya jimbo zima ya kuwashirikisha wakazi katika maamuzi kuhusu AI. Toleo la jimbo zima lilifunguliwa kwa kila mkazi mnamo Mei 2026.

Mada tatu zilijitokeza mara nyingi zaidi na kupata uungwaji mkono mkubwa zaidi. Moja yao ilikuwa "kuzifanya kampuni za AI ziwajibike kwa madhara zinayosababisha."

Tangazo halisemi jinsi hilo litakavyotekelezwa. Halitaji muswada wowote na halitoi tarehe ya mwisho. Linasema tu kwamba mapendekezo yatatumika kuarifu maamuzi ya sera ya baadaye.

Raji, kwa upande wake, alitaja zana madhubuti za utekelezaji. Moja ni kiolezo sanifu cha ufichuzi, ili sharti la uwazi liwe na umbo dhahiri. Nyingine ni hifadhidata ya matukio inayofafanua mapema ni nini kinachohesabiwa kuwa tukio halali na kurekodi jinsi serikali na kampuni zilivyojibu.

Violezo vya ufichuzi vina mfano wa awali. Alipokuwa Google, Raji alisaidia kuunda Model Cards, hati fupi zinazoambatana na muundo uliofunzwa na kuripoti jinsi ulivyofanya katika tathmini. Makala inayozieleza ilichapishwa mwaka 2018.

Iwapo California itajenga zana za aina hii bado haijulikani. Nilichoweza kuthibitisha kinaishia kwenye ukweli kwamba wakazi waliomba uwajibikaji.

Mashirika yanayotumia AI hayahitaji kungoja serikali. Chini ya Local Law 144, hatua ambayo watu wa nje hawakuweza kuiona ilikuwa uamuzi wa mwajiri mwenyewe kuhusu kama zana ilikuwa ndani ya wigo. Andika sababu ya uamuzi huo na uihifadhi, na baadaye mtu yeyote ataweza kutofautisha kimya na ukiukaji.

Baadhi ya kutokuwa na uhakika kumebaki, na kunastahili kuwa ukurasani. Utafiti wa waajiri 391 ni wa mwaka 2024, na sijakagua hali ya ufichuzi tangu hapo. Takwimu za ukaguzi wa jimbo zilithibitishwa kupitia nukuu za kampuni ya sheria, si ripoti yenyewe. Maelezo kwamba simu 311 zilielekezwa vibaya na hazikuifikia wakala pia yanategemea muhtasari wa pili.

Sheria inayoweka uwajibikaji kwa madhara ya AI hufanikisha kidogo pale ambapo hakuna rekodi ya nje inayoonyesha utiifu na hakuna mtu mwenye uwezo wa kuisoma. Waajiri 18 na suala moja tu lililoripotiwa katika New York City ndivyo hali hiyo inavyoonekana kivitendo.

Mashirika yanayotumia AI yanaweza kujibu yanapoulizwa tu ikiwa yanatunza kumbukumbu hiyo wenyewe. Kwa zana za AI katika kazi yangu mwenyewe, ninaanza na mstari mmoja kwa kila zana: sababu ya uamuzi wangu wa kuitumia, iliyoandikwa kabla mtu yeyote hajauliza.