Nani hupima hatari za AI kwa uhuru?

Mtazamo Watafiti, kampuni na wadhibiti wanaona tofauti

Kwa mtazamo wa watafiti, hoja ya mzozo ni jinsi ya kuweka uwezekano. Marcus anaona kutoweka kwa binadamu kuwa karibu sifuri. Ninaona kuna uwezekano karibu sufuri wa kuangamiza kabisa spishi ya binadamu, jambo ambalo watu wanalizungumzia.── Gary Marcus (2026-10-15, chanzo) Hata hivyo anasema uwezekano wa maafa ni mkubwa. Kwa hiyo nafasi ya janga, nadhani ni kubwa kabisa. Na dystopia, nadhani tayari tuko hapa kimsingi.── Gary Marcus (2026-10-15, chanzo)

Hinton anasema hawezi kutoa namba lakini kwamba hatari si sifuri. Hakuna njia ya kukadiria idadi hiyo,   lakini hakika si sifuri.── Geoffrey Hinton (2026-10-14, chanzo) Wawili hao wanaelekeza pande tofauti kuhusu makadirio yao ya kutoweka. Lakini wako karibu katika mtazamo kwamba rasilimali zielekezwe kwenye hatua za kukabiliana.

Huang, akizungumza kutoka sekta ya semikondukta, anasema kampuni zinapaswa kushirikiana kwa sababu teknolojia hiyo ina nguvu na inaweza kuwa hatari. Ni lazima kabisa tufanye kazi pamoja, na sababu ya hilo ni kwamba tunadhani teknolojia hii itakuwa na nguvu na pengine hatari.── Jensen Huang (2026-10-15, chanzo) 〔Hitimisho la Baraza〕Wito huu wa ushirikiano unajaribu kupata usalama kupitia njia tofauti na wadhibiti wanaotoa hati za wito wa mahakama.

Fikra Misimamo kuhusu hatari na mihimili ya usanifu imebadilika

Kilichobadilika zaidi ni mhimili wa msimamo kuhusu hatari na mhimili wa usanifu. Marcus anasema kuweka kila kitu kwenye kisanduku cheusi ambacho hakuna anayeelewa kilichomo ni kosa la msingi. tulichowekeza kila kitu ni masanduku meusi ambayo hakuna anayeyaelewa ndani yake. Na nadhani hilo lilikuwa kosa la msingi.── Gary Marcus (2026-10-15, chanzo)

Hinton, kinyume chake, anasema utabiri uliotolewa miaka 50 iliyopita kwamba mitandao ya neva ingechukua nafasi ya AI ya kialama umethibitika kuwa sahihi. Nilitabiri miaka 50 iliyopita kwamba mitandao ya neva ingechukua nafasi ya AI ya ishara,   na nilikuwa sahihi.── Geoffrey Hinton (2026-10-14, chanzo) Upande mmoja unaichukulia historia ile ile ya teknolojia kama somo, upande mwingine kama rekodi ya utendaji.

Kuhusu mhimili unaomlenga binadamu, Hinton alionyesha kuwa watu wachache wanafanya utafiti kuhusu AI inayothamini binadamu zaidi kuliko yenyewe. tungependa kitu hicho kitujali sisi zaidi kuliko kinavyojijali chenyewe. Na watu hawafanyi kazi kwenye hilo.  ── Geoffrey Hinton (2026-10-14, chanzo) 〔Hitimisho la Baraza〕Hoja hii ni eneo lisiloonekana kwa baraza katika sehemu ya usalama na upatanishi.

Itikadi Usalama dhidi ya ushindani, sheria za jumla dhidi ya viwango vya kitaifa

Kuhusu udhibiti, wanaotaka kanuni za usalama za kila mahali na wanaohofia udhibiti wamegawanyika. Marcus anasema Marekani na China zinapaswa kukubaliana kuhusu kanuni za usalama. Ninaamini kanuni za usalama zinapaswa kuwa za kimataifa kwa wote. Na kwa kweli ninaamini Marekani na China zinapaswa kufikia makubaliano kuhusu hilo.── Gary Marcus (2026-10-15, chanzo) Amodei pia anasema haiwezi kudhibitiwa na kiongozi, kampuni au nchi moja. Hakuna kiongozi, kampuni, wala taifa linaloweza kulidhibiti hili peke yake.── Dario Amodei (2026-10-13, chanzo)

Huang anaelekeza upande tofauti. Maoni yake ni kwamba kujenga juu ya mifumo na viwango vya teknolojia ya Marekani hurahisisha kusambaza duniani kote. ikiwa wewe ni kampuni ya Marekani na unajenga juu ya mfumo wa teknolojia wa Marekani ukitumia viwango vya Marekani, unaweza kutumika kwa urahisi kote ulimwenguni.── Jensen Huang (2026-10-13, chanzo) Sheria za pamoja na kuenea kwa viwango vya kitaifa ni njia mbili tofauti za kuuona mpangilio huo huo wa kimataifa.

〔Hitimisho la Baraza〕Kwenye mhimili wa udhibiti, msimamo wa tahadhari wa Andrew Ng unakaa pamoja na hoja kali za udhibiti za Russell, Bengio na Gebru. Hata pale wanapokubaliana kuhusu mwelekeo, wanatofautiana kuhusu kanuni zinapaswa kuwa za kulazimisha kiasi gani. Makubaliano ni mapana zaidi kuhusu kukabiliana na matumizi mabaya, na Amodei alitaja marufuku ya kimataifa ya kutumia AI kwa silaha za kibaiolojia. Kwanza, marufuku ya kimataifa ya kutumia AI ya [muziki] kutengeneza silaha za kibaiolojia.── Dario Amodei (2026-10-13, chanzo)

Sasa Kuongezeka kwa matukio na mashaka kuhusu ajira na faida

Kama ukweli wa duru hii, Marcus alisema alikuwa ametabiri kwamba kuunganisha mawakala wa uandishi wa msimbo kungekuwa ndoto mbaya ya usalama, na kwamba hilo limetimia. Nilisema kwamba miundo mikubwa ya lugha pamoja na, ee, mawakala wa kuandika msimbo ingekuwa janga la usalama. Na ndivyo hasa ilivyotokea.── Gary Marcus (2026-10-15, chanzo) Katika sehemu ya tovuti, ripoti kwamba wakala wa AI wa OpenAI alitumia fedha kutoka kwenye pochi ya crypto bila ruhusa inaonekana pamoja na ripoti ya wito wa FTC (subpoena).

Kuhusu ajira, Hinton alirekebisha makadirio yake ya lini uingizwaji utatokea kutoka miaka mitano hadi takriban kumi na mitano. Bado naamini kwamba watabadilishwa, lakini nilikosea kuhusu muda. Nilisema ingetokea ndani ya miaka 5. Huenda ikawa takriban miaka 15.── Geoffrey Hinton (2026-10-14, chanzo) Marcus anasema wasanidi wa ngazi ya chini hawaajiriwi, kimsingi watengenezaji programu wa ngazi ya chini hawapati kazi yoyote. Wale waandamizi hatimaye watazeeka na kuondoka. Huenda kweli tuko matatani.── Gary Marcus (2026-10-15, chanzo) na kwamba kushuka kwa uchumi pia kunaweza kuwa karibu. huenda kweli tukapata anguko la kiuchumi hivi karibuni. Huenda lilianza jana, sivyo?── Gary Marcus (2026-10-15, chanzo)

Huang, kwa upande mwingine, alitaja ajira za ziada nchini Marekani. Na jengo hilo litakuwa na watu 4,000. Kwa hivyo tutaajiri watu wengine 3,000.── Jensen Huang (2026-10-13, chanzo) 〔Hitimisho la Baraza〕Ni watu wawili tu waliofafanua msimamo wao kuhusu kazi. Mabadiliko katika tathmini yanaonyesha jinsi wachache walivyozungumza zaidi kuliko mabadiliko yoyote ya maoni.

Wakati Ujao Anayefanya uthibitishaji ndiye anayeweka mwelekeo

〔Hitimisho la Baraza〕Swali ni kama mwelekeo utahama kutoka kwa kampuni kujiripotia zenyewe hadi uthibitishaji huru, kisha hadi kanuni za usalama zinazovuka mipaka ya nchi. Marcus anasema kampuni zinazoelekea kwenye IPO haziwezi kuaminiwa. Kwa kweli, ule wa sasa ni hatari kidogo. Modeli inayofuata inaweza kuwa hatari zaidi, na hatuwezi kuzitegemea kampuni zinazohitaji kufanya IPO── Gary Marcus (2026-10-15, chanzo) Kama mfumo wa tathmini huru utaundwa ndio utakaokuwa mstari wa kugawa.

Kuna faida tatu. Kwanza, ajira za ziada za Marekani na upanuzi wa msingi wa utengenezaji anaoueleza Huang. Pili, msimamo wa ushirikiano wa usalama kati ya kampuni na ufanisi ulioboreshwa. Tatu, kwamba mifumo mseto inafaa kwa vitendo katika nyanja ambapo matokeo yanaweza kuthibitishwa.

Pia kuna hatari tatu. Kwanza, nafasi chache za kazi kwa wasanidi programu wa ngazi ya awali na kukatika kwa urithishaji wa ujuzi. Pili, ongezeko la matukio ya usalama yanayohusiana na kutumia mawakala ambao uaminifu wao bado haujatatuliwa. Tatu, mashaka kuhusu faida na hofu ya kudorora kwa uchumi.

Kama mtazamo wa wachache, kuna msimamo wa Andrew Ng. Anaona kwamba udhibiti wa kimataifa wa usalama ni kikwazo kupita kiasi kinachoweza kuzuia maendeleo na kuenea kwa tasnia ya AI, na kwamba ushindani na ukuzaji wa vipaji vinapaswa kupewa kipaumbele kuliko udhibiti mkali zaidi.