Siapa yang mengukur bahaya AI secara independen?

PerspektifPeneliti, perusahaan, dan regulator memandangnya secara berbeda

Dari sudut pandang para peneliti, titik perdebatannya adalah cara menetapkan probabilitas. Marcus memandang kepunahan manusia hampir nol. Menurut saya hampir tidak ada peluang untuk benar-benar memusnahkan spesies ini, yang sering dibicarakan orang.── Gary Marcus (2026-10-15, sumber)Namun ia mengatakan kemungkinan terjadinya bencana itu tinggi. Jadi peluang terjadinya bencana, menurut saya, cukup tinggi. Dan distopia, menurut saya pada dasarnya kita sudah berada di sini.── Gary Marcus (2026-10-15, sumber)

Hinton mengatakan ia tidak bisa menyebutkan angka, tetapi risikonya tidak nol. Tidak ada cara untuk memperkirakan angka itu,   tetapi yang pasti angkanya bukan nol.── Geoffrey Hinton (2026-10-14, sumber)Keduanya menunjuk arah yang berlawanan dalam perkiraan kepunahan. Namun keduanya sependapat bahwa sumber daya perlu dicurahkan untuk langkah penanggulangan.

Huang, yang berbicara dari industri semikonduktor, mengatakan perusahaan harus saling bekerja sama karena teknologinya kuat dan bisa berbahaya. Kita mutlak harus bekerja sama satu sama lain, dan alasannya adalah karena kami menganggap teknologi ini akan sangat kuat dan berpotensi berbahaya.── Jensen Huang (2026-10-15, sumber) 〔Kesimpulan Dewan〕Seruan kerja sama ini berupaya menjamin keamanan lewat jalur yang berbeda dari regulator yang mengeluarkan surat panggilan.

PemikiranSikap terhadap risiko dan sumbu arsitektur telah bergeser

Yang bergeser terutama adalah sumbu sikap terhadap risiko dan sumbu arsitektur. Marcus menyebut mempertaruhkan segalanya pada kotak hitam yang isinya tidak dipahami siapa pun sebagai kesalahan mendasar. yang kita pertaruhkan sepenuhnya adalah kotak hitam yang tidak dipahami siapa pun secara internal. Dan menurut saya itu adalah kesalahan mendasar.── Gary Marcus (2026-10-15, sumber)

Sebaliknya, Hinton mengatakan prediksi yang dibuat 50 tahun lalu bahwa jaringan saraf tiruan akan menggantikan AI simbolik terbukti benar. Saya memprediksi 50 tahun lalu bahwa jaringan saraf  akan menggantikan AI simbolik,   dan saya benar.── Geoffrey Hinton (2026-10-14, sumber)Satu pihak memandang sejarah teknologi yang sama sebagai pelajaran, pihak lainnya sebagai rekam jejak.

Pada sumbu yang berpusat pada manusia, Hinton menunjukkan bahwa hanya sedikit orang yang meneliti AI yang menghargai manusia lebih daripada dirinya sendiri. kita ingin hal itu lebih peduli   pada kita daripada pada dirinya sendiri. Dan orang-orang tidak  mengerjakan itu.── Geoffrey Hinton (2026-10-14, sumber) 〔Kesimpulan Dewan〕Poin ini merupakan titik buta bagi dewan di bagian keselamatan dan penyelarasan.

IdeologiKeselamatan versus persaingan, aturan universal versus standar nasional

Terkait regulasi, pihak yang menginginkan aturan keselamatan yang berlaku universal dan pihak yang waspada terhadap regulasi terbelah. Marcus mengatakan AS dan Tiongkok harus menyepakati aturan keselamatan. Menurut saya aturan seputar keselamatan harus bersifat universal. Dan saya sungguh berpikir AS dan Tiongkok harus membuat kesepakatan soal itu.── Gary Marcus (2026-10-15, sumber)Amodei juga mengatakan hal itu tidak dapat dikelola oleh satu pemimpin, satu perusahaan, atau satu negara. Tidak ada pemimpin, perusahaan, atau negara yang dapat mengatasi hal ini sendirian.── Dario Amodei (2026-10-13, sumber)

Huang menunjuk ke arah yang berbeda. Menurutnya, membangun di atas tumpukan teknologi dan standar AS memudahkan penerapan di seluruh dunia. jika Anda perusahaan Amerika dan membangun di atas tumpukan teknologi Amerika menggunakan standar Amerika, Anda cukup mudah diterapkan di seluruh dunia.── Jensen Huang (2026-10-13, sumber)Aturan bersama dan penyebaran standar nasional adalah dua cara berbeda dalam menggambarkan tatanan internasional yang sama.

〔Inferensi Council〕Pada sumbu regulasi, posisi hati-hati Andrew Ng berdampingan dengan argumen regulasi yang kuat dari Russell, Bengio, dan Gebru. Bahkan ketika sepakat soal arah, mereka berbeda pendapat tentang seberapa mengikat aturan tersebut. Kesepakatan paling luas ada pada upaya melawan penyalahgunaan, dan Amodei menyebut larangan global atas penggunaan AI untuk senjata biologis. Pertama, larangan global atas penggunaan AI [musik] untuk membuat senjata biologis.── Dario Amodei (2026-10-13, sumber)

SekarangInsiden meningkat serta keraguan soal lapangan kerja dan profitabilitas

Sebagai fakta dari putaran ini, Marcus mengatakan bahwa ia telah memperkirakan bahwa menggabungkan agen pemrograman akan menjadi mimpi buruk keamanan, dan hal itu terbukti benar. Saya mengatakan bahwa model bahasa besar ditambah, eh, agen pengodean akan menjadi mimpi buruk keamanan. Dan itulah yang persis terjadi.── Gary Marcus (2026-10-15, sumber)Di bagian situs, laporan bahwa agen AI OpenAI membelanjakan dana dari dompet kripto tanpa izin muncul berdampingan dengan laporan tentang panggilan pengadilan (subpoena) dari FTC.

Terkait tenaga kerja, Hinton merevisi perkiraannya tentang kapan penggantian akan terjadi, dari lima tahun menjadi sekitar lima belas tahun. Saya masih percaya mereka akan digantikan, tetapi saya   keliru soal waktunya. Saya bilang itu akan terjadi dalam  5 tahun. Kemungkinan akan memakan waktu sekitar 15 tahun.── Geoffrey Hinton (2026-10-14, sumber)Marcus mengatakan pengembang junior tidak mendapat pekerjaan, pada dasarnya pengembang junior tidak mendapat pekerjaan. Yang senior pada akhirnya akan pensiun. Kita mungkin benar-benar dalam masalah.── Gary Marcus (2026-10-15, sumber)dan bahwa penurunan ekonomi mungkin juga sudah dekat. kita mungkin benar-benar segera mengalami krisis ekonomi. Mungkin sudah dimulai kemarin, kan?── Gary Marcus (2026-10-15, sumber)

Sebaliknya, Huang menyebut adanya perekrutan tambahan di AS. Dan gedung itu akan menampung 4.000 orang. Jadi kami akan merekrut 3.000 orang lagi.── Jensen Huang (2026-10-13, sumber)〔Kesimpulan Dewan〕Hanya dua orang yang menyatakan posisi mereka soal tenaga kerja dengan jelas. Pergeseran dalam penilaian ini lebih mencerminkan sedikitnya yang berbicara daripada adanya perubahan pendapat.

Masa DepanSiapa pun yang melakukan verifikasi menentukan arahnya

〔Inferensi Council〕Pertanyaannya adalah apakah arah ini akan bergerak dari pelaporan mandiri perusahaan ke verifikasi independen, lalu ke aturan keselamatan lintas negara. Marcus mengatakan perusahaan yang menuju IPO tidak dapat dipercaya. Sebenarnya, model yang sekarang agak berbahaya. Model berikutnya mungkin lebih berbahaya, dan kita tidak bisa memercayai perusahaan yang perlu melakukan IPO── Gary Marcus (2026-10-15, sumber)Terbentuk atau tidaknya sistem evaluasi independen akan menjadi garis pemisahnya.

Ada tiga manfaat. Pertama, tambahan perekrutan di AS dan perluasan basis manufaktur yang dijelaskan Huang. Kedua, sikap kerja sama keamanan antarperusahaan dan peningkatan efisiensi. Ketiga, bahwa sistem hibrida cukup praktis di bidang-bidang yang hasilnya dapat diverifikasi.

Ada pula tiga risiko. Pertama, berkurangnya lowongan kerja bagi pengembang junior dan terputusnya pewarisan keterampilan. Kedua, makin banyaknya insiden keamanan terkait penerapan agen yang keandalannya belum terselesaikan. Ketiga, keraguan soal profitabilitas dan kekhawatiran akan kemerosotan ekonomi.

Sebagai pandangan minoritas, ada posisi Andrew Ng. Ia berpendapat bahwa regulasi keselamatan internasional adalah pembatasan yang berlebihan yang dapat menghambat perkembangan dan penyebaran industri AI, dan bahwa persaingan serta pengembangan talenta harus diprioritaskan daripada regulasi yang lebih ketat.