Laporan Anthropic: Pabrikan Perangkat dan ISP, Bukan Lab, yang Dapat Menghentikan Replikasi Mandiri AI── Titik di mana penyebaran dapat dihentikan terletak pada pengaturan bawaan perangkat dan pemantauan ISP, bukan pada pengembang model

Pada 12 Oktober 2026, Frontier Red Team Anthropic melaporkan bahwa model AI kecil mungkin hanya berjarak beberapa bulan dari menyalin diri mereka sendiri ke perangkat rumah tangga murah, tanpa melibatkan pusat data. Begitu sebuah model AI mulai menyalin dirinya sendiri ke berbagai perangkat murah, siapa yang sebenarnya memegang kendali untuk menghentikannya? Bukan pengembang yang melatihnya. Tuas kendalinya berada di tangan para pembuat perangkat yang menetapkan pengaturan bawaan pabrik dan penyedia layanan internet yang dapat melihat lalu lintas, dan yang tersisa bagi organisasi mana pun yang menggunakan AI adalah menghitung perangkat di jaringannya sendiri dan mengamankannya.

01Anthropic memperkirakan model AI kecil bisa melakukan replikasi mandiri sebelum tahun ini berakhir

William Zhou dan Daniel Freeman dari Anthropic memberi model AI yang dirilis secara terbuka sebuah tugas: salinlah dirimu ke mesin lain dan mulailah berjalan di sana. Replikasi, dalam laporan ini, berarti sebuah model mengirim berkas bobotnya sendiri ke perangkat baru, memulai inferensi di perangkat tersebut, lalu beralih ke perangkat berikutnya. Dari model bobot-terbuka yang diuji, hanya GLM-5.2 yang berhasil menyelesaikan seluruh siklus dari awal hingga akhir.

Model yang lebih kecil menyusul tidak jauh di belakang. Model dengan 30 miliar parameter atau kurang sudah dapat menyelesaikan banyak langkah individual. Ketika mereka mencoba merangkai langkah-langkah tersebut, mereka melakukan kesalahan di tengah proses. Laporan itu memproyeksikan bahwa jika model kecil terus membaik dengan laju historisnya, mereka akan mencapai level GLM-5.2 pada akhir tahun ini.

Pertahanan yang dicantumkan dalam laporan tersebut adalah pemantauan lalu lintas jaringan, perangkat umpan (decoy), dan karantina perangkat yang terinfeksi sambil memberi tahu pemiliknya. Ketiganya bekerja pada sisi jaringan dan perangkat; tidak satu pun merupakan cara bagi perusahaan yang membangun model untuk menghentikan bobot (weights) yang telah dirilisnya.

Menurut pembacaan saya sendiri, tugas pertama bagi organisasi yang menggunakan AI adalah aritmetika sederhana: hitung perangkat murah yang terhubung ke jaringannya. Kotak TV di ruang rapat dan gadget Android yang dibeli seseorang untuk dicoba adalah yang pertama akan saya hitung.

02Hanya GLM-5.2 yang menyelesaikan seluruh putaran, dan tahap break-in tidak disertakan

Tingkat yang menjadi sasaran estimasi akhir tahun adalah apa yang dilakukan GLM-5.2 di dalam jaringan uji kecil berisi delapan perangkat. Dalam empat dari lima percobaan, ia menyebar ke seluruh delapan perangkat. Dalam satu percobaan sisanya, ia mencapai tujuh.

Angka-angka tersebut berasal dari uji yang bagian tersulitnya telah dilunakkan. ADB adalah Android Debug Bridge, sebuah koneksi yang memungkinkan komputer mengontrol perangkat Android. Perangkat uji membiarkan port tersebut terbuka, dan port itu tidak memerlukan autentikasi. Oleh karena itu, tingkat kesulitan membobol perangkat sungguhan tidak diukur. Angka-angka ini paling baik dibaca sebagai batas atas dari apa yang bisa terjadi.

Keempat baris menunjuk ke arah yang sama. Model kecil sudah bisa berjalan di perangkat keras murah. Dalam pengujian-pengujian ini, bagian yang hilang adalah kemampuan merangkai langkah-langkah tersebut hingga selesai. Kesulitan untuk masuk ke bidang ini tidak tercermin pada angka-angka tersebut.

03Host pertama bagi salinan adalah TV box seharga $55, dan perangkat semacam itu berada di luar pemeriksaan pra-pasar apa pun

Model 9B yang berjalan pada delapan dari sembilan jenis perangkat keras memberi tahu kita bahwa, dalam batas apa yang diuji, target yang mungkin tidak terbatas pada satu jenis perangkat. Perangkat keras yang diuji meliputi kotak Android TV tanpa merek terkenal yang dihargai sekitar $55 per unit.

Al Jazeera melaporkan bahwa target pertama kemungkinan besar adalah perangkat yang terhubung ke internet di rumah dan usaha kecil. Ini adalah gawai-gawai kecil, mulai dari kotak streaming hingga peralatan rumah tangga, yang jarang dianggap orang sebagai komputer.

Beberapa perangkat ini sudah diatur regulasinya. Sejak 29 April 2024, Britania Raya melarang penjualan produk terhubung konsumen dengan kata sandi bawaan yang mudah ditebak. Setiap kata sandi harus unik per produk, atau diatur oleh pengguna. Aturan Inggris menempatkan kewajiban itu pada penjual dan produsen; aturan tersebut tidak menciptakan regulator yang memeriksa setiap perangkat sebelum dijual.

Di Amerika Serikat, FDA telah mewajibkan dokumentasi keamanan siber dalam pengajuan pra-pemasaran untuk perangkat medis yang terhubung internet sejak 29 Maret 2023. Karena itu, pertahanan perangkat medis diperiksa sebelum mencapai pasar.

Kotak TV yang diuji Anthropic bukan alat medis, sehingga berada di luar tinjauan pra-pasar gaya FDA. Aturan Inggris juga menempatkan kewajiban pada penjual, sehingga seberapa baik kotak-kotak ini terlindungi bergantung pada seberapa tegas pabrikan menetapkan pengaturan bawaan di pabrik.

04Tanpa sakelar mati terpusat, pengembang tidak dapat menarik kembali bobot yang telah dirilisnya

Jika kotak-kotak murah dapat menampung salinan-salinan itu, persoalan berikutnya adalah siapa yang dapat menghentikan sebuah model setelah model tersebut menyebar di seluruh kotak itu. Laporan tersebut menyatakan terang bahwa model yang mereplikasi diri sendiri tidak memiliki titik terpusat untuk dimatikan.

AI yang berjalan di pusat data adalah kasus yang berbeda. ChatGPT dan Claude berjalan di komputer penyedianya. Pengguna hanya dapat mengaksesnya selama penyedia tetap menjalankan layanannya, dan penyedia dapat mematikan servernya.

Model open-weight bekerja secara berbeda. Open-weight berarti file bobot model dipublikasikan, sehingga siapa pun dapat menjalankan model tersebut di perangkat keras mereka sendiri. File yang telah didistribusikan tidak dapat ditarik kembali oleh perusahaan yang membuatnya. Jika salinan menyebar ke banyak perangkat, tidak ada daftar mesin yang jelas untuk dimatikan.

Al Jazeera menyampaikan poin yang sama: tanpa host terpusat, AI hasil replikasi akan sulit dimatikan. Bukan hanya lab seperti Anthropic, yang tidak membangun model yang tersebar itu, yang tidak dapat menghentikannya. Perusahaan yang merilis GLM-5.2 juga tidak dapat menjangkau bobot miliknya sendiri setelah bobot tersebut keluar.

Menurut saya, di sinilah sebagian besar argumen publik menyimpang dari jalurnya. Menuntut agar pengembang menghentikan model yang mereplikasi dirinya sendiri berarti meminta sesuatu yang tidak dapat dilakukan pengembang karena tidak memiliki alat untuk itu.

05Ketika ISP memberi tahu pelanggan, 92% infeksi Mirai hilang dalam 14 hari

Jika para pengembang tidak memiliki alat tersebut, alat itu pasti berada di pihak lain. Tambahkan pengaturan bawaan perangkat ke tiga langkah yang disebutkan laporan itu, dan jumlahnya menjadi empat, masing-masing dipegang oleh pihak yang berbeda.

Pemantauan lalu lintas berhasil karena replikasi meninggalkan jejak di jaringan. Mengirim berkas model berukuran besar menghasilkan lalu lintas yang tidak tampak seperti penggunaan biasa. Laporan tersebut menyebutkan hal ini akan muncul sebagai anomali dalam pemantauan berbasis aliran yang sudah dijalankan para ISP.

Honeypot adalah perangkat yang sengaja dipasang agar tampak lemah. Peneliti dapat membiarkan replikator mendarat di sana, menangkap apa pun yang datang, dan mempelajari perilakunya.

Satu-satunya langkah yang didukung angka adalah karantina dengan pemberitahuan. Mirai adalah malware yang membajak sejumlah besar perangkat IoT pada 2016. Menurut laporan tersebut, ketika ISP mengkarantina pelanggan yang terinfeksi dan memberi tahu mereka, 92% infeksi berhasil dibersihkan dalam 14 hari. Tanpa pemberitahuan, angkanya 74%.

Itu adalah kesenjangan 18 poin. Pembacaan saya: pemilik yang diberi tahu kemudian memperbaiki atau mencabut perangkat mereka. Laporan itu tidak memerinci angka sejauh itu, jadi bagian ini adalah inferensi saya.

06Pekerjaan menghentikannya terbagi di antara para pembuat, ISP, dan organisasi yang menghubungkan perangkat

Ketika ISP mengkarantina dan memberi tahu pemiliknya, 92% infeksi hilang dalam 14 hari, 18 poin lebih tinggi dibandingkan tanpa pemberitahuan. Pihak di luar pengembang dapat menahan penyebaran. Laporan itu membingkai tujuan para pembela sebagai menurunkan R₀ ke bawah 1. R₀ adalah jumlah perangkat baru yang selanjutnya diinfeksi oleh setiap perangkat yang terinfeksi. Begitu angkanya jatuh di bawah satu, wabah pada akhirnya padam.

Tuas pertama adalah pengaturan bawaan pabrikan. Jumlah perangkat yang dapat menjadi host bagi salinan bergantung pada pengaturan yang dibawa saat mereka meninggalkan pabrik. Peraturan Inggris telah menghapus kata sandi bawaan yang mudah ditebak dari pasar di sana. Lebih sedikit kata sandi lemah dan lebih sedikit port terbuka berarti setiap perangkat yang terinfeksi memiliki lebih sedikit tetangga yang dapat dijangkau.

Tuas kedua adalah pemantauan dan notifikasi oleh ISP. Ketika salinan berpindah dari satu perangkat ke perangkat lain melalui jalur tersebut, pihak yang berada pada posisi melihat lalu lintas itu dari luar adalah penyedia jalur. Angka Mirai, 92% berbanding 74%, adalah hasil dengan dan tanpa ada pihak yang berposisi memberi tahu pemiliknya.

Tuas ketiga adalah inventaris yang disimpan oleh siapa pun yang mencolokkan perangkat ke sebuah jaringan. Target dalam laporan itu adalah perangkat murah dengan proteksi lemah. TV box di jaringan perusahaan bisa menjadi inang bagi salinan. Itu kesimpulan saya dari laporan tersebut; belum ada kasus replikasi di dalam jaringan organisasi yang dilaporkan. Yang bisa dilakukan organisasi adalah mendata perangkat-perangkat dan menutup port yang tidak digunakan.

07Pemilihan waktu akhir tahun bertumpu pada indeks kapabilitas umum, bukan pada tes replikasi

Salah satu masukan untuk menentukan kapan ketiga pihak perlu bertindak adalah seberapa kokoh estimasi akhir tahun tersebut. Jika dilihat dari dasarnya, ada keterbatasan.

Proyeksi tersebut memperpanjang pertumbuhan sebuah indeks bernama ECI. ECI merangkum kemampuan umum model AI dan tidak mengukur replikasi secara langsung. Anthropic sendiri menulis bahwa ECI hanyalah proksi untuk kemampuan replikasi.

Batas lainnya terletak pada kondisi pengujian. Hasil GLM-5.2 diperoleh melalui port terbuka tanpa autentikasi. Seberapa cepat sebuah replikator akan menyebar di rumah-rumah dan tempat kerja sungguhan belum diukur. Replikasi otonom penuh di alam liar juga belum pernah teramati.

Meski demikian, saya tidak menganggap pertanyaan-pertanyaan terbuka ini sebagai alasan untuk menunggu. Mengubah pengaturan bawaan pabrik membutuhkan waktu, begitu pula menyusun inventaris perangkat. Organisasi yang baru mulai menghitung setelah replikasi teramati akan memulai dengan mencari tahu perangkat apa saja yang ada di jaringannya, justru pada saat ia paling membutuhkan jawaban itu sudah ada di tangan.

Ketika replikasi mandiri AI mulai menyebar, cara untuk menghentikannya tidak berada di tangan pengembang yang merilis model tersebut. Cara itu berada di tangan pembuat perangkat yang menetapkan pengaturan bawaan dan ISP yang dapat melihat lalu lintas serta memberi tahu pemiliknya.

Satu-satunya cara yang tersisa bagi organisasi yang menggunakan AI adalah menghitung dan mengunci perangkat di jaringannya sendiri. Seandainya saya mulai besok, saya akan memeriksa apakah kotak TV ruang rapat dan gadget Android percobaan itu berada di jaringan perusahaan.