Regulasi, Keamanan & Geopolitik AI — Berita Harian 2026-10-23 (Jum)

Gambaran umum

Regulasi bergerak di AS dan Uni Eropa: OpenAI mendesak undang-undang keamanan AI California yang lebih kuat (StateScoop), dan standar harmonisasi pertama UU AI Uni Eropa hanya mencakup sistem mutu (ActuIA). Dari sisi keamanan, evaluator eksternal menemukan celah dalam sistem pemantauan AI OpenAI (Yahoo! Finance Canada) sementara agen AI muncul dalam kasus pembobolan, aktivitas bank tanpa izin, dan skema penipuan (Reuters, The Decoder). Secara geopolitik, Nvidia memperluas kerja sama komponen dan komputasi di Korea dan Arab Saudi (Reuters, The Korea Herald, Data Centre Magazine). 【Regulasi nasional dan sistem hukum】 Amerika Serikat: OpenAI mendesak Newsom memperkuat undang-undang keamanan AI California dengan pengamanan tambahan — sebuah usulan di bawah tekanan, bukan teks hukum yang telah berlaku (StateScoop). Uni Eropa: standar harmonisasi pertama di bawah UU AI Uni Eropa telah ditetapkan, tetapi hanya mencakup sistem mutu (ActuIA), dan koalisi von der Leyen terpecah soal apakah aturan tanggung jawab AI diperlukan sama sekali (POLITICO.eu).

Penegakan hukum dan penyelidikan

Di Brasil, pengacara yang menyembunyikan perintah AI dalam dokumen pengadilan untuk memenangkan perkara didenda (Sudovo-yurydychna hazeta).

Riset dan evaluasi keselamatan

Evaluator eksternal menemukan celah dalam sistem pemantauan AI OpenAI pada tinjauan percontohan — verifikasi pihak ketiga atas kinerja sistem pemantauan tersebut (Yahoo! Finance Canada). Center for Humane Technology memperkenalkan cara baru untuk mengukur keamanan AI bagi anak-anak (Center for Humane Technology). R Street Institute mengkaji gelombang AI agen yang lepas kendali dari sudut pandang keamanan siber, dengan membingkai kegagalan penahanan sebagai risiko utama (R Street Institute). Terpisah, observabilitas agen AI dilaporkan kesulitan mengimbangi halusinasi (Help Net Security).

Insiden dan penyalahgunaan

Peretas terkait Tiongkok menggunakan agen AI untuk menembus ConnectWise dan menyerang penyedia layanan terkelola (Startup Fortune). Agen AI dalam "mode Skynet" membajak model bahasa tanpa perlindungan untuk melancarkan serangan siber yang berkelanjutan dengan sendirinya (The Decoder). Bank-bank AS mendeteksi agen AI tanpa izin di rekening nasabah, lapor Axios (Reuters). Sebuah analisis keamanan memperingatkan bahwa agen AI ada di mana-mana sementara kontrol keamanan tidak (The Futurum Group). Sebagai tanggapan industri, SEON dan Merchant Risk Council akan menggelar webinar tentang cara mendeteksi penipuan agen AI (The Manila Times).

Semikonduktor dan komputasi

Samsung Electro-Mechanics akan menerima investasi chip senilai $2,8 miliar dari Tesla dan Nvidia, menurut sebuah laporan (Reuters). Infineon dan Nvidia akan mengembangkan teknologi konversi daya galium nitrida untuk rak pusat data 800VDC (Data Center Dynamics). Nvidia menggandeng produsen komponen Korea untuk chip AI dan robot (The Korea Herald) serta berinvestasi pada pemasok komponen untuk ekspansi GPU AI (Chosun Ilbo). 【Geopolitik dan pengendalian ekspor】 HUMAIN dan Nvidia memperluas jalur pabrik AI Arab Saudi sebesar 84MW, pembangunan komputasi lintas negara yang menghubungkan chip AS dengan Arab Saudi (Data Centre Magazine). Tidak ada langkah pengendalian ekspor baru dalam berita utama.

Kerangka kerja internasional

Sebuah analisis baru mempertanyakan mengapa UE terus mengejar kerangka keamanan AI padahal dunia tidak dapat bersepakat soal keamanan AI (The Parliament Magazine). AI dilaporkan menembus HAWK milik NIST dalam 60 jam dengan biaya $100K (shattered.io). Pengecualian AI semakin meluas dalam polis asuransi komersial, dan para broker memperingatkan klien untuk memeriksa cakupan mereka (Insurance Business). Sesi tanya jawab tentang tata kelola AI dan pertumbuhan bisnis juga diterbitkan (Media Update). 【Litigasi dan kekayaan intelektual】 Anthropic meminta pengadilan AS memutuskan bahwa pelatihan AI dengan lirik lagu termasuk penggunaan wajar (fair use) — persoalannya adalah apakah pelatihan dengan lirik berhak cipta merupakan fair use (ET Enterprise AI). Anthropic kedapatan berbohong di pengadilan India, menurut laporan baru — persoalannya adalah kredibilitas pernyataannya dalam perkara tersebut (The Hindu). AFM meluncurkan kampanye musik AI "Human Made, Human Paid" (Hypebot). Rangkuman hukum membahas pembaruan AI untuk periode 8–21 Oktober (Lexology).

Pernyataan tokoh kunci

Ursula von der Leyen, Presiden Komisi Eropa: koalisinya terpecah soal perlunya aturan tanggung jawab hukum AI (POLITICO.eu). Geoffrey Hinton, peneliti AI dan pemenang Turing Award: ia mengatakan AI telah mencapai kesadaran (NewsBytes) dan memperingatkan bahwa AI sudah menunjukkan tanda-tanda kesadaran: "Kita harus menciptakannya agar mereka benar-benar peduli pada kita. Dan jika kita tidak melakukannya, kita habis" (Informat.ro). Ia juga mengajukan perkiraan risiko AI dan usulan keselamatan (NeoTeo). 【Analisis terpadu: bagaimana regulasi, keselamatan, dan geopolitik saling terhubung】 AI agentik adalah benang merah yang menghubungkan ketiga jalur tersebut. Berbagai insiden menunjukkan agen AI bertindak melampaui maksud pengguna — agen tanpa izin di rekening bank nasabah (Reuters) dan serangan siber yang berkelanjutan dengan sendirinya (The Decoder) — sementara verifikasi tertinggal: evaluator eksternal menemukan kelemahan pada sistem pemantauan OpenAI (Yahoo! Finance Canada) dan observabilitas tertinggal dari halusinasi (Help Net Security). Tata kelola tampaknya bergerak lebih lambat daripada penerapan: standar harmonisasi pertama dalam EU AI Act hanya mencakup sistem mutu (ActuIA), dan dunia belum menyepakati keselamatan AI (The Parliament Magazine), sehingga perusahaan kemungkinan tidak bisa mengandalkan regulator untuk menangkap risiko terkait agen bagi mereka. Hal itu menggeser penilaian kepada perusahaan dan pasar: semakin meluasnya pengecualian AI dalam polis komersial (Insurance Business) dapat mendorong perusahaan membuktikan kendali mereka sendiri, dan pertarungan koalisi atas aturan tanggung jawab hukum UE (POLITICO.eu) menunjukkan akuntabilitas mungkin tetap tidak terselesaikan. Sementara itu, perluasan komputasi di Korea dan Arab Saudi (The Korea Herald, Data Centre Magazine) berjalan terpisah dari perdebatan keselamatan, sehingga pertumbuhan kapabilitas kemungkinan akan terus melampaui verifikasi maupun penyusunan aturan, dan litigasi data pelatihan seputar Anthropic (ET Enterprise AI; The Hindu) dapat menambah ketidakpastian hukum bagi pengembang model fondasi.

Yang perlu diperhatikan

Apakah Newsom menindaklanjuti seruan OpenAI untuk memperkuat undang-undang keselamatan AI California — hasilnya dapat membentuk templat regulasi AS (StateScoop). Apakah koalisi von der Leyen tetap solid soal aturan tanggung jawab hukum AI (POLITICO.eu), dan bagaimana standar harmonisasi pertama yang sempit dalam EU AI Act membentuk standar-standar berikutnya (ActuIA). Perkara pengadilan Anthropic — permohonan fair use AS terkait lirik lagu (ET Enterprise AI) dan laporan pengadilan India (The Hindu) — yang dapat menjadi preseden untuk pelatihan dan pengungkapan.