Undang-Undang Perekrutan AI NYC: Hanya 18 dari 391 Pemberi Kerja yang Memublikasikan Audit── Jika tidak ada pihak luar yang dapat memeriksa apakah audit yang diwajibkan telah dilakukan, pelanggaran tidak terlihat dan tidak ada yang dimintai pertanggungjawaban

Pada 14 Oktober 2026, Stanford HAI menampilkan profil Deb Raji, seorang peneliti yang mempelajari akuntabilitas AI, dan Raji mengatakan bahwa bidang ini sangat meremehkan betapa sulitnya menegakkan hukum-hukum yang telah diperjuangkannya. Mengapa undang-undang akuntabilitas AI begitu sering tidak menyisakan siapa pun yang benar-benar dimintai pertanggungjawaban? Karena ketika tidak ada pihak luar yang dapat memeriksa apakah audit dan pemberitahuan yang diwajibkan telah dilakukan, pelanggaran tetap tak terlihat, dan proses untuk meminta pertanggungjawaban siapa pun tidak pernah dimulai.

01Undang-undang AI mandek pada titik di mana pihak luar tidak dapat memeriksa kepatuhan

Undang-undang yang ada tetapi tidak dapat ditegakkan meninggalkan jejak angka, dan jejak yang paling jelas berasal dari sebuah kota tempat undang-undang AI benar-benar telah berjalan selama beberapa waktu. Mulailah dari Raji sendiri. Ia dikenal lewat audit sistem pengenalan wajah komersial, ikut membantu menciptakan Model Cards saat di Google, dan musim gugur ini berada di Stanford HAI sebagai visiting fellow sebelum bergabung dengan fakultas pada musim gugur 2027.

Dalam wawancara, Raji menjelaskan sejarah bidang ini secara bertahap. Sekitar 2017, percakapan semuanya berkisar pada prinsip-prinsip tingkat tinggi. Dari sekitar 2020 hingga 2023, usulan legislasi yang serius bermunculan. Setelah ChatGPT, undang-undang mulai disahkan, dan salah satu contoh yang ia sebutkan adalah Local Law 144 Kota New York.

Setelah pengesahan, yang datang adalah penegakan. "Saya rasa kami sangat meremehkan tantangan penegakan," kata Raji.

Catatan Local Law 144 menunjukkan arah yang sama. Pada 2024, sebuah tim peneliti memeriksa 391 pemberi kerja dan menemukan bahwa hanya 18 yang telah memublikasikan audit bias yang diwajibkan oleh undang-undang tersebut. Pada 2025, Comptroller Negara Bagian New York memeriksa bagaimana lembaga kota menegakkan undang-undang itu. Lembaga tersebut telah meninjau 32 audit yang dipublikasikan dan menandai satu kemungkinan pelanggaran. Auditor negara bagian membaca 32 audit yang sama dan menemukan setidaknya 17.

Perlu ditegaskan, tidak satu pun angka ini berasal dari Raji. Angka-angka itu berasal dari para peneliti akademis dan dari audit negara bagian. Namun kedua sumber itu bertemu pada satu fakta: ketika kepatuhan tidak dapat dilihat dari luar, pelanggaran tidak akan muncul ke permukaan.

Bagi siapa pun yang memanfaatkan AI di dalam organisasi, saya menarik satu kesimpulan praktis. Jangan menunggu untuk melihat undang-undang apa yang akan hadir. Simpanlah catatan penggunaan AI Anda sendiri yang dapat diperiksa pihak luar. Ketika seseorang meminta Anda mempertanggungjawabkan suatu keputusan, catatan itu adalah satu-satunya hal yang dapat menopang jawaban Anda.

02Local Law 144: alat perekrutan memerlukan audit bias dalam waktu satu tahun, dan hasilnya diumumkan ke publik

Sebelum membaca 18 dari 391 sebagai vonis, ada baiknya mengetahui persis kewajiban apa yang dibebankan kepada para pemberi kerja tersebut.

Local Law 144 adalah undang-undang Kota New York yang mengatur alat keputusan ketenagakerjaan otomatis, yaitu perangkat lunak yang digunakan pemberi kerja untuk menyaring atau memeringkat calon pekerja. Penegakannya berada di tangan Department of Consumer and Worker Protection kota, yang biasanya disingkat DCWP. Kewajiban jatuh pada pemberi kerja, dan kewajiban itu datang dalam urutan yang tetap.

Audit harus dilakukan dalam waktu satu tahun sebelum alat tersebut digunakan. Ringkasan hasilnya harus dipasang di tempat yang dapat dibaca siapa saja. Kandidat dan karyawan harus menerima pemberitahuan sepuluh hari kerja sebelum alat tersebut digunakan pada mereka. DCWP mulai menegakkan undang-undang dan peraturannya pada 5 Juli 2023.

Angka ini membuat satu ciri sulit terlewatkan: lembaga tersebut berada di ujung rantai. Audit, pengumuman, dan pemberitahuan semuanya dilakukan oleh pemberi kerja di pihaknya sendiri. DCWP baru dapat turun tangan setelah mengetahui bahwa salah satu langkah itu tidak ada.

Raji menggolongkan audit bias semacam ini sebagai salah satu alat praktis penegakan hukum. Jadi alat-alat itu sudah ada di atas kertas. Langkah berikutnya yang jelas adalah menghitung berapa banyak pemberi kerja yang benar-benar menggunakannya, dan sekelompok peneliti melakukan persis hal itu.

03Dari 391 pemberi kerja yang diperiksa, 18 mempublikasikan audit dan 13 mempublikasikan pemberitahuan

Penghitungan ini berasal dari tim peneliti yang dipimpin Lucas Wright, dengan Jacob Metcalf dan J. Nathan Matias di antara para rekan penulis. Makalah mereka diterima di FAccT 2024, konferensi akademik utama tentang keadilan dan akuntabilitas dalam sistem komputasi.

Tim ini melatih 155 mahasiswa sebagai penyelidik. Bersama-sama, para mahasiswa mencatat bagaimana 391 pemberi kerja mematuhi Local Law 144. Dari pemberi kerja tersebut, 18 telah memublikasikan laporan audit. Hanya 13 yang telah memublikasikan pemberitahuan transparansi yang memberi tahu kandidat bahwa alat otomatis sedang digunakan.

Undang-undang yang sama memberikan tiga pihak yang berbeda tiga tugas yang berbeda, dan masing-masing meninggalkan angka yang berbeda. Jika disandingkan, hasilnya tampak seperti berikut.

Untuk setiap pemberi kerja di luar 18 itu, pihak luar tidak dapat mengetahui apakah AI digunakan untuk menyaring lamaran sama sekali. Pembacaan sekilas akan menyimpulkan bahwa sisanya melanggar hukum. Tim peneliti menaruh alasan mengapa kesimpulan itu keliru dalam judul makalah mereka.

Satu batasan perlu disebutkan di sini. Survei ini mencerminkan kondisi tahun 2024. Saya belum memeriksa apakah lebih banyak pemberi kerja yang telah memublikasikan audit sejak saat itu.

04Pemberi kerja menentukan sendiri apakah hukum berlaku bagi mereka, sehingga diam tidak membuktikan apa pun

Jumlah rendah sebesar 18 tidak berarti jumlah pelanggaran yang tinggi, dan alasannya terletak pada rancangan undang-undangnya.

Menurut Wright dan rekan-rekannya, Local Law 144 memberikan keleluasaan yang besar kepada pemberi kerja untuk menentukan apakah sistem mereka termasuk dalam cakupan undang-undang tersebut. Pemberi kerja yang memutuskan bahwa alatnya berada di luar cakupan tidak mempublikasikan audit dan tidak memberikan pemberitahuan. Pemberi kerja yang alatnya masuk dalam cakupan tetapi tidak mempublikasikan apa pun terlihat persis sama dari luar.

Para peneliti menyebut kondisi ini kepatuhan nol (null compliance). Ketika pencarian tidak menghasilkan apa pun, hasil kosong itu tidak dapat dikatakan menunjukkan ketidakpatuhan. Hasil itu juga tidak dapat dikatakan menunjukkan kepatuhan. Pengamat tidak mendapatkan jawaban.

Raji menyentuh tembok yang sama dari sisi yang berbeda. Perusahaan, katanya, secara struktural terbatas dalam seberapa terbuka mereka bisa bicara tentang seberapa baik atau tidak baiknya sebuah sistem bekerja. Menurut pembacaan saya atas kata 'struktural', batas itu terletak pada posisi perusahaan ketika berbicara tentang produknya sendiri, bukan pada kejujuran individu karyawan mana pun.

Menurut bacaan saya, kedua fakta itu saling memperparah. Hukum menyerahkan keputusan cakupan kepada pemberi kerja, dan pemberi kerja tidak berada dalam posisi yang baik untuk berbicara terus terang tentang perangkatnya sendiri. Sedikitnya informasi yang sampai ke pihak luar adalah hasil yang bisa diduga dari penggabungan kedua hal tersebut.

05Auditor negara bagian menemukan 17+ kemungkinan pelanggaran dalam 32 audit; kota hanya menemukan satu

Pemberi kerja yang tidak mempublikasikan apa pun tidak dapat dibedakan dari pemberi kerja yang melanggar. Yang tersisa hanyalah audit yang dipublikasikan. Apakah setidaknya audit itu dibaca dengan cermat?

Comptroller Negara Bagian New York meninjau kegiatan penegakan DCWP dari Juli 2023 hingga Juni 2025 dan menerbitkan audit tersebut pada Desember 2025. Saya tidak dapat membuka laporan lengkapnya dari lingkungan saya. Angka-angka di bawah ini dikutip dari analisis firma hukum DLA Piper, yang diterbitkan pada Januari 2026.

Temuan-temuan ini terbagi menjadi tiga bagian. Bagi pembaca di luar New York, 311 adalah saluran telepon umum kota untuk pertanyaan dan keluhan tentang layanan kota.

Dari ketiganya, yang kedua paling berbobot bagi saya. Catatannya ada. Catatan itu telah dipublikasikan, di tempat yang ditentukan oleh hukum. Namun begitu pembaca mengabaikan isinya, hasilnya tidak berbeda dengan tidak adanya catatan sama sekali.

Temuan pertama juga penting. Seorang kandidat yang menyadari pemberitahuan yang hilang dan mengangkat telepon memiliki, berdasarkan hasil uji ini, peluang tiga dari empat untuk tidak tersambung ke bagian yang tepat. Salah satu dari sedikit pintu yang dapat digunakan orang luar untuk melaporkan pelanggaran sebagian besar tertutup.

06Tanggung jawab membutuhkan hukum, catatan yang terlihat, dan kemampuan untuk memeriksanya

Dari 32 audit yang sama, badan tersebut menemukan satu kemungkinan pelanggaran. Jika fakta-fakta sejauh ini disandingkan, alasan mengapa tidak ada yang dimintai pertanggungjawaban jatuh pada tiga tempat.

Poin pertama mengubah cara membaca berita utama tentang undang-undang AI baru. Ketika melihat laporan bahwa yurisdiksi lain telah mengesahkannya, saya tidak lagi menganggapnya berarti tanggung jawab kini dapat ditetapkan. Local Law 144 mulai diberlakukan pada 2023, dan angka yang dihasilkannya setelah itu adalah 18 pemberi kerja dan satu masalah yang ditandai.

Poin kedua mengubah cara kita memperlakukan keheningan. Di bawah kepatuhan nol, perusahaan yang tidak mengunggah apa pun dan perusahaan yang melanggar hukum terlihat sama dari luar. Batas keterusterangan perusahaan yang dijelaskan Raji mendorong ke arah yang sama, yaitu menuju pengungkapan yang lebih sedikit, bukan lebih banyak.

Poin ketiga mengubah cara menilai nilai sebuah catatan. Ke-32 audit yang dipublikasikan sudah lengkap sebagai catatan. Nilainya bergantung pada siapa yang membacanya. Ketika dibaca oleh auditor negara bagian, audit-audit itu memuat setidaknya 17 potensi masalah. Ketika dibaca oleh lembaga terkait, hanya memuat satu.

Ketiganya tidak saling lepas. Sebuah undang-undang menyatakan kewajiban, pengguna memublikasikan catatan, dan seseorang membacanya. Jika salah satu mata rantai hilang, dua lainnya tidak cukup untuk memulai proses meminta pertanggungjawaban siapa pun.

07Warga California meminta akuntabilitas, tetapi belum ada mekanisme penegakan yang disebutkan

Meminta pertanggungjawaban siapa pun membutuhkan hukum, catatan, dan seseorang yang mampu membacanya. Di negara bagian yang kini menyiapkan putaran berikutnya aturan AI, manakah dari ketiganya yang belum ada?

Pada 13 Oktober 2026, Gubernur California Gavin Newsom mengumumkan hasil Engaged California, upaya tingkat negara bagian untuk melibatkan warga dalam keputusan tentang AI. Versi tingkat negara bagian dibuka untuk seluruh warga pada Mei 2026.

Tiga tema paling sering muncul dan mendapat dukungan terkuat. Salah satunya adalah "meminta pertanggungjawaban perusahaan AI atas kerugian yang mereka timbulkan."

Pengumuman tersebut tidak menjelaskan bagaimana hal itu akan ditegakkan. Pengumuman itu tidak menyebut rancangan undang-undang mana pun dan tidak menetapkan tenggat. Hanya dikatakan bahwa rekomendasi tersebut akan menjadi masukan bagi keputusan kebijakan di masa depan.

Raji sendiri menyebutkan alat penegakan yang konkret. Salah satunya adalah templat pengungkapan standar, sehingga persyaratan transparansi memiliki bentuk yang pasti. Yang lainnya adalah basis data insiden yang menentukan sebelumnya apa yang dihitung sebagai insiden yang valid dan mencatat bagaimana pemerintah dan perusahaan menanggapinya.

Templat pengungkapan punya preseden. Saat di Google, Raji membantu membuat Model Cards, dokumen singkat yang menyertai model terlatih dan melaporkan kinerjanya dalam evaluasi. Makalah yang menjelaskannya diunggah pada 2018.

Apakah California akan membangun alat semacam ini belum diketahui. Yang dapat saya verifikasi berhenti pada fakta bahwa warga meminta pertanggungjawaban.

Organisasi yang menggunakan AI tidak harus menunggu negara. Di bawah Local Law 144, langkah yang tidak dapat dilihat pihak luar adalah keputusan pemberi kerja sendiri tentang apakah suatu alat termasuk dalam cakupan. Tuliskan alasan keputusan itu dan simpanlah, sehingga kelak siapa pun dapat membedakan antara keheningan dan pelanggaran.

Masih ada ketidakpastian, dan itu layak dicantumkan di halaman. Survei terhadap 391 pemberi kerja berasal dari tahun 2024, dan saya belum memeriksa kondisi pengungkapan sejak saat itu. Angka audit negara dikonfirmasi melalui kutipan dari sebuah firma hukum, bukan dari laporannya sendiri. Rincian bahwa 311 panggilan yang salah rute tidak pernah sampai ke lembaga tersebut juga bertumpu pada ringkasan sekunder.

Undang-undang yang membebankan tanggung jawab atas kerugian akibat AI hanya menghasilkan sedikit hal ketika tidak ada catatan eksternal yang menunjukkan kepatuhan dan tidak ada yang memiliki kapasitas untuk membacanya. Ke-18 pemberi kerja dan satu isu yang ditandai di New York City adalah gambaran nyatanya dalam praktik.

Organisasi yang menggunakan AI hanya dapat menjawab ketika ditanya jika mereka menyimpan catatan itu sendiri. Untuk perangkat AI dalam pekerjaan saya sendiri, saya mulai dengan satu baris per perangkat: alasan saya memutuskan untuk menggunakannya, dituliskan sebelum ada yang bertanya.