Keselamatan AI: Empat Pihak Meminta Jawaban Sekaligus── Di mana aturan dan perkara pengadilan saling tumpang tindih, serta catatan yang harus disimpan perusahaan farmasi
Haruskah kita menyerahkan keamanan AI kepada perusahaan yang membuatnya? Pada akhirnya, Anda akan melihat mengapa keamanan berubah menjadi kewajiban yang diperiksa pihak luar melalui catatan. Empat pihak yang sangat berbeda bergerak. Sebuah kantor nasional yang melindungi konsumen. Pemerintah daerah. Seorang pejabat yang mengawasi uang kota. Dan otoritas di luar negeri. Industri farmasi sudah lama membuat keputusan hidup dan mati di bawah aturan ketat. Jika kita membawa AI ke dalam pekerjaan itu, kita perlu tahu siapa yang dapat kita andalkan. Kita akan melihat soal uang, mesin yang gagal pada tugas yang kita berikan, kesepakatan untuk menemukan obat, dan dasar di balik pembacaan citra. Apa yang kembali kepada kita sebagai pengguna?
01Regulasi dan gugatan hukum bertemu
Sumber Axios ／ Santa Cruz Sentinel ／ Crain's New York ／ Organisasi Teknologi
Kami mulai dari luar para pengembang. Selama ini, para pembangun menjelaskan keselamatan dengan kata-kata mereka sendiri. Di sini kami bertanya siapa di luar perusahaan yang mulai menuntut penjelasan itu, dan sejauh mana.
| Aktor | Sasaran | Apa yang dilaporkan |
|---|---|---|
| FTC | OpenAI, Anthropic | Meminta dokumen tentang insiden keselamatan terbaru |
| 8 negara bagian | OpenAI | Digugat atas tuduhan membahayakan anak-anak dan menipu orang dewasa |
| Bendahara Kota New York (NYC Comptroller) | Anthropic | Mendesak penundaan IPO dengan alasan “berbagai kekhawatiran keselamatan” |
| UE | OpenAI, Anthropic | Kasus penegakan pertama berdasarkan AI Act dilaporkan |
Axios, Santa Cruz Sentinel, Crain's New York, Technology Org (10/15)
Pihak-pihak ini hampir tidak mungkin lebih berbeda. Sebuah lembaga pengawas konsumen, pemerintah daerah, seorang pejabat kota yang menjaga uang publik, dan sebuah badan luar negeri. Masing-masing bertindak karena alasannya sendiri, dan waktunya kebetulan beririsan. Satu pihak saja bisa dianggap sebagai kelalaian satu perusahaan. Bersama-sama, mereka menunjukkan adanya pergeseran. Keamanan bergeser dari tujuan yang ditetapkan perusahaan sendiri menjadi kewajiban yang ditegakkan dari luar.
Langkah yang paling berat adalah lembaga pengawas meminta dokumen. Menyerahkan dokumen berarti menunjukkan secara tertulis apa yang terjadi dan bagaimana hal itu ditangani. Janji lisan tidak lagi cukup. Kerja keselamatan kini dinilai dari ada tidaknya jejak catatan.
Bagi tim farmasi, ini bukan cerita yang jauh. Saya perkirakan pekerjaan yang kita serahkan kepada mesin suatu hari akan menghadapi pertanyaan yang sama. Alat mana yang melakukan apa, apa yang salah, dan bagaimana diperbaiki? Simpan jejaknya sekarang, dan Anda bisa menjawab saat ditanya.
Pengawasan dari luar juga mengubah cara investor memandang perusahaan-perusahaan ini. Selanjutnya, apa yang diberitahukan oleh angka-angka yang ditampilkan sebelum pencatatan saham.
02Pendapatan menjelang IPO
Sumber Financial Times ／ Yahoo Keuangan ／ Investor's Business Daily ／ Bloomberg.com
Perusahaan yang sedang disorot itu sendiri menunjukkan angka yang kuat kepada para investor. Bagaimana pasar menimbang daya hasilnya terhadap keraguan soal keamanan? Itulah pertanyaan kita di sini.
| Butir | Apa yang dilaporkan | Sumber |
|---|---|---|
| Pendapatan kuartalan | $16,8 miliar; investor diberi tahu angkanya naik hampir 50% | Financial Times |
| Arus kas | Arus kas positif pertama di antara pengembang model AI | Yahoo Keuangan |
| Saham AI | Turun bahkan setelah laporan pendapatan | Investor's Business Daily |
| Pandangan analis | Angin segar bagi IPO, tetapi tak mengangkat saham AI | |
Pendapatan untuk periode Jul–Sep (judul berita Yahoo Finance)
Penjualan tumbuh tajam, dan uang tunai yang masuk dilaporkan lebih banyak daripada yang keluar. Di bidang yang menggelontorkan dana besar untuk pengembangan, ini kabar yang mencolok. Namun saham perusahaan terkait tidak naik. Pasar tidak menafsirkan kekuatan satu perusahaan sebagai kabar baik bagi seluruh sektor. Angka-angka dan reaksi pasar menunjuk ke arah yang berbeda.
Mengapa ada kesenjangan? Bukti kemampuan menghasilkan laba belum menghapus keraguan tentang keamanan. Bahkan ada yang mendesak penundaan tepat sebelum pencatatan saham. Jadi menurut saya para investor memperhitungkan risiko di balik hasil yang kuat tersebut.
Dari sisi farmasi, ini memberi petunjuk dalam memilih alat. Saat memilih mesin dari sebuah vendor, membandingkan kinerja dan harga saja tidak cukup. Seberapa besar vendor terpapar pada regulator dan pengadilan menentukan apakah Anda dapat memakai alat yang sama dengan ketentuan yang sama besok. Alat dari perusahaan yang sedang digugat bisa mengalami perubahan ketentuan penggunaan dalam semalam.
Lalu, ketika kita membiarkan alat itu bertindak atas nama kita, siapa yang bertanggung jawab atas kesalahannya? Berikutnya, mesin yang dipercaya untuk melakukan pembayaran.
03Siapa yang bertanggung jawab ketika AI berbelanja untuk Anda
Sumber ServiceNow ／ Tepian ／ Berita Siber
Kini mesin menekan tombol-tombol yang dulu ditekan orang satu per satu. Jika terjadi kesalahan di sana, siapa yang menanggung kerugian? Kenyamanan datang lebih dulu, dan jawabannya masih terbuka.
Alurnya sendiri sederhana. Seseorang menyerahkan tugas, dan mesin melangkah sampai ke tahap pembayaran. Di tahap berikutnya, kesalahan atau kebocoran dapat terjadi. Soal langkah terakhir itu, kepala salah satu pengembang dengan tegas mengatakan bahwa perusahaannya akan menanggung kerugiannya. Tanggung jawab mulai bergeser dari pengguna ke pembuat.
Namun, sebuah kasus dengan mesin itu dan email palsu dilaporkan menunjukkan bahaya pendelegasian. Janji mengganti kerugian memang penting, tetapi tidak membuktikan bahwa kecelakaan tidak akan terjadi. Sementara itu, perusahaan lain memperluas alat yang membatasi cara mesin bertindak di dalam bisnis. Perlindungan lewat janji, atau perlindungan lewat desain.
Di bidang farmasi, suatu hari mesin akan melakukan pemesanan. Dalam kontrak, periksa dua hal sebelum janji kompensasi apa pun. Bisakah Anda menghentikan mesinnya, dan adakah log atas apa yang dilakukannya? Uang dapat mengganti kerugian. Uang tidak dapat membatalkan dampaknya pada pasien atau mitra.
Kata-kata janji dan uang yang benar-benar bergerak adalah dua hal yang berbeda. Selanjutnya, cara membaca nilai yang menyertai sebuah kesepakatan untuk menemukan obat.
04Tiga nominal dalam satu kesepakatan penemuan obat berbasis AI
Sumber AstraZeneca ／ Reuters ／ BioSpace ／ Yahoo Keuangan
Satu kesepakatan yang sama, tetapi laporan yang berbeda menyebutkan jumlah yang berbeda. Pertanyaannya bukan seberapa besar jumlahnya, melainkan terdiri dari apa jumlah itu.
| Jenis jumlah | Jumlah yang dilaporkan | Alam |
|---|---|---|
| Jumlah utama | $1.86 Miliar | Kesepakatan perusahaan farmasi besar dengan insitro. Bloomberg dan lainnya |
| Jumlah plafon | Hingga $1.5B | Bukan jumlah tetap. Dibayar sesuai hasil |
| Jumlah di muka | $40M | Menandatangani pembayaran. Bagian yang pasti dibayar |
| Dibesarkan dalam IPO | $150M | Penemu obat AI Iambic. Terpisah dari pembayaran kemitraan |
Sasaran: penyakit hati dan jantung (MASH, kardiomiopati, dll.). Jumlah sebagaimana tertulis dalam laporan asli
Angka terbesar berasal dari beberapa berita utama. Di bawahnya ada batas atas yang hanya dibayar jika hasil tercapai. Yang pasti berpindah tangan tampaknya hanya pembayaran awal yang kecil. Selisih di antara keduanya lebih dari satu orde besaran. Uang yang dihimpun perusahaan lain lewat pencatatan saham juga ditampilkan, tetapi tidak dibayarkan oleh para mitra. Jika Anda hanya mengingat angka utamanya, Anda akan salah menilai kesepakatan ini.
Jumlah berbatas itu dibayarkan secara bertahap, setiap kali penelitian melewati satu tahap. Jika gagal di satu tahap, tidak ada yang dibayarkan. Bagi pembayar, ini menghindari pembayaran untuk hasil yang tidak pernah datang. Angka besar di judul hanyalah nilai maksimum, jika semuanya berjalan lancar.
Tim farmasi sudah membaca kesepakatan dengan cara ini dalam pekerjaan sehari-hari. Namun ketika AI terlibat, angka utama dalam judul cenderung menyebar apa adanya. Saat menjelaskan investasi di dalam perusahaan Anda, pisahkan pembayaran pertama dari batas maksimumnya. Hanya dengan itu, ekspektasi tetap terkendali.
Setelah uang, muncul pertanyaan seberapa andal penilaian mesin itu sendiri. Berikutnya, bagaimana mesin yang membaca citra medis menangani dasar penilaiannya.
05Bukti tentang AI yang membaca sinar-X
Sumber X-Ragent: Pembelajaran Penguatan yang Diperkuat Alat untuk Penalaran Sinar-X Dada Berbasis Bukti
Mesin pembaca citra medis tidak dipercaya hanya karena memberikan jawaban yang benar. Jika jawaban yang benar bertumpu pada dasar yang salah, ia akan meleset pada pasien berikutnya. Di sini, sebuah tim mencoba mengajari mesin untuk memilih dasarnya.
Studi ini memisahkan dua penilaian. Pertama, apakah akan mencari dukungan. Kedua, menyingkirkan nilai-nilai yang tidak sesuai dengan gambaran. Dokter manusia juga tidak mempercayai hasil bacaan yang bertentangan dengan gambaran di hadapan mereka. Mesin mempelajari akal sehat itu sedikit demi sedikit.
Beri imbalan hanya jika benar
Skor untuk konsistensi pengukuran dan biaya alat hanya diberikan kepada lintasan yang diagnosisnya benar.
Materi pelatihan
Membangun Rad-CoT, yang menggabungkan log pemanggilan alat dengan penalaran bergaya laporan, di atas model dasar Qwen3-VL-8B.
Belum ditinjau sejawat
Sebuah preprint arXiv. Abstraknya tidak menyebutkan pembanding yang digunakan untuk mengukur peningkatan yang dilaporkan.
Poin untuk setiap langkah di sepanjang proses hanya diberikan bila jawaban akhirnya benar. Menilai proses di balik jawaban yang salah bisa mengajarkan kesalahan yang tampak masuk akal. Meski begitu, pakar eksternal belum memeriksa makalah ini. Ringkasannya juga tidak menyebutkan apa yang berhasil dikalahkannya.
Bagi industri farmasi, hal ini beririsan dengan pekerjaan keamanan obat. Yang penting bukanlah kesimpulannya, melainkan apakah mesin dapat menunjukkan apa yang menjadi dasar pertimbangannya. Jika dasarnya dapat dilacak, jejak itu membantu orang yang memeriksanya dan regulator yang menanyakannya.
Sementara riset menuntut dasar yang jelas, mesin sudah bekerja di lapangan. Selanjutnya, tempat-tempat di mana obat ditemukan dan disalurkan.
06Di garis depan farmasi
Sumber Google DeepMind ／ Pulse 2.0 ／ Quiver Kuantitatif
Sejauh ini, kita telah mendengar dari para pembangun dan regulator. Seberapa jauh mesin telah masuk ke pekerjaan farmasi itu sendiri? Berita hari ini menunjukkan sebagian jawabannya.
Pencarian peptida antimikroba
Blog resmi Google DeepMind menjelaskan penggunaan Google Antigravity untuk mempercepat pencarian peptida antimikroba.
Platform AI untuk rantai pasok
ParkourSC mengakuisisi Quartic. Tujuannya adalah platform AI untuk rantai pasok ilmu hayati; judul beritanya tidak mencantumkan harga.
Kandidat dari program bersama
Dari kolaborasi berbasis AI dengan Recursion, perusahaan obat mitra dilaporkan telah menggunakan opsinya atas kandidat pengembangan pertama.
Langkah-langkah hari ini tersebar dari awal pembuatan obat hingga saat obat sampai ke pasien. Menemukan kandidat, memutuskan apakah akan mengambil alih satu kandidat, dan memindahkan obat. Mesin tidak lagi menjadi alat hanya untuk laboratorium. Yang paling berbobot adalah keputusan perusahaan mitra untuk mengambil alih kandidat yang lahir dari penelitian bersama. Pihak farmasi menilai kandidat pilihan mesin layak mendapat waktu dan uangnya.
Mengambil alih berarti perusahaan farmasi tersebut menggunakan opsi yang telah diamankannya dalam kontrak. Sejak saat itu, pengembangan selanjutnya menjadi tugasnya sendiri. Jadi keputusan ini dibaca sebagai tanda bahwa usulan mesin tersebut layak diinvestasikan. Kandidat pilihan mesin telah lolos satu ujian manusia.
Mesin yang memasuki tahap pengiriman juga patut diperhatikan. Jika pasokan berhenti, obat berhenti sampai ke pasien. Baik dalam penelitian maupun pasokan, pertanyaan yang sama tetap ada. Siapa yang memeriksa penilaian mesin, dan siapa yang bisa menghentikannya?
Di balik berita yang menarik perhatian, pertanyaan tentang siapa yang menghentikan mesin itu tetap ada. Terakhir, beberapa berita yang mudah terlewatkan.
07Apa yang terabaikan
Sumber Waktu New York ／ Pos Pagi Tiongkok Selatan ／ Otoritas Android
Kisah-kisah terakhir kami tampak kecil dibandingkan aturan dan perkara pengadilan. Namun, kisah-kisah itu lebih dekat dengan pekerjaan sehari-hari pengguna. Karena bersembunyi di balik berita besar, dampaknya bisa lebih keras menghantam pekerjaan besok.
Pelanggaran oleh orang dalam
The NYT melaporkan bahwa seorang insinyur OpenAI yang didakwa menanam bug telah menasihati pihak Arab Saudi.
AI yang berhenti, dan mengembalikan dana
DeepSeek kembali mengalami gangguan besar selama sekitar 5 jam dan memberikan pengembalian dana serta kompensasi. Dilaporkan sedikitnya yang ke-18 kalinya tahun ini.
Pemberitahuan harga 4x
Google dilaporkan mengirim email kepada pelanggan Gemini tentang perubahan yang membuat harga mereka menjadi 4 kali lebih tinggi.
Cacat yang ditanam orang dalam, layanan yang terus down, harga yang tiba-tiba melonjak. Tak satu pun dari ini menyangkut seberapa pintar mesinnya. Meski begitu, semuanya merugikan mereka yang telah menyerahkan pekerjaan. Uang kembali setelah setiap gangguan tidak memulihkan pekerjaan yang hilang saat layanan mati. Kecurangan dari dalam tidak dapat diblokir oleh pertahanan luar. Pengguna tidak dapat melihat kontrol internal pembuatnya. Keamanan lebih dari sekadar jawaban yang benar. Menurut saya, keamanan juga berarti tetap beroperasi, tetap setia, dan menjaga ketentuan tetap stabil.
Bagaimana jika alat yang tertanam dalam pekerjaan farmasi berhenti pada suatu pagi? Jika harganya berubah, bisakah Anda beralih ke alat lain? Sejauh mana Anda bisa memercayai orang-orang di dalam perusahaan pembuatnya? Pengguna dapat menetapkan rencana ini hari ini, tanpa menunggu kabar tentang regulasi. Dengan jawaban yang sudah siap, pekerjaan terus berjalan. Ini adalah pemikiran yang sama dengan bersiap menghadapi terputusnya pasokan obat.
Aturan dari luar dan kegagalan di depan mata kita bermuara pada pertanyaan yang sama. Pengguna pun tidak bisa melepaskan tugas memeriksa keamanan.
Apakah cakupan FTC dan waktu IPO akan terungkap?
Buka transkrip lengkap
Pengantar
Haruskah kita menyerahkan keamanan AI kepada perusahaan yang membuatnya? Pada akhirnya, Anda akan melihat mengapa keamanan berubah menjadi kewajiban yang diperiksa pihak luar melalui catatan. Empat pihak yang sangat berbeda bergerak. Sebuah kantor nasional yang melindungi konsumen. Pemerintah daerah. Seorang pejabat yang mengawasi uang kota. Dan otoritas di luar negeri. Industri farmasi sudah lama membuat keputusan hidup dan mati di bawah aturan ketat. Jika kita membawa AI ke dalam pekerjaan itu, kita perlu tahu siapa yang dapat kita andalkan. Kita akan melihat soal uang, mesin yang gagal pada tugas yang kita berikan, kesepakatan untuk menemukan obat, dan dasar di balik pembacaan citra. Apa yang kembali kepada kita sebagai pengguna?
BAB 01 Regulasi dan gugatan hukum bertemu
Kita mulai dari luar para pengembang. Selama ini, para pembuat menjelaskan keamanan dengan kata-kata mereka sendiri. Di sini kita bertanya siapa di luar perusahaan yang mulai menuntut penjelasan itu, dan sejauh mana.Pihak-pihak ini hampir tidak bisa lebih berbeda. Sebuah lembaga pengawas konsumen, pemerintah daerah, seorang pejabat kota yang menjaga uang publik, dan sebuah badan di luar negeri. Masing-masing bertindak dengan alasannya sendiri, dan waktunya saling tumpang tindih. Satu pihak saja bisa dianggap sebagai kelalaian satu perusahaan. Bersama-sama, mereka menunjukkan adanya pergeseran. Keamanan sedang bergerak dari tujuan yang ditetapkan sendiri oleh perusahaan menjadi kewajiban yang ditegakkan dari luar.Langkah yang paling berat adalah lembaga pengawas yang meminta dokumen. Menyerahkan dokumen berarti menunjukkan secara tertulis apa yang terjadi dan bagaimana hal itu ditangani. Janji lisan tidak lagi cukup. Pekerjaan keamanan kini dinilai dari ada tidaknya rekam jejak.Bagi tim farmasi, ini bukan cerita yang jauh. Saya perkirakan pekerjaan yang kita serahkan kepada mesin suatu hari akan menghadapi pertanyaan yang sama. Alat mana yang melakukan apa, apa yang salah, dan bagaimana diperbaiki?
Simpan jejak itu sekarang, dan Anda dapat menjawab saat ditanya. Pengawasan dari luar juga mengubah cara investor memandang perusahaan-perusahaan ini. Selanjutnya, apa yang ditunjukkan oleh angka-angka yang diungkapkan sebelum pencatatan saham.
BAB 02 Pendapatan menjelang IPO
Perusahaan yang menjadi sorotan itu justru menunjukkan angka yang kuat kepada para investor. Bagaimana pasar menimbang kemampuan menghasilkan laba terhadap keraguan soal keamanan?Itulah pertanyaan kita di sini.Penjualan tumbuh pesat, dan arus kas masuk dilaporkan lebih besar daripada arus kas keluar. Di bidang yang menggelontorkan dana sangat besar untuk pengembangan, ini kabar yang mencolok. Namun, saham perusahaan-perusahaan terkait tidak naik. Pasar tidak menganggap kekuatan satu perusahaan sebagai kabar baik bagi seluruh sektor. Angka-angka dan reaksi pasar menunjuk ke arah yang berbeda.Mengapa ada kesenjangan ini?
Bukti kemampuan menghasilkan laba belum menghapus keraguan soal keamanan. Sebagian bahkan mendesak penundaan tepat sebelum pencatatan saham. Jadi menurut saya, investor memperhitungkan risiko di balik hasil yang kuat tersebut. Dari sisi farmasi, ini memberi petunjuk dalam memilih perangkat. Saat memilih mesin dari sebuah vendor, membandingkan kinerja dan harga saja tidak cukup. Seberapa besar vendor itu terpapar regulator dan pengadilan menentukan apakah besok kita masih bisa memakai perangkat yang sama dengan syarat yang sama. Perangkat dari perusahaan yang sedang digugat bisa saja berubah ketentuan penggunaannya dalam semalam. Lalu, ketika kita membiarkan perangkat itu bertindak atas nama kita, siapa yang bertanggung jawab atas kesalahannya?
Selanjutnya, mesin yang dipercaya untuk melakukan pembayaran.
BAB 03 Siapa yang bertanggung jawab ketika AI berbelanja untuk Anda
Kini mesin menekan tombol-tombol yang dahulu ditekan satu per satu oleh manusia. Ketika terjadi kesalahan di sana, siapa yang menanggung kerugiannya?Kenyamanan datang lebih dulu, dan jawabannya masih terbuka.Alurnya sendiri sederhana. Seseorang menyerahkan tugas, dan mesin bergerak hingga tahap pembayaran. Lebih jauh lagi, bisa terjadi kesalahan atau kebocoran. Pada langkah terakhir itu, kepala salah satu pengembang dengan tegas menyatakan bahwa perusahaannya akan menanggung kerugian. Tanggung jawab mulai bergeser dari pengguna ke pembuat.Namun, sebuah kasus yang melibatkan mesin tersebut dan sebuah email palsu dilaporkan menunjukkan bahaya dari pendelegasian. Janji mengganti kerugian memang penting, tetapi tidak membuktikan bahwa kecelakaan tidak akan terjadi. Sementara itu, perusahaan lain memperluas alat yang membatasi cara mesin bertindak di dalam bisnis. Perlindungan lewat janji, atau perlindungan lewat desain.Di bidang farmasi, suatu saat mesin akan melakukan pemesanan. Dalam kontrak, periksa dua hal sebelum ada janji kompensasi apa pun. Dapatkah Anda menghentikan mesin itu, dan adakah log tentang apa yang telah dilakukannya?
Uang dapat mengganti kerugian. Namun uang tidak dapat menghapus dampaknya bagi pasien maupun mitra. Kata-kata janji dan uang yang benar-benar mengalir adalah dua hal yang berbeda. Selanjutnya, cara membaca jumlah uang yang menyertai sebuah kesepakatan untuk menemukan obat.
BAB 04 Tiga nominal dalam satu kesepakatan penemuan obat berbasis AI
Satu kesepakatan yang sama, tetapi laporan yang berbeda menyebutkan jumlah yang berbeda. Pertanyaannya bukan seberapa besar jumlahnya, melainkan terdiri dari apa jumlah itu.Angka terbesar berasal dari sejumlah berita utama. Di bawahnya terdapat batas maksimum yang hanya dibayarkan jika hasil tercapai. Yang pasti berpindah tangan tampaknya hanya pembayaran awal yang kecil. Selisih di antara keduanya lebih dari satu orde besaran. Dana yang dihimpun perusahaan lain melalui pencatatan saham juga ditampilkan, tetapi mitra tidak membayarnya. Jika Anda hanya mengingat angka di berita utama, Anda akan keliru menilai kesepakatan ini.Jumlah dengan batas maksimum itu dibayarkan secara bertahap, setiap kali penelitian melewati satu tahap. Jika satu tahap gagal, tidak ada yang dibayarkan. Bagi pihak pembayar, hal ini menghindari pembayaran untuk hasil yang tak pernah datang. Angka besar di berita utama hanyalah jumlah maksimum, jika semuanya berjalan lancar.Tim farmasi sudah membaca kesepakatan dengan cara ini dalam pekerjaan sehari-hari. Namun ketika AI terlibat, angka di berita utama cenderung menyebar apa adanya. Saat menjelaskan investasi di dalam perusahaan Anda, pisahkan pembayaran awal dari batas maksimumnya. Itu saja sudah menjaga ekspektasi tetap terkendali. Setelah soal uang, muncul pertanyaan seberapa andal penilaian mesin itu sendiri. Selanjutnya, bagaimana mesin yang membaca citra medis menangani dasar penilaiannya.
BAB 05 Bukti pada AI yang membaca sinar-X
Mesin pembaca citra medis tidak dipercaya hanya karena memberikan jawaban yang benar. Jika jawaban yang benar bertumpu pada dasar yang salah, ia akan meleset pada pasien berikutnya. Di sini, sebuah tim mencoba mengajari mesin untuk memilih dasarnya.Studi ini memisahkan dua penilaian. Pertama, apakah perlu mencari bukti pendukung. Kedua, menyingkirkan nilai-nilai yang tidak cocok dengan citra. Dokter manusia pun tidak memercayai pembacaan yang bertentangan dengan gambar di hadapan mereka. Mesin mempelajari akal sehat itu sedikit demi sedikit.Poin untuk langkah-langkah di sepanjang jalan hanya diberikan bila jawaban akhirnya benar. Menilai proses di balik jawaban yang salah bisa mengajarkan kesalahan yang tampak masuk akal. Meski begitu, pakar luar belum memeriksa makalah ini. Ringkasannya juga tidak menyebutkan apa yang berhasil dikalahkannya.Bagi industri farmasi, hal ini beririsan dengan pekerjaan keamanan obat. Yang penting bukan kesimpulannya, melainkan apakah mesin dapat menunjukkan apa yang diandalkannya. Jika dasarnya dapat dilacak, jejak itu membantu mereka yang memeriksanya dan regulator yang menanyakannya. Sementara riset menuntut dasar penalaran, mesin sudah bekerja di lapangan. Berikutnya, tempat-tempat obat ditemukan dan didistribusikan.
BAB 06 Di garis depan industri farmasi
Sejauh ini, kita telah mendengar dari para pembangun dan regulator. Seberapa jauh mesin telah masuk ke dalam pekerjaan farmasi itu sendiri? Berita hari ini menunjukkan sebagian jawabannya. Langkah-langkah hari ini tersebar dari tahap awal pembuatan obat hingga titik ketika obat sampai ke pasien. Menemukan kandidat, memutuskan apakah akan mengambil alih satu kandidat, dan memindahkan obat. Mesin tidak lagi menjadi alat hanya untuk laboratorium. Yang paling berbobot adalah keputusan sebuah perusahaan mitra untuk mengambil alih kandidat yang lahir dari penelitian bersama. Pihak farmasi menilai kandidat pilihan mesin layak mendapat waktu dan uangnya. Mengambil alih berarti perusahaan obat menggunakan pilihan yang telah diamankannya dalam kontrak. Sejak saat itu, pengembangan ke depan menjadi tugasnya sendiri. Jadi keputusan itu terbaca sebagai tanda bahwa usulan mesin layak diinvestasikan. Kandidat pilihan mesin telah lulus satu ujian manusia. Masuknya mesin ke tahap pengiriman juga patut diperhatikan. Jika pasokan berhenti, obat berhenti sampai ke pasien. Baik dalam penelitian maupun pasokan, pertanyaan yang sama tetap ada. Siapa yang memeriksa penilaian mesin, dan siapa yang bisa menghentikannya?
Di balik berita yang menarik perhatian, pertanyaan tentang siapa yang menghentikan mesin itu tetap ada. Terakhir, beberapa berita yang mudah terlewatkan.
BAB 07 Apa yang terabaikan
Kisah-kisah kami yang terakhir tampak kecil dibandingkan dengan aturan dan perkara pengadilan. Namun kisah-kisah itu lebih dekat dengan pekerjaan sehari-hari para pengguna. Karena bersembunyi di balik berita besar, dampaknya pada pekerjaan esok hari bisa jadi lebih berat. Celah yang ditanam orang dalam, layanan yang terus-menerus down, harga yang tiba-tiba melonjak. Tidak satu pun dari ini menyangkut seberapa cerdas mesinnya. Meski begitu, semuanya merugikan mereka yang telah menyerahkan pekerjaan. Uang kembali setelah setiap gangguan tidak memulihkan pekerjaan yang hilang selama layanan down. Kecurangan dari dalam tidak dapat dicegah oleh pertahanan dari luar. Pengguna tidak dapat melihat kontrol internal pembuat layanan. Keamanan lebih dari sekadar jawaban yang benar. Menurut saya, keamanan juga berarti tetap beroperasi, tetap setia, dan menjaga ketentuan tetap stabil. Bagaimana jika sebuah alat yang tertanam dalam pekerjaan farmasi berhenti pada suatu pagi?
Jika harga berubah, bisakah Anda pindah ke alat lain?Seberapa jauh Anda bisa memercayai orang-orang di dalam pembuatnya?Pengguna dapat menetapkan rencana ini hari ini, tanpa menunggu kabar tentang regulasi. Dengan jawaban yang sudah siap, pekerjaan tetap berjalan. Ini adalah pola pikir yang sama dengan bersiap menghadapi terputusnya pasokan obat. Aturan dari luar dan kegagalan di depan mata kita mengarah pada pertanyaan yang sama. Pengguna pun tidak bisa melepaskan tugas memeriksa keselamatan.
Penutup
Peristiwa hari ini semuanya mengarah ke tempat yang sama. Keamanan tidak bisa bertumpu pada janji pembuat semata. Keamanan bertahan ketika pihak luar mempertanyakannya dan pengguna terus memeriksanya. Besok, kita mungkin akan mengetahui seberapa jauh jangkauan permintaan lembaga pengawas itu, dan bagaimana rencana pencatatan saham bergerak. Setelah itu kita dapat mempertajam cara memilih alat, dan catatan apa yang kita simpan di dalam perusahaan kita.
- BAB 01Axios「Scoop: FTC menuntut dokumen dari raksasa AI terkait insiden keselamatan baru-baru ini」 axios.com
- BAB 01Santa Cruz Sentinel「Sejumlah negara bagian menggugat raksasa AI OpenAI, menyatakan chatbot populernya merugikan anak-anak dan menipu orang dewasa」 santacruzsentinel.com
- BAB 01Crain's New York「Comptroller mendesak Anthropic menunda IPO mengingat ‘banyak kekhawatiran keselamatan’」 crainsnewyork.com
- BAB 01Organisasi Teknologi「Uni Eropa Buka Kasus Penegakan AI Act Pertama terhadap OpenAI dan Anthropic」 technology.org
- BAB 02Financial Times「Anthropic memberi tahu investor bahwa pendapatan kuartalan naik hampir 50% menjadi $16,8 miliar menjelang IPO」 ft.com
- BAB 02Yahoo Keuangan「Pembaruan: Kabar Pasar: Pendapatan Anthropic Capai $16.8 Miliar di Kuartal III, Arus Kas Pembuat Model AI Positif」 finance.yahoo.com
- BAB 02Investor's Business Daily「Mengapa Laporan tentang Pendapatan Anthropic Menambah Kegelisahan Saham AI」 investors.com
- BAB 02Bloomberg.com「Hasil Anthropic Dapat Membantu IPO tetapi Tidak untuk Perdagangan AI, Kata Para Analis」 bloomberg.com
- BAB 03ServiceNow「ServiceNow memajukan operational harness untuk AI perusahaan dengan AI Passport dan kapabilitas tata kelola yang diperluas」 newsroom.servicenow.com
- BAB 03Tepian「Elon Musk berjanji akan “mengganti rugi Anda sepenuhnya” jika Grok salah melakukan pembelian atau membocorkan kartu kredit Anda.」 theverge.com
- BAB 03Berita Siber「Grok Bot berhasil menangkap email phishing, ungkap risiko agen AI」 cybernews.com
- BAB 04AstraZeneca「AstraZeneca mengumumkan kolaborasi strategis baru dengan insitro untuk menggunakan sistem AI canggih dalam mengembangkan terapi transformatif bagi penyakit kardiometabolik yang sulit diobati」 astrazeneca.com
- BAB 04Reuters「AstraZeneca menjalin kesepakatan penemuan obat AI senilai $40 juta dengan insitro」 reuters.com
- BAB 04BioSpace「AstraZeneca memperkuat pekerjaan MASH dan kardio dalam kemitraan AI senilai hingga $1,5 miliar dengan insitro」 biospace.com
- BAB 04Yahoo Keuangan「Iambic, spesialis penemuan obat berbasis AI, raup $150M dalam IPO」 finance.yahoo.com
- BAB 05X-Ragent: Pembelajaran Penguatan yang Diperkuat Alat untuk Penalaran Sinar-X Dada Berbasis Bukti（「X-Ragent adalah kerangka pasca-pelatihan yang melatih keduanya secara terpisah, dan menggunakan hadiah yang memberi penilaian proses hanya pada lintasan yang diagnosisnya benar.」）
- BAB 06Google DeepMind「Mempercepat pencarian peptida antimikroba dengan Google Antigravity」 deepmind.google
- BAB 06Pulse 2.0「ParkourSC Akuisisi Quartic untuk Meluncurkan Platform AI Terpadu bagi Rantai Pasok Ilmu Hayati」 pulse2.com
- BAB 06Quiver Kuantitatif「Recursion Pharmaceuticals Umumkan Sanofi Mengambil Opsi Kandidat Pengembangan Pertama dari Kolaborasi Berbasis AI」 quiverquant.com
- BAB 07Waktu New York「Insinyur OpenAI yang Didakwa Menanam Bug Pernah Menasihati Pihak Saudi」 nytimes.com
- BAB 07Pos Pagi Tiongkok Selatan「DeepSeek mengalami gangguan besar lagi saat perusahaan menawarkan pengembalian dana kepada pengguna」 scmp.com
- BAB 07Otoritas Android「Google kini mengirim email kepada pelanggan Gemini tentang perubahan yang akan membuat biaya mereka 4x lebih mahal」 androidauthority.com
Artikel yang digunakan
Laporan terkait hari ini
- AI Daily News 16 Oktober 2026
- Berita AI & Ekonomi 16 Oktober 2026
- Berita AI & Keuangan 16 Oktober 2026
Narasinya adalah suara sintetis. Isinya hanya bersumber dari artikel situs ini pada hari yang sama. Setiap edisi melewati tujuh pemeriksaan bahasa sederhana sebelum diterbitkan. Artinya, hambatan pemahaman yang diketahui ditekan di bawah ambang batas — ini bukan jaminan pemahaman.