AI dan Masalah-Masalah Sulit Dunia · Kedokteran & penemuan obat · Nature (computational biology) · 2026-10-26
Kerangka kerja verifikasi-pengambilan hibrida untuk mengurangi halusinasi pada LLM medis
Judul asli: Hybrid retrieval–verification framework for hallucination reduction in medical LLMs
Model bahasa besar yang digunakan di lingkungan klinis dapat menghasilkan jawaban yang tidak didukung bukti, sehingga menimbulkan risiko keselamatan. Para penulis mengusulkan CARE-Med, sebuah kerangka kerja yang menggabungkan pengambilan padat (dense retrieval), verifikator inferensi bahasa alami, dan penilaian tingkat keyakinan, lalu mengujinya pada MIMIC-III, PubMedQA, dan BioASQ. Tingkat respons tak berdukungan berbasis NLI turun dari 32% pada LLM dasar menjadi 10%, dan dari 21% pada RAG konvensional menjadi 10%.