KI und die schwierigen Probleme der Welt · Medizin & Wirkstoffforschung · Nature (computational biology) · 2026-10-26
Hybrides Retrieval-Verifikations-Framework zur Reduzierung von Halluzinationen in medizinischen LLMs
Originaltitel: Hybrid retrieval–verification framework for hallucination reduction in medical LLMs
Große Sprachmodelle, die in klinischen Umgebungen eingesetzt werden, können Antworten liefern, die nicht durch Evidenz gestützt sind, was Sicherheitsrisiken birgt. Die Autoren schlagen CARE-Med vor, ein Framework, das Dense Retrieval, Verifizierer auf Basis von Natural Language Inference und Konfidenzbewertung kombiniert, und testen es auf MIMIC-III, PubMedQA und BioASQ. Die NLI-basierte Rate nicht belegter Antworten sank von 32 % bei einem Baseline-LLM auf 10 % und von 21 % bei herkömmlichem RAG auf 10 %.