ИИ и сложнейшие проблемы мира · Медицина и разработка лекарств · Nature (computational biology) · 2026-10-26
Гибридная система извлечения и верификации для снижения галлюцинаций в медицинских LLM
Оригинальное название: Hybrid retrieval–verification framework for hallucination reduction in medical LLMs
Большие языковые модели, применяемые в клинической практике, могут давать ответы, не подкреплённые доказательствами, что создаёт риски для безопасности. Авторы предлагают CARE-Med — фреймворк, объединяющий плотное извлечение, верификаторы на основе логического вывода на естественном языке (NLI) и оценку уверенности, и тестируют его на MIMIC-III, PubMedQA и BioASQ. Доля неподкреплённых ответов по оценке NLI снизилась с 32% у базовой LLM до 10%, а при традиционном RAG — с 21% до 10%.