Отчёты по ИИ · Stanford HAI · 2026-10-14 · Позиция по политике
Проектирование лояльности: ИИ-агенты и конфликты интересов | Stanford HAI
Оригинальное название: Designing Loyalty: AI Agents and Conflicts of Interest | Stanford HAI
В этом обзоре рассматриваются риски конфликта интересов, создаваемые ИИ-агентами, и содержится призыв ввести обязанность лояльности для их разработчиков и внедряющих организаций. Агентов можно настроить так, чтобы они отдавали предпочтение интересам своих разработчиков или внедряющих организаций, а не интересам пользователей, при этом сейчас не существует стандартных требований к раскрытию таких конфликтов. В обзоре сказано, что эта обязанность должна применяться прежде всего в областях с более высокими ставками, таких как финансовые услуги и здравоохранение.