Отчёты по ИИ · GovAI (Oxford) · 2026-10-17 · Отчёт / белая книга
AI Lab Policy Оценка рисков в компаниях, разрабатывающих AGI: обзор популярных методов оценки рисков из других отраслей, критичных для безопасности Июль 2023 Leonie Koessler, Jonas Schuett Растёт обеспокоенность
Оригинальное название: AI Lab Policy Risk Assessment at AGI Companies: A Review of Popular Risk Assessment Techniques From Other Safety-Critical Industries July 2023 Leonie Koessler, Jonas Schuett There are increasing conce
Растет обеспокоенность тем, что AGI может представлять катастрофические риски, поэтому компаниям, разрабатывающим AGI, необходимо существенно улучшить управление рисками. В этой статье рассматриваются популярные методы оценки рисков из других отраслей, критически важных для безопасности, и предлагается, как компании, разрабатывающие AGI, могут их использовать. Авторы отмечают, что одних этих методов недостаточно для оценки катастрофических рисков ИИ, но компаниям, разрабатывающим AGI, все же стоит изучить передовые практики других отраслей.