Главное об ИИ — общая картина — 2026-10-16 (пт), вечерний выпуск

Когда объявления о сокращениях и рыночная тревога оказываются в заголовках одного дня, создаётся впечатление, что ИИ снижает занятость и тянет вниз экономику. Например, CWT Italy сократила 190 рабочих мест, а CNBC сообщает, что опасения из-за ИИ вновь вспыхнули на Уолл-стрит. Тем временем JPMorgan оценивает потенциал роста акций Alphabet в 24%. Сами по себе заголовки не определяют причины отдельных сокращений или направление рыночных взглядов. В этих полдня я хочу выяснить, что влияет на внедрение технологии: энтузиазм в заголовках или базовая инфраструктура — системы переобучения, системы оценки и регулирования, а также способы надёжного применения на практике. Ниже мы по материалам каждого раздела посмотрим, как на самом деле продвигаются эти три направления.

Разница между громкими заголовками о сокращениях и реальной картиной экономики

Сообщается, что CWT Italy решила сократить 190 рабочих мест, а споры вокруг ИИ накаляются (Business Travel News Europe). Компания по распространению видео Netflix также объявила о сокращениях, а в материале CNBC «5 вещей, на которые стоит обратить внимание утром» сообщается, что опасения по поводу ИИ вновь разгораются на Уолл-стрит (CNBC). Когда объявления о сокращениях и тревога рынка оказываются в заголовках одного дня, это выглядит так, будто ИИ напрямую снижает занятость и подрывает экономику. Однако из материалов можно подтвердить лишь то, что сокращения и ИИ обсуждаются одновременно. Из заголовков неясно, связаны ли отдельные сокращения с ИИ или с другими обстоятельствами.

С другой стороны, рыночная картина не однонаправленна. JPMorgan оценивает потенциал роста акций Alphabet в 24% (Barron's). В то время как звучат опасения по поводу ИИ, в отношении курсов акций крупных компаний, связанных с ИИ, делаются оптимистичные оценки. Что касается государственных финансов, директор бюджетного управления штата Нью-Йорк предупреждает, что действия федеральных властей и замедление ИИ ударят по финансам штата (POLITICO Pro). Это означает, что одновременно одни считают ИИ поводом для беспокойства, другие видят в нём свидетельство наличия потенциала роста, а третьи — фактор давления на государственные финансы вниз.

В этих обстоятельствах президент Федерального резервного банка Чикаго заявил: «Даже без ИИ экономика не находится в рецессии» (Yahoo Finance). Это заявление показывает, что нужно смотреть на состояние самой экономики независимо от наличия или отсутствия ИИ. Оценка экономики только по числу увольнений или движению цен на акции может завышать или занижать влияние ИИ. Слова управляющего — лишь один из взглядов на экономику, и они не отменяют сообщений о сокращениях или опасений. Тем не менее они могут служить ориентиром, позволяющим отделить впечатления от заголовков от реального состояния экономики.

Что касается влияния на инвестиционные решения, сообщается, что усовершенствование компанией CNH сельскохозяйственной техники с ИИ также может повлиять на решения (Yahoo Finance). Здесь ИИ выступает не как причина сокращений, а как суть самого продукта. Пока заголовки сосредоточены на сокращениях и котировках акций, реальные инвестиции компаний направлены в другое место. В условиях, когда отношение к ИИ расколото, читателям важно знать не то, сколько вокруг него шума, а какую форму его внедрение принимает на практике. В следующем разделе мы рассмотрим инфраструктуру, которая поддерживает его внедрение.

Подготовка для тех, кто воспитывает людей

Несмотря на заголовки об увольнениях, компании и отраслевые организации готовятся обучать людей до внедрения ИИ. По сообщению TechBullion, Mohammed Shahin выступает за переобучение и HR-стратегии как средство развития человеческих ресурсов для внедрения ИИ. Исходная идея такова: прежде чем внедрять ИИ, HR должен продумать, как его будут использовать нынешние сотрудники и в каких задачах. Аналогичное движение происходит и в сфере ухода за пожилыми и больными. AHCA/NCAL объявила вебинар на тему кадровых ресурсов в эпоху ИИ. Дата мероприятия будет объявлена позднее, и пока можно подтвердить лишь то, что отраслевые организации сферы ухода начали рассматривать ИИ как вопрос кадровых ресурсов.

Есть сдвиги и в сфере образования. По данным Oracle Blogs, Oracle Academy выступила за внедрение учебных программ по ИИ на Национальной конференции по образованию в Индии. Если корпоративное переобучение нацелено на нынешних сотрудников, то это инициатива, которая включает знания, получаемые уже на этапе учебной программы. Другой пример — Политехнический университет Валенсии (UPV). Университет разработал ИИ, который выявляет сексизм в видео в социальных сетях. Это не история об обучении людей, а история о том, как находить предвзятость в контенте, с которым работает ИИ. Однако с точки зрения подготовки системы для проверки справедливости до внедрения это движение в том же направлении, что и развитие кадров.

При сопоставлении становится ясно, что споры о сокращениях и о подготовке кадров и устранении предвзятости ведутся в разных местах. Если заголовки о сокращениях сосредоточены на том, сколько рабочих мест заменит ИИ, то теория переобучения Шахина, вебинар AHCA/NCAL, поддержка учебных программ от Oracle Academy и ИИ для обнаружения от UPV говорят о том, к чему нужно готовиться до замены. Читателю стоит обратить внимание, показывает ли организация, говорящая о внедрении, также план обучения, способ перераспределения кадров и способ проверки предвзятости в результатах. Наличие или отсутствие этой подготовки может сильнее повлиять на итоги внедрения, чем цифры в заголовках.

Хотя подготовка ориентирована на людей и справедливость, ставится под вопрос и механизм проверки и регулирования ответов, которые выдаёт ИИ. В следующем разделе мы рассмотрим движение в сторону проверки и регулирования.

Основа, связывающая безопасность через оценку и диалог

Продолжается движение в поддержку готовности к опасному ИИ через внешнюю оценку и международный диалог. Глава Nvidia призвал к диалогу между США и Китаем по поводу опасного ИИ (Cheddar). Anthropic предоставила рейтинговому агентству METR доступ на уровне сотрудников, позволяющий оценивать передовые модели (TradingView). Первое — призыв создать площадку для обсуждения между государствами, второе — операционное изменение, позволяющее третьим сторонам изучать модель в условиях, схожих с теми, что есть внутри разработчика. Насколько известно из сообщений, подробности конкретного соглашения ни одной из сторон неизвестны. Тем не менее видно, что внимание к готовности — это не только самоотчётность каждой компании, но и внешние оценки и диалог.

Это направление совпадает и с интересами исследователей. Все три препринта, представленные на нашем сайте, ещё не прошли рецензирование, а первичная информация опубликована на arXiv. Первый из них — X-Ragent, агент для интерпретации рентгенограмм грудной клетки. При интерпретации снимка невозможно прийти к выводу только на основе находок, и бывают ситуации, когда дополнительные свидетельства, такие как измеренные значения, объединяются с ними. Авторы указывают, что механизмы обучения тому, когда нужны свидетельства, и механизмы исключения нерелевантных измерений из вывода слабы. Поэтому мы обучаем эти два механизма отдельно и используем вознаграждение, которое даёт оценку процесса только траектории с верным диагнозом.

Второй Agent-Reflex посвящён поведению в случае, когда инструмент возвращает некорректный ответ. Агенты в реальной эксплуатации получают ошибочные ответы и по ходу работы получают исправления от пользователей. Авторы заявляют, что у существующих методов ограничены обучающие сигналы, побуждающие учиться рефлексии и восстановлению после сбоев в таких ситуациях. Поэтому на третьем этапе обучения мы извлекаем повторно используемые «навыки рефлексии» из пар траекторий успеха и неудачи. Третий, VRSD, рассматривает проблему: при обучении у учителя, который знает ответ, модель начинает делать утверждения без проверки. On-policy self-distillation передаёт привилегированную информацию, например проверенные ответы, только учителю. По словам авторов, это смещает учителя к сокращённым путям рассуждения с малой проверкой или пересмотром, резко снижая разнообразие выходных данных. VRSD не убирает привилегированную информацию, а регулирует её использование с помощью системных промптов.

Общее для всех трёх книг то, что они не только проверяют правильность результатов, но и рассматривают поведение: когда искать доказательства, как остановиться, если входные данные повреждены, и стоит ли делать утверждения без подтверждения. Именно такие вопросы стремятся задавать внешние системы оценки. Когда читатели решают, внедрять ли модель, помимо показателей точности стоит посмотреть, кто подтвердил такое поведение и при каких условиях. В следующем разделе мы рассмотрим, как применять это подтверждение при использовании на местах.

Применения, затрагивающие медицину, психику и отношения

Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США (FDA), по сообщениям, одобрило ИИ-инструмент, который прогнозирует рецидив рака молочной железы (ABC News). Это одобрение — пример того, как результат работы ИИ проходит публичную проверку как материал для медицинских решений. В сфере психического здоровья сообщалось, что социальное благополучие пользователей, применявших приложение на основе ИИ, улучшилось (2 Minute Medicine). Одно — прогноз, похожий на диагноз, другое — повседневная эмоциональная поддержка, и цели у них разные. Однако их объединяет одно: их применяют на практике в ситуациях, тесно связанных со здоровьем и эмоциями человека. При рассмотрении внедрения читателям нужно отдельно читать сообщения о том, что инструмент оказался эффективным, и процедуры, с помощью которых это подтверждалось. Одобрение FDA — пример второго, а сообщения о приложении относятся к другому уровню.

Однако чем ближе устройство к человеку, тем сильнее влияние неподходящего способа использования на самого пользователя. New York Post сообщила, что «AI-поли», использующие ИИ-чат-боты в отношениях втроём, встречаются всё чаще, а эксперты предупреждают о риске психических расстройств. Vietnam.vn рассказал, как MoMo использует философию Tesla и благоприятное регулирование для удержания пользователей. Эмпатия — это ценность сервиса, но в то же время она может быть и средством стимулирования продолжения использования. Сообщения об улучшении счастья совпадают с предупреждениями об углублении зависимости в отношениях. Поэтому лучше не считать большое число пользователей или высокий уровень продолжения использования доказательством значительной пользы для пользователей.

Вопросы задают и за пределами технологической сферы. The Conversation представил дискуссию о том, живое это существо или машина в эпоху ИИ, с точки зрения фермера и писателя Берри. В авторской колонке TCNJ Signal News утверждается, что ИИ-искусство отпугнёт клиентов. Это мнение студенческого издания, а не опрос, показывающий реальные изменения в продажах или посещаемости. Тем не менее, похоже, что опасения о том, что использование ИИ может подорвать доверие клиентов, доходят до производства и клиентского обслуживания.

Медицинские разрешения, сообщения об эффективности в эмоциональной поддержке, предупреждения об отношениях и опасения по поводу реакции клиентов — всё это требует решений о том, как используется технология, независимо от её производительности. В сферах, где задействованы люди, важнее определить, кто за какой объём отвечает и где люди берут управление на себя, чем решить, можно ли её внедрять.

Заголовки о сокращениях и ценах на акции бросаются в глаза, но в них мы видим, что о сокращениях и ИИ говорят одновременно. Решающим фактором стало постоянное сопровождение. В сфере кадров наблюдается движение к тому, чтобы проектировать переобучение до внедрения ИИ, и то же направление заметно в организациях отрасли ухода за пожилыми и в образовательных программах. Что касается безопасности, расширяются оценки внешних организаций и международный диалог, дополняющие самоотчётность каждой компании. В медицинской и психологической областях есть случаи, подтверждённые такими процедурами, как одобрение FDA, и случаи, о которых лишь сообщают пользователи, и чем ближе применение к людям, тем сильнее влияние расхождений. При рассмотрении внедрения акцент смещается с накала заголовков на содержание: подготовку людей, механизмы проверки и достоверность использования.

В1: Когда ИИ используется в вашей работе, кто решает, как его применять и какие шаги предпринимать, и как подготовлены пользователи? В2: Подтверждается ли утверждение об отсутствии проблем с результатами или использованием ИИ внешней оценкой или публичными процедурами, а не самоотчётностью? В3: Принимаются ли решения о кадрах и инвестициях исходя из наличия механизмов переобучения и проверки, а не из заголовков или движения курса акций?

Наконец, три вопроса

- При использовании ИИ в вашей работе: кто решает, как его применять и какие шаги предпринимать, и как подготовлены пользователи? Вопрос 2: Подтверждается ли утверждение об отсутствии проблем с результатами или использованием ИИ внешней оценкой или публичными процедурами, а не самоотчётностью? Вопрос 3: Принимаются ли решения о кадрах и инвестициях исходя из того, действуют ли механизмы переобучения и проверки, а не из заголовков или движения цен на акции? - Подтверждается ли утверждение об отсутствии проблем с результатами или использованием ИИ внешней оценкой или публичными процедурами, а не самоотчётностью? Вопрос 3: Принимаются ли решения о кадрах и инвестициях исходя из того, действуют ли механизмы переобучения и проверки, а не из заголовков или движения цен на акции? - Основываются ли решения о кадрах и инвестициях на том, действуют ли механизмы переобучения и проверки, а не на заголовках или движении цен на акции?