AI Highlights — полная картина — 2026-10-23 (пт) Ежедневные новости

Barclays планирует сократить около 5 000 рабочих мест, в основном во вспомогательных подразделениях, называя в качестве причины ИИ. Примерно в то же время Axios сообщило, что неизученный ИИ-агент получал доступ к банковским счетам в США, а образовательный ИИ Google попал под пристальное внимание Сената из-за опасений за психическое здоровье детей. ИИ проникает в жизнь людей, в счета и в жизнь детей ещё до того, как начинается обсуждение, внедрять его или нет. Читатели не могут сами проверить утверждения тех, кто внедряет продукт, о том, что он безопасен и эффективен. Законы штатов и соперничество между странами не рассчитаны на то, чтобы поспевать за таким темпом. Это полудневное развитие событий показывает, что менять нужно не столько суждение о плюсах и минусах внедрения системы, сколько суждение о том, кто должен проводить предварительные проверки и кто должен проверять результаты после внедрения.

Сокращение персонала из-за ИИ и переобучение людей

Barclays планирует сократить примерно 5 000 рабочих мест, в основном в вспомогательных подразделениях (бизнес + IT). The New York Times сообщила об этом как о сокращениях из-за снижения затрат за счёт ИИ (The New York Times). В качестве причины сокращения называется ИИ, а масштаб сокращений приводится в конкретных цифрах. Читатель видит здесь, что о результатах внедрения начали говорить в терминах того, сколько людей сокращено. В таком случае для тех, кто оценивает внедрение, одного числа сокращений недостаточно. Нужно также спрашивать, куда пойдут сотрудники, отвечавшие за сокращённые должности.

Что касается переобучения, ответственные за эти усилия стороны действуют порознь. Индийский IIT Madras выпустил white paper об ИИ и рабочих местах, глобальных стандартах и переквалификации (The Economic Times). В США Sundance и Университет Колорадо в Боулдере создадут центр образования в области ИИ для кинематографистов (Longmont Times-Call). В Японии старшая школа Houou провела для учеников специальное занятие, на котором они изучали ИИ и создавали видео с благодарностью своим семьям (Minami Nippon Shimbun). Возраст и род занятий тех, кто учится в университетах, киноотраслевых организациях и старших школах, различаются. С другой стороны, из этой статьи неясно, смогут ли люди, подпавшие под сокращение, как в Barclays, получить такое обучение. Одно дело — иметь возможность переобучения, и совсем другое — чтобы оно было доступно тем, кому оно нужно.

Нагрузка не ограничивается занятостью. Бывший президент Федерального резервного банка Нью-Йорка Дадли считает, что инвестиции в ИИ приведут Федеральную резервную систему к ситуации, когда процентные ставки могут существенно расти и падать (BigGo Finance). С этой точки зрения огромные инвестиции в ИИ затрагивают не только компании, сокращающие персонал, но и тех, кто берёт и копит деньги через процентные ставки. Издержки — как в сфере занятости, так и в сфере финансирования — выходят за пределы компании, внедряющей ИИ.

Компании будут показывать выгоды от внедрения в цифрах. Однако по самоотчётам компаний невозможно определить, кто и в каком объёме понесёт издержки. Следующий вопрос — кто будет отвечать за измерения и проверки.

AI-агент, который проникает в зоны, недоступные для проверки, и A для детей

Не прошедший проверку ИИ-агент получал доступ к банковским счетам в США, сообщило издание Axios в эксклюзивном материале. Из заголовка следует, что агент, не проходивший никакой предварительной проверки, добрался до вашего счёта — входа к вашим деньгам. Примерно в то же время New York Post сообщила, что ИИ Google для образования стал объектом интереса Сената из-за опасений за психическое здоровье детей. И счета, и дети — области, где пользователям трудно самостоятельно выявить риски. Даже если внедряющий ИИ говорит, что он «безопасен», читатели не могут сами проверить доказательства. Эти два случая показывают: прежде чем обсуждать, внедрять ли систему, нужно спросить, кто завершил проверку до внедрения.

Тот же вопрос задают и на уровне штата, и на национальном уровне. По данным StateScoop, OpenAI обратилась к губернатору с просьбой ужесточить законы Калифорнии о безопасности ИИ. Это означает, что компании, подпадающие под регулирование, запросили более строгие правила. Однако определить, что означает этот запрос, только по заголовку невозможно. Пока детали не подтверждены, его можно трактовать как выражение позиции компании или как её участие в разработке правил. The New York Times утверждает, что ИИ также представляет угрозу для промежуточных выборов. Geopolitical Monitor отмечает, что Китай задаёт уровень допустимых для Америки рисков ИИ. Суть в том, что как в выборах, так и в конкуренции между США и Китаем степень принимаемого риска может определяться без ведома пользователя.

Выводы, которые читателю следует сделать отсюда, таковы. Случаи разные: Axios пишет о банках, New York Post — о школах, StateScoop — о законах штатов, The New York Times — о выборах, Geopolitical Monitor — о конкуренции между странами. Но общее то, что те, кто определяет допустимый уровень риска, — не те же люди, которые этот риск несут. Самоотчётность компаний может склонять принятие решений в их пользу, законы штатов действуют только в пределах одного штата, а конкуренция между государствами может приводить к повышению допустимого уровня риска. Поэтому при оценке ИИ-сервиса нужно проверять, что и когда проверила третья сторона, а не смотреть на функциональность или цену. Если предмет проверки не виден, то его внедрение означает, что пользователи молча принимают этот уровень допустимости.

Если никто не назначен проводить проверки, ответственность будут спрашивать только после того, как ущерб уже причинён. Дальше нужно посмотреть, кто понесёт расходы и ответственность за проверку.

ИИ на местах распространяется на диагностику и мониторинг

ИИ начинает брать на себя конкретные задачи в сфере диагностики и мониторинга. Google Research представила инициативу по улучшению передовой помощи матерям с помощью ультразвуковых исследований с поддержкой ИИ (Google Research). В телемедицине PomDoctor использует ИИ и носимые устройства (FinancialContent). Вне здравоохранения Citri&Co и ORTH заключили партнёрство по ИИ-агрономическим услугам для фруктового бизнеса (GlobeNewswire). Общее у всех трёх — их используют, чтобы предоставлять материалы для принятия решений рядом с местом событий. Читателям стоит смотреть не столько на то, что показывает ИИ, сколько на то, кто может проверить результаты на месте.

Исследования дают результаты в том же направлении. CircumSpectrum — вычислительный фреймворк, преобразующий профили экспрессии генов в метаболические «отпечатки» на основе потоков, — опубликован в Communications Medicine. В PeerJ вышла статья о прогностической сигнатуре аденокарциномы лёгкого на основе машинного обучения по генам, связанным с секреторным фенотипом, ассоциированным со старением (SASP), и о её связи с иммунным микроокружением опухоли (PeerJ). В Radiology Artificial Intelligence опубликовано исследование автоматической классификации BT-RADS с помощью мультиагентной системы на основе большой языковой модели и сверточной нейронной сети. В меню Nature Communications — HRDPath, ориентированная на пациента объяснимая архитектура глубокого обучения, которая предсказывает дефекты гомологичной рекомбинации по полнослайдовым изображениям. ИИ может принимать самые разные решения: от оценки прогноза до классификации изображений и оценки дефектов, связанных со стратегией лечения.

Тем не менее даже в рамках названий статей встречаются исследования разного веса. В исследовании рака мочевого пузыря в Advanced Science провели многоцентровое исследование и цитологическую проверку на нескольких типах рака для многозадачной модели глубокого обучения, которая предсказывает метастазирование в лимфатические узлы и безрецидивную выживаемость по цитологическим изображениям (Advanced Science). Степень, в которой область может полагаться на результаты, различается между результатами, полученными в одной больнице на одном типе рака, и результатами, подтверждёнными в разных учреждениях и при разных заболеваниях. «Объяснимый» дизайн HRDPath также можно рассматривать как попытку помочь врачам, использующим результаты, проследить доказательства.

Преимущества и недостатки внедрения ИИ определяются не тем, используется ли ИИ, а тем, в какой степени результаты проверяются внешним взглядом. Существует разница в уровне проверки между внедрением, опирающимся на самоотчёты, которое мы рассмотрели в предыдущем разделе, и медицинскими исследованиями, требующими многократной верификации. В следующем разделе мы рассмотрим, кто будет отвечать за преодоление этого разрыва.

Проведение границы вокруг эмоций, творчества и сознания

Исследования ИИ, который считывает эмоции по речи, сейчас находятся на стадии оценки в академической среде. Сообщалось, что южнокорейская компания Pyler получила принятие двух статей об ИИ для распознавания эмоций по голосу на NeurIPS (Seoul Economic Daily). Машинная оценка эмоций уже стала крупной темой исследований. Тем временем в творческой сфере встаёт вопрос, способно ли продуманное ИИ-искусство конкурировать с «ИИ-халтурой» (AI slop). Обсуждаются противоречия, с которыми сталкиваются создатели (The Conversation). Кроме того, под именем Регионального бюро развития Хокурику распространяется страница под названием «Рекомендации по ИИ-девушкам 2026 для начинающих». Текст подтвердить мне не удалось, но даже по одному заголовку видно, что в общих результатах поиска присутствуют продукты, продающие человекоподобные ответы. Читателю стоит увидеть, что технология считывания эмоций и продукты, создающие видимость реакции на эмоции, устроены по-разному и несут разную ответственность.

Заявления о сознании тоже расходятся. Сообщается, что на NDTV World Summit Свами Сарвапурьянанда сказал, что ИИ может быть интеллектуальным без наличия сознания. Идея в том, что высокий интеллект и сознание — это две разные вещи. В ответ IEEE Spectrum сообщил, что исследователи расходятся во мнениях, стоит ли заботиться о благополучии моделей ИИ (IEEE Spectrum). Ни с точки зрения разделения интеллекта и сознания, ни с точки зрения заботы о благополучии нет устоявшихся стандартов того, насколько следует учитывать интересы ИИ. Читателю не обязательно решать на одном и том же этапе, ведёт ли себя ИИ как человек и следует ли относиться к ИИ как к человеку.

Существуют также исследования, измеряющие предвзятость в освещении. Исследование испанского UC3M (Universitat Carlos III of Madrid) показало, что в освещении ИИ в СМИ Испании существует гендерный дисбаланс (Newswise). Если есть предвзятость в том, кто говорит об ИИ и о ком говорят, возникает риск, что дискуссия о том, следует ли относиться к ИИ как к чему-то близкому к человеку, будет формироваться предвзятыми голосами. Работы по оценке эмоций, ИИ-искусство, дискуссии о сознании, дискуссии о благополучии и предвзятое освещение — всё это ставит вопрос о том, где провести границу между людьми и ИИ. Вопрос о том, кто должен подтверждать эту границу и на каком основании, будет рассмотрен подробнее в следующем разделе.

Продукты, реагирующие на сокращение численности, доступ к аккаунтам, образовательный ИИ для детей, сайты диагностики и мониторинга, а также исследования по распознаванию эмоций. Хотя охваченные области различаются, общее для каждого раздела то, что субъект, который рассказывает о работе ИИ, и субъект, который это проверяет, — одни и те же. Компании говорили о своих результатах и безопасности, а в ряде случаев OpenAI, подпадающая под регулирование, призывала к более строгим законам штатов. Усилия по переобучению идут отдельно в каждом регионе, и никто не определён для проверки результатов на местах. Прежде чем решать о внедрении системы, важный вопрос — не столько производительность или стоимость, сколько то, кто проведёт независимую проверку и на каком этапе. Только внедрение с чётко определённым ответственным за проверку даст пользователям основу для принятия решений.

В1: Определены ли на месте люди и процедура для проверки результатов внедрённого ИИ? В2: Проводятся ли предварительные обследования до внедрения и проверки после внедрения независимо от поставщика ИИ? В3: Можете ли вы показать результаты и данные о сокращениях из-за ИИ так, чтобы их мог подтвердить третий сторона?

Наконец, три вопроса

- Определены ли лица и процедура проверки на месте результатов работы внедрённого ИИ? Q2: Проводятся ли предварительные обследования перед внедрением и проверки после внедрения независимо от поставщика ИИ? Q3: Можете ли вы представить результаты и показатели сокращения благодаря ИИ в форме, которую может подтвердить третья сторона? - Проводятся ли предварительные обследования перед внедрением и проверки после внедрения независимо от поставщика ИИ? Q3: Можете ли вы представить результаты и показатели сокращения благодаря ИИ в форме, которую может подтвердить третья сторона? - Показаны ли результаты и показатели сокращения, достигнутые с помощью ИИ, в форме, которую может подтвердить третья сторона?