AI Highlights — вся картина — 2026-10-25 (вс) Ежедневные новости

По сообщениям, немецкая Generali сократит 800 рабочих мест к 2030 году и реорганизует свой бизнес вокруг ИИ. ИТ-руководители Министерства сельского хозяйства США говорят, что из-за текучести кадров будет трудно сохранить контроль человека над ИИ. Внедрение ИИ расширяется на сферы занятости, финансов и психического здоровья. Разница между решением ускорить его внедрение и решением отложить его заключается не столько в масштабе эффекта, сколько в том, удастся ли сохранить надзор и поддержку со стороны людей. Эту статью на полдня можно прочитать, чтобы убедиться, выполняются ли эти условия в сферах занятости, финансовых рынков, эмоциональной поддержки, мониторинга безопасности и диагностической визуализации.

Сокращение персонала идёт полным ходом, а руководители не успевают

Сообщается, что немецкая Generali к 2030 году сократит 800 рабочих мест и реорганизует бизнес вокруг ИИ (Menafn). В США опасения массовых увольнений из-за ИИ побудили Конгресс изучать способы поддержки работников (The New York Times). Тема увольнений присутствует и в корпоративных планах, и в политической повестке. С другой стороны, цифры не указывают в одну сторону. По данным опроса Торговой палаты США, многие малые и средние предприятия в Оклахоме сообщили о росте занятости благодаря внедрению ИИ (KSWO 7News). Даже если используется один и тот же ИИ, способы его применения различаются в планах реструктуризации крупных компаний и на рабочих местах малых и средних предприятий. Опасно переносить тот или иной пример на свою компанию, игнорируя её размер и отрасль.

Когда сокращения проходят, вопрос заключается уже не столько в количестве людей, сколько в том, что смогут делать оставшиеся. ИТ-руководитель Министерства сельского хозяйства США заявил, что «человеческий надзор» за ИИ будет трудно сохранить из-за сокращения штата (FedScoop). Было отмечено, что даже если ИИ внедряется в расчёте на то, что люди будут отвечать за проверку результатов ИИ и предотвращение ошибок, это допущение рухнет, если число людей, ответственных за эту роль, сократится. С этой точки зрения решение оценивать окупаемость внедрения исключительно по числу сотрудников, которых можно сократить, необходимо пересмотреть.

Международная организация труда (МОТ) также уделяет внимание правам работников, задаваясь вопросом, у кого есть право голоса, когда ИИ управляет рабочими местами (Devdiscourse). Вопрос здесь в том, существует ли система, позволяющая работникам выражать своё мнение, когда ИИ принимает решения о расстановке и оценке персонала. Обеспечение наличия руководящего персонала и предоставление работникам права голоса могут казаться отдельными вопросами, но оба относятся к одной и той же проблеме: смогут ли люди и дальше участвовать в решениях ИИ.

Один из примеров — Ирландия, где FIT и Intel объединились, чтобы повысить навыки работников в области ИИ (Silicon Republic). Повышение квалификации потребуется как тем, кто меняет работу, так и тем, кто переходит на надзорные должности. Однако само существование альянсов не гарантирует, что обучение успеет за темпом сокращений. Что будет первым: решение сократить число сотрудников или подготовка к поддержке тех, кто останется или уйдёт? Именно порядок их внедрения станет решающим фактором: спешить с внедрением или отложить его. Этот вопрос в той же форме возникает в финансовой и психологической сферах за пределами занятости.

Чрезмерная реакция и давление, отражённые денежным рынком и банками

Недавние экономические показатели свидетельствуют об осторожном отношении к инвестициям и торговле, связанным с ИИ. Согласно обзору, составленному на сайте www.christophe-barraud.com, мировая торговля, связанная с ИИ, находится под давлением. Инфляция в Японии превысила целевой уровень Банка Японии, тогда как индекс менеджеров по закупкам (PMI) еврозоны оказался ниже ожиданий. Что касается финансового сектора, есть опасения, что ИИ-агенты встряхнут банковские депозиты, а CNBC сообщает, что это может быть чрезмерной реакцией Уолл-стрит. Поскольку цены, деловая уверенность и депозиты обсуждаются одновременно, компаниям, внедряющим ИИ, приходится учитывать не только ожидаемые эффекты, но и внешнюю среду, такую как финансирование и поведение клиентов. Одним из факторов, определяющих, стоит ли спешить с внедрением, является то, раздуты ли опасения сверх реальности.

В то же время сделки в сфере фармацевтических и медицинских данных не прекратились. По данным tokenpost.com, Tempus AI и Pathos AI подписали соглашение о нейронных данных на сумму до 55 млн долларов. Как сообщает marketscreener.com, Tempus AI заключила многолетнее соглашение с Bristol-Myers Squibb о лицензировании мультимодальных онкологических данных. По информации Indian Pharma Post, Tricog Health расширит свою глобальную деятельность совместно с Sanofi и OMRON Healthcare, стремясь перейти от электрокардиограммы (ЭКГ) к помощи на основе ИИ. Это контракты с чётко определёнными суммами и условиями, а среди сторон — крупные фармацевтические компании и производители медицинского оборудования.

Эти два процесса показывают, что даже для одного и того же ИИ основания для принятия решений различаются в зависимости от области. На финансовых рынках опасения сначала отражаются в ценах и оценках, а вопрос о том, не была ли реакция Уолл-стрит чрезмерной, возникает позже. В сделках с данными условия заранее фиксируются в форме контрактов в конкретных областях, таких как неврология, онкология и электрокардиография. Однако из имеющихся материалов можно узнать лишь о заключении контракта и расширении внедрения, и из одних этих сообщений неясно, как будут работать проверка и поддержка со стороны людей после внедрения.

Если существует сфера, где сделки продолжаются даже при колебаниях рынка, то решение о внедрении будет зависеть не столько от силы экономики, сколько от того, смогут ли люди и дальше проверять результаты на местах. В следующем разделе мы обратимся к сфере разума и посмотрим, сохраняются ли на самом деле такая проверка и поддержка.

Всё больше людей обращаются к ИИ за эмоциональной поддержкой

Молодые люди начинают использовать ИИ для поддержки своего психического здоровья, сообщает Fast Company. Fox News обсудил, почему всё больше людей тянется к ИИ Muse от Meta. Тем временем The Independent сообщает, что психиатр указал на опасность обращения к ИИ за советами по психическому здоровью. Если сопоставить эти три случая, распространение использования и предупреждения экспертов об опасностях развиваются одновременно. Когда читатели принимают решение о продуктах компании и о том, как пользоваться ими дома, одного роста числа пользователей как основания для внедрения недостаточно. Сначала необходимо убедиться, что использование ИИ для получения советов не расценивается психиатрами как проблематичное.

Social Market Foundation заявляет, что у ИИ, имитирующего человеческую эмпатию и близость, есть как возможности, так и издержки. Механизмы, имитирующие эмпатию, предоставляют простые варианты тем, кто ищет собеседника. С другой стороны, существует мнение, что имитация сопряжена с издержками, и те, кто её внедряет, также должны будут их нести. Решение здесь состоит в том, расширять ли применение, исходя из возможностей, или сужать его рамки, исходя из издержек.

Этот вопрос не ограничивается медицинскими или консультационными учреждениями. CBS News сообщает, что думает один из религиозных лидеров Миннесоты о влиянии, которое ИИ окажет на религию. Бостонский университет объявляет о новой выставке в галерее 808 Gallery, посвящённой несовершенной красоте печатной графики в эпоху ИИ. Даже в двух совершенно разных областях — религии и печатной графике — появление ИИ заставляет нас пересмотреть, что значит быть человеком.

По мере распространения тенденции полагаться на ИИ в эмоциональной поддержке именно то, в какой степени люди могут контролировать эту поддержку, определит выбор между решением поспешить с внедрением и решением от него отказаться.

Где провести границу: дыры в безопасности и осведомлённость/сотрудничество

Внешний аудит выявил серьёзные пробелы в надзоре за безопасностью в OpenAI (the-decoder.com). Это означает, что внешний аудит обнаружил недостаток, который не был виден при внутренних проверках. Для тех, кто внедряет ИИ, одно дело — когда оператор заявляет, что ведёт мониторинг безопасности, и совсем другое — когда результаты подтверждает третья сторона. Если вы решаете, торопиться с внедрением или отложить его, у вас теперь есть основание проверять не только заверения поставщика, но и наличие внешнего аудита и содержание его выводов.

Одновременно с сообщением об этой дыре прошли три дискуссии о том, где проводить границу. Первая касается сознания ИИ. National Review, опубликовавший эссе из Nature о сознании ИИ, выступил против предоставления машинам прав. Вопрос о том, обладает ли что-то сознанием, и решение о том, следует ли наделять это правами, можно рассматривать как отдельные вопросы. С точки зрения операторов, как бы ни развивались споры о сознании, вопрос о том, продолжать ли поручать людям контроль над результатами работы ИИ, остаётся тем, что компания должна решать сама.

Второе — сотрудничество между странами. Bulletin of the Atomic Scientists утверждает, что ядерная безопасность могла бы стать отправной точкой для сотрудничества США и Китая в сфере ИИ. Идея в том, что даже когда две страны находятся в противостоянии, проще создать площадку для обсуждения, если есть общий интерес в контроле над ядерным оружием. Третье — медицинское регулирование. По данным Radiology Business, Общество радиологов выступило с заявлением, поскольку FDA собирается регулировать генеративный ИИ. Группа экспертов, занимающихся диагностической визуализацией в клинической практике, напрямую влияет на формирование регуляторных предложений. Для компаний обязательным условием планирования внедрения является следование мнениям, высказанным научными обществами и отраслевыми группами в их области, ещё до окончательного определения содержания регулирования.

Если рассмотреть результаты аудита OpenAI, дискуссии о сознании и правах, сотрудничество США и Китая, а также мнения академического сообщества о FDA, видно, что границы проводят разные стороны: компании, комментаторы, государства и профессиональные организации. Вопрос о том, кто будет проверять проведённые границы, остаётся без ответа. В следующем разделе мы посмотрим, в какой мере существует система для проведения таких проверок.

Расширение проверки моделей диагностики по изображениям

При раке молочной железы сообщалось о модели, которая сочетает радиомику многофазной динамической МРТ с контрастным усилением опухоли и перитуморальной зоны с традиционными признаками для предоперационного прогнозирования количества опухоль-инфильтрирующих лимфоцитов (BMC Medical Imaging). При раке эндометрия исследовалась предоперационная стратификация риска с использованием сочетания радиомики мультипараметрической МРТ и глубокого обучения (Frontiers in Oncology). Что касается печени, опубликовано исследование по неинвазивной дифференциации гепатоцеллюлярной карциномы от массообразующей внутрипечёночной холангиокарциномы с помощью объединения модели глубокого обучения на основе динамической МРТ с контрастным усилением и клинической модели (Frontiers in Oncology). Все три работы нацелены на то, чтобы увеличить объём информации, доступной для принятия решения до операции или биопсии. Тем, кто рассматривает внедрение модели, нужно прежде всего определить не только показатели точности, но и этап лечения, на котором модель будет использоваться.

Продолжают появляться и сообщения с использованием КТ и патологических изображений. Модель на основе Transformer использовалась для прогнозирования исходов нейроэндокринного рака лёгкого. Исследование представляет собой двухцентровую ретроспективную когорту (Frontiers in Oncology). Для лимфогенных метастазов раннего рака желудка дооперационный риск оценивали с помощью мультимодального Transformer на основе изображений целых срезов (whole slide images) эндоскопической биопсии (Annals of Biomedical Engineering). При мышечно-инвазивном раке мочевого пузыря для прогнозирования выживаемости без прогрессирования использовалась интерпретируемая модель-трансформер с перекрёстным вниманием на основе КТ с контрастированием. Это представлено как многоцентровое исследование (Abdominal Radiology). Среди них есть ретроспективные дизайны и сообщения, ограниченные двумя учреждениями. Можно ли применять это как есть в повседневной медицинской практике, необходимо подтвердить отдельной проверкой. С другой стороны, появление дизайнов, способствующих интерпретируемости, напрямую связано с проблемой надзора: могут ли врачи проверять выходные данные модели.

Применение ИИ для работы с изображениями расширяется за пределы медицины. Исследование, в котором модель CNN использовалась для классификации аномальных МРТ-снимков головного мозга собак, опубликовано в Scientific Reports. Есть исследование, сравнивающее методы с учителем и без учителя для выделения опухолей головного мозга на МРТ-снимках (Romanian Reports in Physics). В области, более близкой к сельскому хозяйству, лёгкий прототип ИИ, который с помощью одной камеры обнаруживает и удаляет плохие яблоки, был протестирован в онлайн-процессе сортировки (Bioengineer.org). Одна и та же технология анализа изображений используется для диагностики людей, диагностики животных и сортировки фруктов. Поэтому для каждого применения необходимо отдельно решать, какую часть процесса можно оставить машинам, а что должны проверять люди.

По мере роста числа проверок успех или провал внедрения будет определяться не самой точностью, а тем, кто и как сможет продолжать проверять результаты.

Общее для всех разделов состоит в том, что по сравнению со скоростью, с которой ИИ внедряется и используется, легко проверить, удастся ли впоследствии сохранить контроль и поддержку со стороны человека. По мере сокращения рабочих мест встал вопрос, какую ответственность смогут взять на себя те, кто остался. На рынке капитала стало необходимо определить, не превышают ли опасения реальное положение дел. Что касается эмоциональной поддержки, её использование расширилось, а эксперты указали, что оно развивалось одновременно с этим. Мониторинг безопасности потребовал подтверждения третьей стороной, а диагностика по изображениям потребовала решения о том, на каком этапе лечения её применять. Спешить с внедрением или отложить его, можно решать не только по масштабу ожидаемого эффекта, но и по тому, создана ли до внедрения система контроля и поддержки.

В1: Хватает ли при нынешней численности людей и времени, чтобы продолжать проверять результаты работы, доверенной ИИ, и после внедрения? В2: Включаете ли вы результаты внешней проверки и заключения экспертов в условия одобрения использования ИИ, а не полагаетесь только на объяснения поставщика? В3: Сопоставляются ли ожидаемые эффекты от внедрения ИИ с затратами и персоналом, необходимыми для сохранения человеческого контроля и поддержки, в рамках одного и того же форума принятия решений?

Наконец, три вопроса

- Хватает ли нынешней численности людей и времени, чтобы продолжать проверять результаты работы, доверенной ИИ, и после внедрения? Вопрос 2: Включаете ли вы результаты внешнего подтверждения и комментарии экспертов в условия одобрения использования ИИ, а не опираетесь только на объяснения поставщика? Вопрос 3: Сопоставляются ли ожидаемые эффекты от внедрения ИИ с затратами и персоналом, необходимыми для сохранения человеческого надзора и поддержки, в рамках одного и того же форума принятия решений? - Включены ли результаты внешнего подтверждения и комментарии экспертов в условия одобрения использования ИИ, а не только объяснения поставщика? Вопрос 3: Сопоставляются ли ожидаемые эффекты от внедрения ИИ с затратами и персоналом, необходимыми для сохранения человеческого надзора и поддержки, в рамках одного и того же форума принятия решений? - Сопоставляются ли ожидаемые эффекты от внедрения ИИ с затратами и персоналом, необходимыми для сохранения человеческого надзора и поддержки, в рамках одного и того же форума принятия решений?