Главное об ИИ — полная картина — 2026-10-15 (чт), вечерний выпуск

HubSpot сократит около 7% своих сотрудников в рамках реорганизации, а министры Великобритании заявили, что текучесть кадров будет связана с ИИ. Между тем фармацевтические лаборатории и сельскохозяйственные тракторы начинают поставляться с ИИ в составе контрактов и оборудования. События последних полусуток показывают, что ИИ вошёл в стадию, когда он реально управляет распределением персонала и капитала в разных отраслях и странах. Однако процедуры проверки того, для каких решений можно использовать результаты, и определение субъекта, отвечающего за итоги, не поспевают за скоростью внедрения. Споры вокруг выявления неонатального пневмоторакса показали, что высокая точность не означает напрямую клинической значимости. Недостаточно просто перечислять, что умеет ИИ; в дальнейшем главным будет то, кто и что именно подтверждает и как это делается.

Реорганизация и сокращение персонала стали ценой внедрения ИИ

HubSpot сократила около 7% персонала в рамках реорганизации, ориентированной на ИИ (Yahoo Finance). Британские министры заявили, что ИИ был связан с текучестью кадров и сокращениями рабочих мест в последние месяцы (London Evening Standard). Сообщается, что банки Уолл-стрит сталкиваются с растущими рисками как в кредитовании ИИ, так и во внедрении ИИ (Reuters). Хотя три сообщения охватывают разные отрасли и страны, они совпадают в том, что внедрение ИИ реально меняет распределение персонала и средств. Мы миновали этап, когда об эффекте внедрения можно говорить только в терминах «производительности»; теперь необходимо смотреть, чья работа и чьи средства пошли на оплату этого.

Однако движение на местах идёт не только в сторону сокращения. В центре управления безопасностью (SOC) ИИ отвечает за первичный отбор под наблюдением человека. Security Boulevard описывает один день из жизни аналитика угроз в автономном SOC: человек изучает результаты, отсортированные ИИ, и принимает решения. Работа аналитиков не исчезла; они перешли от самостоятельного чтения огромного количества оповещений к проверке фильтров ИИ и обработке исключений. Если название должности остаётся прежним, а содержание меняется, масштаб перемен нельзя измерить одним лишь ростом или снижением численности людей.

Меняется и способ выражения человеческой ценности. Forbes JAPAN обсудил человеческие способности, которые станут более ценными в эпоху ИИ, исходя из того, что их не следует называть «мягкими навыками». Кроме того, Bipartisan Policy Center в США сосредоточился на влиянии ИИ на рабочую силу в сфере ухода, заявив, что необходимо обсуждать последствия внедрения ИИ даже в профессиях, которые традиционно держались на людях. Оба вопроса заставляют пересмотреть границы между задачами, которые будут заменены ИИ, и задачами, которые останутся за человеком.

Если взглянуть на рассмотренные до сих пор материалы, видно, что цифры сокращений являются результатом продолжающейся организационной реструктуризации, и то, как будет перестроено содержание работы по каждой категории должностей, будет различаться от площадки к площадке. Решения о сокращении персонала или о сохранении людей с изменением их ролей исходят из предположения, что результаты ИИ верны. Следующий вопрос: кто должен проверять результаты, как это следует делать и кто должен нести ответственность в случае ошибки.

Внедрение в отраслях дошло до стадии оборудования и партнёрств

В фармацевтике и сельском хозяйстве ИИ выходит за рамки стадии предложений и анализа и начинает встраиваться в реальные контракты, оборудование и технику. Zealand Pharma подписала соглашение об исследованиях и лицензировании с Generate Biomedicines для разработки белковых препаратов, спроектированных с помощью ИИ, для лечения метаболических заболеваний (The Manila Times). Компания Waters, производитель аналитического оборудования, заключила партнёрство с Anthropic для развития автономных лабораторных рабочих процессов на основе ИИ (BioPharma APAC). В сельском хозяйстве PerPlant объединяется с Valtra, чтобы устанавливать на тракторы ещё на заводе ИИ-датчики для посевов (AgFunderNews). Это движение к тому, чтобы ИИ становился частью поставляемой техники и лабораторных процессов, а не дополнением, добавленным постфактум.

Фундамент продолжает развиваться в части вычислительных ресурсов, исследований и кадров. Китай запустил восемь спутников для вычислений ИИ (Global Times). Это показывает, что место проведения вычислений больше не ограничено наземными центрами обработки данных. По информации Университета Карнеги — Меллона, три исследователя университета примут участие в исследовании Google «ИИ и экономика» (Carnegie Mellon University). Методики измерения экономического влияния ИИ начинают появляться и за пределами бизнеса. В Японии поддержка образования в сфере ИИ от Microsoft Japan расширяет «приобретение навыков и реформу образования», и есть случаи, когда затраты удалось сократить на десятки миллионов долларов (DX Magazine).

Для читателя меняется единица рассмотрения. Вместо того чтобы смотреть на производительность модели или эффектность анонса, лучше смотреть именно на то, в каких контрактах, на каком оборудовании и в каких процессах использовался ИИ, и тем самым приблизиться к реальному состоянию внедрения. Когда ИИ приходит в оборудование или процессы — например, в датчики, установленные на заводе, или автономные лаборатории, — результат напрямую поступает в следующую задачу. Такие результаты, как экономия в десятки миллионов долларов, нельзя оценить, пока не представлены допущения, лежащие в основе расчётов.

Рассказ до сих пор был смещён в сторону движения к внедрению ИИ. По мере продвижения оборудования и партнёрств вопрос о том, кто будет проверять результаты и на каком этапе, становится более конкретным и приближается к месту работы.

Сложности проверки: точность, клиническая значимость и структура суждения

Спор вокруг выявления неонатального пневмоторакса с помощью ИИ (Bioengineer.org) подчёркивает разрыв между точностью обнаружения и клинической значимостью. Даже если находки на снимках удаётся выявлять с высокой точностью, приведёт ли это к определению необходимости лечения и исходу — это отдельный вопрос. В статье (AIM Media House), подводящей итоги последних 10 лет в фармацевтической отрасли, говорится, что «технологический прогресс опередил внедрение». Отмечается, что сначала совершенствуется производительность модели, а этапы её оценки на месте и включения в рабочий процесс следуют позже. Общее для этих двух историй то, что хорошие цифры сами по себе ничего не значат на практике. Глядя на цифры в таблице показателей, читателю стоит задаться вопросом: «Для каких решений можно использовать эти цифры?»

Исследования, пытающиеся преодолеть этот разрыв, также доступны в виде препринтов. Все они опубликованы на arXiv и не прошли рецензирование. Первое — EviScene, агент, оценивающий реальность изображений. Даже если мы можем определить, создано ли изображение с помощью ИИ, мы не можем сказать, действительно ли изображённое событие имело место. Иногда настоящую фотографию распространяют как историю из другого места и другого дня. Авторы назвали этот метод «фактической оценкой изображений» и предложили систему, в которой вопрос переформулируется только по изображению, без предоставления формулировки утверждения, а система собирает внешние свидетельства и возвращает вердикт и обоснование. Второе — Jeva, специализированная структура, которая не оставляет генератору предложений решение о выборе одного из кандидатов или ответе «не применимо». Авторы утверждали, что структуру вопроса на суждение невозможно соблюсти, если требовать ответа в виде предложений, и представили конструкцию, удовлетворяющую четырём требованиям: ответ не меняется даже при перестановке, и можно чётко указать «не применимо». Третье — фреймворк, который изучает убеждения и намерения другой стороны как латентные представления и использует их как материал для выбора действий. Когда сотрудничают несколько агентов, цель состоит в том, чтобы заменить явным представлением те части, которые раньше восполнялись за счёт продуманных промптов и механизмов памяти. Все три случая можно рассматривать как попытки перенести процедуру проверки выходных данных с задним числом добавляемых проверок внутрь самой конструкции.

С другой стороны, поведение людей на стороне проверки непостоянно. Исследование (The Conversation) показывает, что потребители, сталкивавшиеся с дискриминацией, чаще выбирают рекомендации ИИ, а не советы людей. Это форма, в которой недоверие к людям заменяется доверием к ИИ. В таком случае доверие может смещаться не в результате проверки выводов ИИ, а в результате недоверия к людям. Ситуацию, когда рекомендация выбирается раньше, чем проверка успевает за ней, невозможно увидеть, глядя только на цифры точности.

Всё сказанное до сих пор касалось того, как проверять правильность отдельных результатов. Следующий вопрос: кто будет отвечать за подтверждённые результаты и кто возьмёт на себя ответственность, если произойдёт ошибка.

Создание международных стандартов и проведение границ в отношении сердец и отношений

Харрис призвал к международным стандартам для ИИ (KFBK News Radio), заявил, что окно возможностей для безопасности ИИ закрывается, и призвал к сотрудничеству с Китаем (Forbes). Причиной спешки с созданием стандартов названо понимание того, что разработка норм не поспевает за скоростью развития технологий. Читателям важно понимать, что здесь требуется межстрановая договорённость, выходящая за рамки добровольных усилий отдельных компаний. Вопрос о том, у кого есть система проверки этого, выходит за пределы компаний и внутренних регуляций и переходит к координации между конкурирующими странами.

Однако при определении стандартов необходимо учитывать, как следует позиционировать сам объект. «Крёстный отец» ИИ указывает, что ИИ — это «чужой» (PC Gamer). Хотя его создают люди, его воспринимают как существо, которое нельзя понять так же, как человека. В ответ Маск сказал: «Не ранить чувства ИИ» (Cybernews). Он относится к тем, кто заботится о благополучии модели. Требуемые стандарты будут различаться в зависимости от того, рассматривать ли ИИ как инструмент, иной тип интеллекта или объект заботы. Наряду с призывами срочно установить стандарты тот факт, что сам статус не определён, указывает на сложность достижения международного соглашения.

Сдвиги в позиционировании становятся более ощутимыми в ситуациях, близких к сердцу и отношениям отдельных людей. Кордовский университет (UCO) рассматривает вопрос, может ли приложение с ИИ-девушкой заставить влюбиться, а эмоциональная связь пользователей с ИИ становится предметом исследований. Что касается психического здоровья, эксперты предупреждают, что ИИ может помогать, но не способен заменить квалифицированных специалистов (Medical Xpress). Психиатр также затронул вопрос о том, стоит ли использовать ИИ для консультаций по психическому здоровью, и объяснил, как принимать такое решение (Newswise). Новый доклад задаётся вопросом, может ли ИИ сделать художественные музеи более «человечными», и ставит под сомнение само значение искусства (The Conversation).

Общее для всех трёх ситуаций — необходимость провести границу между ИИ, поддерживающим людей, и ИИ, заменяющим роли, традиционно выполняемые людьми. Если вы пользователь, это поможет понять, что именно пытается взять на себя приложение или консультационный сервис. Тем, кто внедряет систему, необходимо заранее определить круг ролей, требующих квалификации и ответственности, которые можно доверить машинам. И международные стандарты, и личные границы сводятся к одному вопросу: кто несёт ответственность за результат?

Истории в каждом разделе сходятся в одной точке: сначала идёт внедрение, а механизм подтверждения появляется позже. Реструктуризации и сокращения показали, чью работу и чьи деньги затронет внедрение ИИ. В фармацевтике и сельском хозяйстве ИИ включается в контракты и оборудование, выходя за рамки стадии предложений и становясь частью процесса на месте. Обсуждения вокруг верификации подтвердили, что в этой области существует разрыв между численной точностью и смыслом. Призывы к международным стандартам и разногласия о том, как следует позиционировать ИИ, показывают, что субъект, отвечающий за проверку, больше не ограничивается компаниями. Чем больше растёт число показателей эффективности, тем важнее становится выяснить, кто проверяет эти числа, для каких решений и кто несёт ответственность в случае ошибки, — именно это определит ценность внедрения.

В1: Может ли ответственный сотрудник своими словами объяснить, для каких решений на месте будут использоваться результаты внедрённого ИИ, а также кто и когда будет проверять эти результаты? В2: Как вы определяете разрыв между показателями производительности и их значением на практике как стандарты контроля и качества, и как документируете, на ком лежит ответственность при возникновении ошибок? В3: Что касается распределения персонала и средств на внедрение ИИ, показаны ли эффект и затраты в одном месте и оценивается ли инвестиция в систему проверки наряду с затратами на внедрение?

Наконец, три вопроса

- Может ли ответственный сотрудник своими словами объяснить, при принятии каких решений на местах будут использоваться результаты внедрённого ИИ, а также кто и когда будет проверять эти результаты? В2: Как вы определяете разрыв между показателями производительности и их значением на практике в качестве стандартов контроля и качества и документируете, на ком лежит ответственность в случае ошибок? В3: Что касается распределения персонала и средств на внедрение ИИ, показаны ли эффекты и затраты в одном месте, и оценываются ли инвестиции в систему проверки наряду со стоимостью внедрения? - Как вы определяете разрыв между показателями производительности и их значением на практике в качестве стандартов контроля и качества и документируете, на ком лежит ответственность в случае ошибок? В3: Что касается распределения персонала и средств на внедрение ИИ, показаны ли эффекты и затраты в одном месте, и оценываются ли инвестиции в систему проверки наряду со стоимостью внедрения? - Что касается распределения персонала и средств на внедрение ИИ, показаны ли эффекты и затраты в одном месте, и рассматриваются ли инвестиции в систему подтверждения результатов наряду со стоимостью внедрения?