AI Highlights — вся картина — 2026-10-27 (вт) Ежедневные новости

По имеющимся сведениям, Comcast переводит услуги своих пунктов обслуживания на ИИ-агентов и сокращает штат из-за снижения числа абонентов широкополосного доступа. Однако Apollo указывает, что ИИ не приносит финансовой отдачи американским компаниям. Когда решение о сокращении числа сотрудников принимается до подтверждения результатов, работа, суждения, слова и доверие незаметно переходят к ИИ. Статьи, собранные за эти полдня, охватывают разные ситуации — административные проверки, полицию, выборы, образование и специализированные исследования, — но все они просят читателей принимать решения в одном и том же вопросе. Прежде чем решать, включать ли ИИ, важно подумать о том, кто возьмёт на себя бремя и ответственность, которые возникнут после его внедрения.

Сокращения идут в первую очередь, а отдачи не видно

По имеющимся сведениям, Comcast переводит работу своих пунктов обслуживания на ИИ-агентов и сокращает штат в ответ на падение числа абонентов широкополосного доступа на 144 000 (TechSpot). TechStory также сообщило, что компания, как ожидается, проведёт масштабные сокращения персонала, назвав причинами сокращение числа контрактов и распространение ИИ. Причин сокращения две. Число абонентов уменьшилось, а первую точку контакта можно доверить ИИ. Однако из этих статей нельзя понять, как изменятся затраты и качество обслуживания клиентов после перехода на ИИ. При этом Apollo указывает, что ИИ не приносит финансовой отдачи американским компаниям (Business Insider). Это означает, что решение о сокращении персонала может приниматься ещё до того, как результаты подтверждены.

Сокращение — не единственный вариант. Частный банк JPMorgan использует ИИ для упрощения работы консультантов (Bloomberg.com). Этот метод позволяет уменьшить объём работы консультантов, сохраняя при этом их роль в общении с клиентами. В Сингапуре NTUC и KPMG запустили программу трансформации кадров (NTUC UPortal), которая связывает внедрение ИИ с повышением качества занятости. В этих двух случаях речь идёт не о количестве людей, а о содержании их ролей.

Если сравнить пример Comcast с примерами JPMorgan, NTUC и KPMG, видно, что, хотя все они внедрили один и тот же ИИ, их исходные предпосылки различаются. В первом случае из-за ухудшения бизнес-показателей вследствие сокращения числа контрактов вся функция пунктов обслуживания будет передана ИИ. Остальные же стремятся оставить работу людям и изменить её качество. Однако статья о JPMorgan показывает лишь операционную эффективность, и масштаб результатов из неё неясен. Программы NTUC и KPMG тоже находятся на стадии объявления об инициативах.

Когда читатели знакомятся со вводными статьями, они хотят увидеть не только то, что изменит ИИ, но и то, что они сократят в первую очередь и что получат взамен. Если мысль Apollo верна, Comcast — не единственный пример, когда сокращения проводятся без какой-либо отдачи. Тогда возникает вопрос: кто возьмёт на себя бремя, которое останется после сокращений. В следующем разделе мы рассмотрим процесс, в котором задачи и решения всё чаще выполняются ИИ, и на кого будет перекладываться это бремя.

Автоматизированная проверка и использование полицией исправляют предвзятость

Что касается автоматической проверки выплат Medicaid, HomeCare назвала пять мер противодействия, сославшись на риски проверки на основе ИИ. Если передать экспертизу машине, получатель выплаты может оказаться в невыгодном положении. Это означает, что необходимо заранее подготовить меры, чтобы этому противостоять. BBC сообщила, что исследователи предупредили: использование ИИ полицией может усилить дискриминацию. В Берлине обсуждается, следует ли применять психотерапию на основе ИИ (The Berliner). Общее для всех трёх случаев то, что те, на кого направлены решения и поддержка ИИ, — это получатели пособий, люди, находящиеся под полицейским контролем, и люди, страдающие от проблем с психическим здоровьем.

На суждение читателя здесь влияет не столько то, повысит ли внедрение эффективность, сколько то, кто будет возражать при возникновении ошибки или предвзятости и кто оплатит исправление. HomeCare подчёркивает необходимость мер противодействия, поскольку автоматизация отбора, о которой говорят как об эффективности для внедряющей стороны, может обернуться невыгодой для предприятий на местах и пользователей. Предупреждения исследователей, приведённые BBC, также указывают на то, что использование AI в полиции вызывает опасения по поводу справедливости. Вопрос о том, можно ли применять технологию в психотерапии, показывает, что сначала нужно определить, в каких ситуациях её можно использовать, а не можно ли её использовать вообще. Тем, кто рассматривает внедрение, следует учитывать не только ожидаемую эффективность, но и механизмы приёма и проверки жалоб.

Такая же структура проявляется и между странами. По данным Al Jazeera, высокопоставленный представитель Организации Объединённых Наций предупредил, что неравенство в использовании ИИ грозит усилить глобальное неравенство. Seeking Alpha сообщает, что в гонке ИИ между США и Китаем каждой стране приходится делать трудный выбор между конкурирующими технологическими сферами. У стран, способных в полной мере использовать технологии, есть выбор, но страны, не имеющие возможности использовать технологии самостоятельно, могут быть ограничены в возможностях их применения или в определении того, к какой технологической сфере они принадлежат. И здесь выгоды и бремя внедрения не обязательно распределяются на одной стороне.

Как на индивидуальном, так и на национальном уровне внедрение ИИ может определять разницу между теми, кто в состоянии нести бремя, и теми, кого вынуждают его нести. В этом случае перед тем, как решать, стоит ли использовать ИИ, следует задать вопрос: кто будет отвечать за возможные неблагоприятные последствия. В следующем разделе мы рассмотрим, как эта ответственность распределяется на практике.

Истина и человечность колеблются

За два дня до выборов премьер-министр Нетаньяху опубликовал сгенерированное AI изображение, на котором изображён ядерный взрыв в Тель-Авиве, сообщила The Jerusalem Post. В преддверии голосования задача определить, подлинное ли изображение, ложится на каждого получателя. Так же обстоит дело и в сфере образования. Shinano Mainichi Shimbun Digital сообщила, что из-за стремительного распространения AI растёт объём дезинформации и что образовательные учреждения тоже испытывают трудности с проверкой фактов. Наша Ніва под заголовком «AI ставит под сомнение автора самой дорогой картины в мире» пишет о случае, когда под вопросом оказывается даже предположение об авторстве. Всех их объединяет то, что в разных ситуациях — на выборах, на уроках, в искусстве — проверка требует больше времени и усилий. Даже если тот, кто внедряет AI, может сократить время создания чего-либо, бремя проверки подлинности остаётся на получателе или школе. При обсуждении плюсов и минусов внедрения необходимо также учитывать, кто будет оплачивать проверку.

Это колебание затрагивает не только информационную сторону, но и человеческую. Газета «Майнити симбун» сообщила, что среди людей распространяется манера речи, похожая на манеру AI-ботов. Мы не только задаёмся вопросом, не машинны ли слова по ту сторону экрана, но и сама наша речь становится всё более машинной. Unisba Media сообщает, что профессор Брайан Грин говорил об угрозе AI, сознании и конце человечества, и спор о том, обладают ли машины сознанием, перешёл в профессиональную плоскость. Что касается повседневной жизни, The Sun сообщила, что человек, потративший пособие на AI-подружку, похожую на Ким Кардашьян, заявил: «Она собирается родить ребёнка». Есть люди, которые выстраивают отношения, даже если собеседник — не человек. В книге рассказывается о жизни и мыслях Тьюринга, «отца искусственного интеллекта», как об эксцентричном и одиноком гении. Вопрос о том, могут ли машины мыслить, давно неотделим от жизни людей.

Проверка того, реально ли что-то, и проведение границы между людьми и ИИ теперь оставлены на личное жизненное чутьё каждого, а не на институты или компании. В следующем разделе предстоит рассмотреть, в какой мере это бремя должны нести не только заинтересованные стороны.

В специализированных областях результат определяет проверка

В диагностике рака полости рта роль ИИ расширяется от диагностики по изображениям до точного лечения, сообщает Bioengineer.org. В сельском хозяйстве ИИ и роботы улучшат точное земледелие и мониторинг посевов, сообщает Analytics Insight. В разработке лекарств компания Pathos AI привлекла $237 млн в рамках раунда финансирования Series E для расширения своей платформы разработки лекарств на основе агентного ИИ и продвижения онкологического портфеля, сообщает BioSpace. Общее для всех трёх тем то, что цель состоит не в сокращении числа людей, а в повышении качества самой работы: диагностики, выращивания культур и поиска лекарственных препаратов. Однако огромные объёмы финансирования говорят лишь об уровне рыночных ожиданий, а не о доказанных результатах. Отличие от ситуации, описанной в предыдущих разделах, где «сокращения происходят в первую очередь, а отдачи не видно», в том, что цели для измерения результатов конкретны с самого начала.

Доказательства этих результатов накапливаются благодаря проверке, проводимой на исследовательской стороне. В статье в Scientific Reports рассматривается, как подавлять батч-эффекты в рамановской спектроскопии с помощью глубокого обучения. Содержание прямо посвящено вариациям, обусловленным условиями и временем измерений, как проблеме, отдельной от точности модели. International Journal of Oncology Research сообщает о классификации подтипов рака молочной железы по данным экспрессии из GEO, а также о внешней валидации на независимой когорте. Journal of Radiation Research and Applications рассматривает прогнозирование эффекта лучевой терапии при раке желудка на основе радиомики КТ с контрастированием, как в части разработки модели, так и её валидации. В Kashmir Journal of Academic Research and Development есть статья, в которой обсуждается фармацевтическая концепция поддержки лечения рака лёгкого с помощью машинного обучения, — совместный исследовательский проект фармацевтического факультета в Пакистане и China Pharmaceutical University. Во многих учреждениях и для разных типов рака прослеживается общая процедура: разработанные модели проверяются на других данных.

Этот контраст показывает, какие вопросы читателю следует задавать, слушая рассказ о внедрении. Единственный способ оценить потенциал сокращения затрат — проверить бухгалтерские записи и убедиться, что экономия действительно достигнута. ИИ в специализированных областях должен прежде всего ответить на такие вопросы: можно ли применить его к независимым когортам, сохранятся ли результаты при изменении условий измерения и можно ли встроить его в процедуры на местах. Если систему предполагается использовать для диагностики или принятия решений о лечении, стоимость проверки ответов необходимо включить в стоимость внедрения.

В областях, где есть ответственные за проверку, будет больше материалов для оценки ценности ИИ. А на кого ложится ответственность за ошибки там, где продукты используются без ответственного за проверку человека или организации? Со следующего раздела мы начнём с этого вопроса.

Примеры из разных разделов относятся к разным отраслям и ситуациям. Тем не менее неизменно одно: хотя при внедрении ИИ говорят об эффективности и перспективах, бремя, которое остаётся после этого, перекладывается на кого-то другого. В случае сокращения персонала решения принимаются без проверки результатов, а в случае автоматизированных проверок и использования полицией те, кто оказался в невыгодном положении, несут расходы на оспаривание и исправление. Проверка подлинности остаётся на получателе и школе. Результаты в разных областях знаний различались тем, была ли цель конкретной и была ли она проверена. Поэтому факторы, определяющие, внедрять ли ИИ, — это не только производительность ИИ и рыночные ожидания. Когда возникает ошибка или предвзятость, важно заранее решить, кто будет это проверять, кто будет отвечать на возражения и кто понесёт расходы.

Вопрос 1: Кто отвечает за проверку и исправление, если в работе с использованием ИИ обнаружена ошибка или предвзятость? Вопрос 2: Определены ли в письменной форме до внедрения каналы обжалования решений ИИ и то, кто будет нести расходы на исправления? Вопрос 3: Приняли ли вы решение об изменении кадрового состава или полномочий до подтверждения результатов внедрения?

Наконец, три вопроса

- Когда в работе с использованием ИИ обнаруживается ошибка или предвзятость, кто должен отвечать за их проверку и исправление? Q2: Определены ли в письменном виде до внедрения каналы обжалования решений ИИ и то, кто будет нести расходы на исправления? Q3: Приняли ли вы решение о перемещении персонала или изменении полномочий до подтверждения результатов внедрения? - Определены ли в письменном виде до внедрения каналы обжалования решений ИИ и то, кто будет нести расходы на устранение последствий? Q3: Приняли ли вы решение о перемещении персонала или изменении полномочий до подтверждения результатов внедрения? - Принимаются ли решения о перемещении персонала или изменении полномочий до подтверждения результатов внедрения?