AI Highlights — вся картина — 2026-10-17 (сб), утренние новости

Банк сокращает 3 000 рабочих мест и объясняет, что цель ИИ — повысить эффективность, а не заменить людей. В корпоративном ПО говорят, что даже если ИИ-агенты приблизятся к автопилоту, участие человека сохранится. В разработке лекарств заключаются партнёрства на сумму до $1,5 млрд, а в диагностике прогностические модели начинают участвовать в решениях по отдельным опухолям. Возможность ускорения одновременно доходит до рабочего места, лаборатории и клиники. Читателю я хотел бы передать такую мысль: успех или неудача внедрения определяется не высокой производительностью, а тем, где проведена граница между процессами, которые следует оставить ИИ, и решениями, которые следует оставить людям. Объяснения компании и размер её средств не служат основанием для проведения этой границы. В основном тексте мы посмотрим, где проходят границы в каждой области.

Слова о сокращении персонала и изменении ролей, звучащие на местах

В статьях о сокращениях в банках рядом с числом уволенных появляются слова-объяснения. Axis Bank сократит 3 000 рабочих мест в 2026 финансовом году. Согласно сообщению (Goodreturns), банк стремится использовать ИИ для повышения операционной эффективности, а не для замены людей. В технологической отрасли местные СМИ также обсуждают, где ИИ и сокращения заберут рабочие места (KTVU). Однако в таких заявлениях число «3 000 человек» и объяснение «не замена» стоят на одной странице. Слова-объяснения не являются основанием, на которое читатель мог бы опереться в своём суждении.

В сфере корпоративного ПО дизайн, при котором люди остаются в контуре, обсуждается как часть спецификации. Анализ Workday Rising 2026 (iTWire) сообщает, что ИИ-агенты Workday приблизятся к автопилоту, сохраняя при этом участие человека. По мере развития автоматизации решения по проектированию продукта становятся важнее для определения того, в каких процессах задействовать людей. Тем, кто рассматривает внедрение, следует смотреть не на то, сколько людей будет сокращено. Вопрос в том, какая часть утверждения и обработки исключений остаётся в руках людей.

Изменения в характере труда заметнее всего в сферах ухода за пожилыми, образования и поддержки жилья. В статье (McKnight's Senior Living) с обзором доклада о домах престарелых сообщается, что ИИ помогает работникам по уходу. Префектура Сидзуока внедрила ИИ-чат в префектурных жилых комплексах, чтобы не допустить изоляции одиноко проживающих людей (Mainichi Shimbun). В сфере образования SBCCD и BBOP Center запустили партнёрство по ИИ-грамотности в College Corps (Precinct Reporter News). Все три случая можно рассматривать как примеры того, как ИИ меняет объём работы, выполняемой людьми, и требуемые от них навыки, а не заменяет людей. Работники по уходу смогут доверить ИИ часть записей и проверок, а жители жилых комплексов — сначала обратиться за консультацией в чат. Те, кто учится, приобретут умение в полной мере использовать ИИ.

Поэтому влияние на занятость нельзя измерять только числом сокращений. Даже если одним и тем же словом называют «повышение эффективности», для работников последствия различаются: сокращение числа людей — это одно, а сокращение числа людей, участвующих в диалоге и принятии решений, — другое. Успех или провал внедрения определит граница между тем, что следует доверить ИИ, и тем, что следует оставить людям. Далее мы рассмотрим, как эта граница проводится в таких областях, как разработка лекарств и диагностика, где цена ошибки высока.

Финансирование и клиническое внедрение ИИ развиваются благодаря разработке лекарств и диагностике

Средства уже направляются в бизнес на основе ИИ. AstraZeneca заключила партнёрство на сумму до 1,5 млрд долларов с компанией Incitro, занимающейся разработкой лекарств с помощью ИИ (BigGo Finance). Google.org поддержит команду Университета Торонто суммой 2,3 млн долларов на создание OpenPep — ИИ-системы для разработки пептидных лекарств (Bioengineer.org). В финансовой сфере шведская компания Matters привлекла 5 млн долларов для запуска AI-native банка (The Next Web). В Японии ИИ, судостроение и разработка лекарств обсуждаются в одном ряду среди 17 стратегических областей с бюджетом 370 трлн иен (Nikkei Business Online Edition). Важно отметить, что формулировка «до» 1,5 млрд долларов в отношении партнёрства не означает, что вся сумма гарантирована. Читателям стоит смотреть не на размер суммы, а на то, выстроено ли финансирование исходя из того, что процесс будет доверен ИИ.

В клинической сфере обсуждения внедрения догоняют движение финансирования. Лидеры диагностической визуализации обсудили на вебинаре, в какой мере автоматизацию на основе ИИ можно распространить на клиническую практику (Radiology Business). Основой здесь служат исследования. В Journal of Imaging опубликована работа, в которой с помощью систематического обзора и метаанализа исследований точности обнаружения изучается влияние помощи ИИ на результаты работы рентгенологов при выявлении узелков в лёгких по данным КТ. Важно, что измеряется эффективность врачей, использующих ИИ, а не точность самого ИИ. В исследовании в Journal of Neuro-Oncology на многоцентровых данных разработаны и сопоставлены модели глубокого обучения, радиомики, клиническая и интегрированная модели для предоперационного прогнозирования степени WHO менингиом по МРТ. Поскольку замысел предполагает сравнение автономных и интегрированных моделей бок о бок, можно сказать, что это исследование задаётся вопросом, какие комбинации можно использовать.

この二つの流れを並べると、判断の置き場所が見えてくる。創薬や新しい銀行では、資金が先に出て、成果は後から検証される。診断では、検証の問いが「AIが正しいか」から「AIを使った人の成績がどう変わるか」へ移っている。 For those considering introduction, it would be better to check that there is evidence that measures the performance of the person, rather than the amount of partnership or procurement, in order to decide the scope of entrustment.

Скорость привлечения средств не равна скорости накопления проверок. Вопрос о том, кто заполнит этот разрыв, ведёт к следующему разделу.

Прогностические модели входят в оценку отдельных опухолей

В исследованиях рака молочной железы с помощью «патомической сигнатуры», созданной методом машинного обучения, был продемонстрирован новый цифровой маркер для оценки экспрессии CXCL9 и прогноза (CytoJournal). При аденокарциноме легкого ATP2A2 был определён как фактор, способствующий ремоделированию микроокружения и уклонению от иммунного ответа, на основе AI-сигнатур воспалительной и метаболической экосистем (Frontiers in Cell and Developmental Biology). Оба исследования выделяют показатели, связанные с прогнозом, из патологических изображений и данных об экспрессии генов. Их объединяет то, что они стремятся показать не только числа, выдаваемые моделями, но и то, с какими биологическими факторами эти числа связаны.

Исследования с использованием изображений указывают в том же направлении. В работе по метастатическому кастрационно-чувствительному раку предстательной железы применяется объяснимое машинное обучение, чтобы изучить факторы, предсказывающие, получат ли пациенты интенсификацию лечения в соответствии с клиническими рекомендациями (Frontiers in Oncology). Для рака печени мы объединили интратуморальные habitat-признаки и перитуморальную радиомику, чтобы повысить точность прогнозирования эффективности первичной TACE. Это было многоцентровое ретроспективное исследование (Frontiers in Oncology). Для рака почки используются фракции внеклеточного объёма, полученные по КТ с контрастированием, для дооперационного прогнозирования степени злокачественности по классификации ВОЗ/ISUP при светлоклеточной почечно-клеточной карциноме с помощью интерпретируемого машинного обучения (Frontiers in Oncology). Круг прогнозирования, включая прогноз течения болезни, выбор лечения, эффект лечения и степень злокачественности, расширяется на каждый этап индивидуального решения для каждой опухоли.

Итог этих исследований определяется тем, могут ли они показать причины прогнозов, а не сами прогнозы. На этапе применения модели к отдельным пациентам модель, не способная предъявить обоснование, не послужит материалом для размышлений врача, тогда как модель, способная это сделать, позволит врачу либо согласиться с ней, либо заметить ошибки. Тем, кто рассматривает внедрение, недостаточно сравнивать одни лишь цифры точности. Необходимо спрашивать, можно ли представить прогноз и его основания в форме, которую способен проверить клинический персонал. Кроме того, исследование по раку печени ретроспективное. Читателям также следует учитывать, что результаты не были проверены в реальной медицинской практике.

Эта тенденция не ограничивается опухолями. Исследование с использованием ИИ для анализа данных 101 000 человек показало, что бурый жир связан со здоровьем сердца и психическим здоровьем (News-Medical). По мере роста масштаба анализа скорость, с которой находят взаимосвязи, увеличивается, но трактовать эти взаимосвязи и решать, в какой мере их использовать при принятии решений, должны люди. Тот факт, что критерием оценки служат объяснимые прогнозы, также означает, что ответственность за принятие прогнозов остаётся на том, кто ими пользуется. В следующем разделе мы рассмотрим, как распределить эту ответственность внутри организации.

ИИ, который продолжают одобрять, и давление со стороны регулирования и конкуренции

ИИ, который постоянно соглашается с людьми, рискует разрушать межличностные отношения. Forbes JAPAN сообщает об опасениях, связанных с перекладыванием вины и недостатком эмпатии. Идея в том, что если пользователь получает только удобные для себя ответы, у него остаётся меньше возможностей пересмотреть собственное поведение. С другой стороны, сторона диалоговых сервисов продолжает расширяться. Среди предложений Universidad de Córdoba (UCO) — чат-бот для сексуальных бесед без фильтров для лиц старше 18 лет и сервис «симулятор любви с ИИ-девушкой» с контролем конфиденциальности (AI Girl Generator Online With Customizable Characters And Privacy Controls). Настройки конфиденциальности стали аргументом в продаже, а то, как обрабатываются данные пользователей, — частью продукта. Тем, кто рассматривает внедрение, нужно в первую очередь проверить не количество функций, а то, не спроектирован ли ИИ так, чтобы одобрять всё подряд, и кто будет управлять записями разговоров.

Обсуждения о «способности мыслить» ИИ продолжаются. Deccan Herald обратился к идеям пуруши и пракрити из индийской философии, чтобы рассмотреть границы сознания ИИ и вопрос о том, могут ли машины мыслить. Psychology Today рассказывает, почему настоящие картины выглядят так, будто их создал ИИ. Оба этих примера показывают, что представления людей о том, как отличать «ИИ-подобность», становятся неустойчивыми. Предпосылку о том, что человек определяет, является ли результат подлинным или продуктом, необходимо пересмотреть.

Регуляторное и конкурентное давление начинает накладывать внешние ограничения на использование. По данным Aju Press, Федеральная торговая комиссия США (FTC) начала расследование в отношении OpenAI и Anthropic после инцидента с безопасностью. The Mighty 790 KFGO сообщает, что Китай предложил добавить в список экспортного контроля 40 технологий в областях ИИ, биотехнологий и солнечной энергетики. StateTech Magazine пишет, что ИИ в правительствах США переходит от демонстрации к полномасштабной эксплуатации. Когда государственные учреждения вступают в стадию включения этого в повседневную работу, стандарты закупок и подотчётности становятся жёстче. Как видно на примере точного земледелия в Китае, о котором писал CGTN, ИИ продолжает преобразовывать производственную среду. Расследования аварий у поставщиков и экспортный контроль технологий подчёркивают хрупкость конструкций, зависящих от конкретных компаний или моделей.

Макроэкономическая среда тоже не лишена значения. Investing.com обсуждает парадокс доллара США и инфляции, сообщая, что кредитные риски, связанные с ИИ, и рост цен на энергию меняют перспективы глобального роста. Инвестиции в ИИ опираются и на финансирование, и на электроэнергию, и если эти условия ухудшатся, это скажется на рентабельности планов внедрения.

Позитивный диалог, расследования, экспортный контроль и кредитный риск — всё это внешне задаёт условия того, насколько можно доверять ИИ. Следующий вопрос: кто и как будет определять границы ответственности в этих условиях.

Объяснения сокращений персонала, финансирование разработки лекарств, прогностические модели для поддержки диагностики и диалоговые сервисы, которые постоянно дают позитивные ответы, кажутся темами из разных областей. Однако все они сводятся к одному. То, за что и в какой мере будет отвечать ИИ, определяется не только технологическими возможностями. Доверие пользователей, пациентов и сотрудников зависит от того, закладывает ли сторона, проектирующая систему, кто будет проверять результат и кто будет отвечать за последствия. Слова объяснений и объём денег не заменяют продуманный дизайн системы. Решая, внедрять ли систему, сначала проверьте, какие процессы останутся за людьми и на ком должна лежать ответственность, наряду со скоростью и экономической эффективностью. Чем яснее очерчена зона ответственности, тем проще впоследствии проводить проверку и давать объяснения.

Q1: Как вы разграничиваете в своей зоне ответственности ту часть работы, где результат ИИ можно использовать как есть, и ту, которую следует проверить собственными глазами перед использованием? Q2: Если в результатах, выданных ИИ, есть ошибка или предвзятость, кто обнаружит её на каком этапе и как это будет остановлено? Q3: Говоря о результатах повышения эффективности за счёт ИИ, насколько конкретно вы можете объяснить людям внутри и вне компании, какой объём суждений и ответственности остаётся за людьми?

Наконец, три вопроса

- В каких частях вашей работы можно использовать результат ИИ как есть, а в каких его следует проверить собственными глазами, прежде чем использовать? Вопрос 2: Если в результатах, выданных ИИ, есть ошибка или предвзятость, кто обнаружит её на каком этапе и как это будет остановлено? Вопрос 3: Говоря о результатах повышения эффективности с помощью ИИ, насколько конкретно вы можете объяснить людям внутри и за пределами компании, какой объём решений и ответственности остаётся за людьми? - Если в результатах, выданных ИИ, есть ошибка или предвзятость, кто обнаружит её на каком этапе и как это будет остановлено? Вопрос 3: Говоря о результатах повышения эффективности с помощью ИИ, насколько конкретно вы можете объяснить людям внутри и за пределами компании, какой объём решений и ответственности остаётся за людьми? - Говоря о результатах повышения эффективности с помощью ИИ, насколько конкретно вы можете объяснить людям внутри и за пределами компании, какой объём решений и ответственности остаётся за людьми?