AI Highlights — the whole picture — 2026-10-26 (Mon) Daily News

Пока ИИ влияет на показатели занятости, та же технология лежит в основе информации о выборах, советов по отношениям и воспитанию детей, прогнозов рака, а также военных и фармацевтических операций. По сообщениям, IT-гиганты сократили по всему миру почти 200 000 рабочих мест, но масштаб сокращений — лишь часть происходящих изменений. Только 8% взрослых американцев получают информацию о выборах от ИИ-чат-ботов, а если крупный ИИ-сервис знакомств обанкротится, партнёры пользователей будут удалены. Независимо от того, велики цифры или малы, люди всё чаще получают ответы от ИИ и опираются на них при принятии решений и в отношениях. Что я хотел бы, чтобы читатели вынесли из этих полудня, — это вопрос о том, как далеко можно полагаться на ИИ и где следует провести черту. В разделах ниже показано, как по-разному эта черта проходит в разных отраслях и ситуациях.

Сокращение персонала идёт впереди, а система и экономика следуют за ним

Индийское экономическое издание Livemint сообщило, что крупные ИТ-компании сократили по всему миру почти 200 000 рабочих мест из-за трансформации, связанной с ИИ. Масштаб сокращений уже превысил масштаб любой отдельной компании или страны. Al Jazeera подчеркнул, что Великобритания лидирует по увольнениям, связанным с ИИ, и обсудил причины этого. В финансовом секторе, как сообщалось, у Barclays наблюдаются и увольнения из-за ИИ, и чрезмерные опасения по поводу банковских налогов (Seeking Alpha). Схожие процессы происходят в разных отраслях и регионах — в ИТ, Великобритании, банковской сфере. Поэтому ИИ и занятость необходимо рассматривать не как управленческие решения одной компании, а как явления, общие для нескольких отраслей.

Эта тенденция распространяется и за пределы занятости. В оценке проблем, стоящих перед экономиками Азии, МВФ назвал бременем как высокие цены на энергию, так и ИИ (India Today). Хотя трансформация с помощью ИИ для компаний является мерой экономии затрат, она же создаёт нагрузку по адаптации для экономики в целом. Кроме того, в случае банков тема увольнений обсуждается в одном контексте с институциональным вопросом банковских налогов (Seeking Alpha). При изучении планов сокращения в компаниях, если не рассматривать их вместе с налоговыми и регуляторными изменениями, невозможно определить, было ли решение принято самостоятельно или на него повлияла система.

Та же тенденция проявляется и в медицинских организациях. По данным Hospitalogy, генеральный директор Navvis, руководитель направления здравоохранения, сказал, что, хотя ценностно-ориентированная медицинская помощь (VBC) сместилась в сторону результатов, программа LEAD приостановлена. Затем он говорит о подготовке к моделям рисков, которые могут стать обязательными. Дело здесь не в самом ИИ. Механизмы оплаты и оценки меняются, и организации вынуждены перестраиваться соответствующим образом. Даже если обязательное требование отложено, необходимость быть готовыми остаётся. Этот момент перекликается с примером Великобритании, где сокращение персонала шло быстрее, чем улучшение institutional-механизмов.

При таком сопоставлении число людей и доля сокращений не обязательно являются результатом решений самих компаний. На них влияют внешние условия, такие как экономическая оценка, налоговая система и способы оплаты медицинской помощи. Тем, кто смотрит на эти цифры, необходимо проверять, в рамках какой системы они были получены. Следующий вопрос заключается не столько в масштабе сокращений, сколько в том, какую часть принятия решений на местах, творческой и клинической работы следует оставить ИИ.

Информационная и образовательная среда, где ставятся под вопрос предвзятость и доверие

Только 8% взрослых в США используют ИИ-чат-боты для сбора информации о выборах 2026 года (Pew Research Center). Число пользователей пока невелико. Однако если ответы, которые получает это небольшое число людей, предвзяты, то малая численность не повод для спокойствия. В обзоре TechCrunch, столкнувшись с выбором, Grok выбрал Республиканскую партию, а OpenAI — Демократическую. Обе модели обычно используют в расчёте на нейтральность. Тем не менее, если их заставить, они обнаруживают свою позицию. Читателям следует проверять не то, ответит ли чат-бот. В остро партийном вопросе, таком как выборы, важно, можно ли использовать ответ как основу для принятия решений.

В сфере образования цифры показывают нехватку подготовки. Школьные политики в области ИИ в штате Вашингтон остаются на уровне 2010-х годов и не готовы к будущему (The Seattle Times). Хотя у учащихся уже есть доступ к генеративному ИИ, школьные правила по-прежнему опираются на формулировки, написанные в то время, когда ИИ не был распространён. Если политика устарела, учителям остаётся принимать решения самостоятельно, и то, что они разрешают и требуют от учеников, меняется от класса к классу. Доверие здесь — это не доверие к самим результатам работы ИИ. Это доверие к тому, поспевает ли организация, определяющая порядок его использования, за реальным положением дел.

Меры в сфере безопасности также начинают формироваться в ответ на атаки. После атаки на Hugging Face появился ряд шагов, связанных с безопасностью ИИ. Tech Xplore излагает их развитие в хронологическом порядке. Поскольку мишенью становится общая инфраструктура из общедоступных моделей и инструментов, безопасность перестаёт быть внутренним вопросом компаний-разработчиков. Вопрос в том, как провести границу между тем, что пользователи должны проверять сами, и тем, что следует оставить оператору инфраструктуры.

В творческой работе есть примеры, где ответственность указана чётко. Creative Assembly отрицает наличие ИИ-арта в полной версии Total War: Shogun 2 и признаёт свою ответственность (Simulation Daily). Здесь важно, что они признали использование материалов, созданных ИИ, а затем проявили готовность взяться за решение задачи. Общая нить, связывающая предвзятые модели, устаревшие школьные правила, меры безопасности, принятые после атаки, и производственные компании, признавшие свою ответственность, состоит в том, что доверие строится не на результативности, а на ясности того, кто за что отвечает. Чтобы решить, какой объём работы можно доверить, человек, который возьмётся за работу, должен быть виден. В следующем разделе мы рассмотрим, как эта граница проводится в более личных, эмоциональных и клинических ситуациях.

Цена, которую вы платите, доверяя ИИ свои эмоции и отношения

Вопрос о том, есть ли у машин эмоции, вызывает дискуссию об ИИ, сообщает MarketWatch. Хотя этот спор не разрешён, со стороны пользователей отношения выстраиваются, не дожидаясь вывода. По данным New York Post, крупный сервис ИИ-возлюбленных разоряется, и ИИ-возлюбленные пользователей, как ожидается, будут удалены. Тот, с кем пользователь ежедневно обменивался словами, исчезает из-за состояния управления компании-оператора. Независимо от того, подлинны ли чувства, ответственность за сохранение партнёра лежит на компании, и если компания рушится, отношения заканчиваются. Издание The Malaysian Reserve сообщило, что ИИ меняет материнство к худшему. Чем чаще консультации по воспитанию детей и решения доверяются ИИ, тем менее эффективным может становиться общение родителей и детей, которому обычно следует уделять сосредоточенное внимание. Эта статья рассматривает такие изменения как проблему.

Также растут возможности машин в распознавании эмоций. По данным The Decoder, Block объявила о новом ИИ под названием Dessa, который учится исключительно на аудио. Утверждается, что сам голос передаёт эмоции, которые невозможно уловить через транскрипцию. Его можно применять там, где по одному содержанию слов нельзя вынести суждение, например в колл-центрах и на собеседованиях. Однако из этого сообщения неясно, кто использует эмоции, считанные по голосу, и с какой целью. Чем точнее становится считывание, тем выше риск того, что получатели результатов будут использовать их как материал для суждений о людях.

С другой стороны, есть и способы, которыми ИИ может поддерживать отношения между людьми. Oncology Nursing News приводит пример того, как модели ИИ для оценки риска рака молочной железы можно использовать для сортировки пациентов и для консультирования пациентов под руководством медсестёр. Здесь ИИ лишь оценивает риск, а медсестра отвечает за то, чтобы объяснить пациенту ситуацию и рассмотреть его опасения. Если AI Lover и Dessa полагаются на ИИ в том, чтобы читать отношения и эмоции, то в данном случае ИИ готовит материалы для диалога между людьми.

Если сравнить их бок о бок, то можно ли доверить свою работу ИИ, определяется не только производительностью самого ИИ. Перед использованием устройства необходимо проверить, не исчезнет ли тот, кому оно доверено, из-за банкротства компании-оператора, кто получит информацию, полученную из голосов и слов, и останется ли рядом живой человек. Это подтверждение станет основой для определения круга принятия решений и творческой работы, которые будут доверены ИИ.

Точность прогнозирования лечения рака повышена с помощью изображений и данных

При раке молочной железы предпринимались попытки оценить наличие или отсутствие метастазов до операции. Было сообщено об исследовании, в котором ИИ использовался для прогнозирования метастазов рака молочной железы до операции по результатам интерпретации ультразвуковых изображений (Bioengineer.org). В другом исследовании представлена калиброванная статическая стекинговая ансамблевая модель для прогнозирования смертности от рака молочной железы (Archives of Breast Cancer). Калибровка — это процесс проверки того, соответствуют ли вероятности, выдаваемые моделью, фактической частоте возникновения события. Поскольку она связана с тем, можно ли читать прогнозные значения как вероятности, она так же важна, как и точность, при объяснении пациентам или обсуждении планов лечения. В области патологических изображений в журнале Scientific Reports был опубликован SCLC-SBT — спектральный билинейный трансформер для классификации гистологических изображений мелкоклеточного рака лёгкого. Даже если тип изображений меняется, важны не только цифры точности, но и то, как интерпретировать результат.

Есть и исследования, которые требуют верификации в нескольких учреждениях. Прогностическая стратификация риска глиомы с помощью модели на основе патоморфологии также выявила ключевые гены и биологические пути, связанные с прогнозом, и была опубликована как многоцентровое исследование в Acta Neuropathologica Communications. При раке желудка глубокое обучение на основе радиомики КТ в двух полях, включающее висцеральную жировую ткань, как говорят, улучшило дооперационное предсказание метастазов в лимфатические узлы. Это тоже многоцентровое исследование (European journal of radiology). При гепатоцеллюлярной карциноме есть работы, в которых радиомика МРТ используется для предсказания экспрессии FAP и иммуносупрессивного микроокружения опухоли. Такие схемы исследований направлены на то, чтобы проверить, подтверждаются ли данные других больниц, а не результаты одной больницы. Читателям стоит обращать внимание не на величину наивысшего показателя, а на то, насколько меняются результаты при смене учреждения.

Единица анализа сократилась до клетки. При раке мочевого пузыря интеграция одноклеточной/пространственной транскриптомики и машинного обучения позволила показать молекулярные сигнатуры и ключевые гены риска злокачественных эпителиальных клеток с высокой стволовостью (Discover Oncology). scGlycoAI — это фреймворк, который с помощью машинного обучения анализирует данные о гликанах и РНК-последовательностях отдельных клеток, определяет тип клеток и ищет гликаны, связанные со злокачественностью (Glycobiology). От изображений до клеток: объекты прогнозирования расширяются для каждого типа данных. Однако эти работы указывают лишь на возможность того, что прогнозы оправдаются, а достаточен ли их уровень для клинического применения, требует отдельной проверки. Сейчас измеряется не сама производительность, а расстояние, на котором на прогнозы можно полагаться. Вопрос о том, кто проводит эту черту и как, возникает таким же образом и за пределами медицины.

Внедрение в эту сферу будет идти по отраслям, опираясь на доказательства

ВВС США планируют использовать ИИ для поддержки дозаправки в воздухе, сообщает Military Times. Дозаправка в воздухе — это задача с подробными операционными процедурами и стандартами безопасности. Использование ИИ в качестве поддержки отличается от передачи ему всей задачи целиком. Другое направление — разработка лекарств. Согласно вводной статье, опубликованной Unisba Media 14 апреля в 16:00, Novo Nordisk и OpenAI заключили партнёрство в области разработки лекарств с помощью ИИ. В той же статье упоминается и официальный уход руководителя направления ИИ в Apple, Джанандреа. У военной и фармацевтической отраслей разные стандарты, которым нужно следовать, и разная цена ошибки. Тем не менее сферы применения ИИ ограничены процессами, которые можно поддержать в рамках существующего бизнес-процесса.

В хирургии обоснование внедрения начинает подтверждаться цифрами. Систематический обзор, опубликованный в Cureus, обобщает проспективные клинические данные о роботизированной интраоперационной цифровой навигации при хирургии рака предстательной железы и рака почки. Проспективный дизайн — это когда условия определяются, а пациенты наблюдаются до того, как становятся известны результаты. Такие данные имеют иной вес как основание для суждения, чем рекламные лозунги или случаи, рассмотренные постфактум. Сейчас ведётся работа по подтверждению эффективности интраоперационной навигации для каждого органа — предстательной железы и почки.

Если поставить эти три случая рядом, в том, как идёт внедрение, есть общие черты. ВВС начинают с поддержки заправки в воздухе, Novo Nordisk — с партнёрства в области разработки лекарств, а хирургия — с интраоперационного сопровождения при роботизированных операциях. Во всех случаях цели разбиваются на части бизнеса, и результаты проверяются в этих пределах. Когда речь идёт о внедрении ИИ на практике, читателю полезнее судить по тому, в каких процессах он используется и какая проверка была проведена, а не по тому, объявлено ли об использовании ИИ. Процессы, прошедшие всестороннюю проверку, дают основания для расширения зоны ответственности, а процессы, почти не прошедшие проверку, остаются осторожными. Следующий вопрос — где провести черту, за которой люди не отказываются от окончательного решения даже после проверки.

Общим для всех разделов было то, что результат определялся не самим внедрением ИИ, а тем, где провести границу объёма доверяемого ему. Масштаб увольнений привлёк внимание, но те же процессы распространялись на несколько отраслей и регионов, создавая нагрузку по адаптации для экономики в целом. В информационной и образовательной сферах, даже при небольшом числе пользователей, возникали вопросы о предвзятости ответов и задержках с организационными мерами внутри школ. В сфере эмоций и отношений на отношения между пользователями влияло состояние управления компанией-оператором. В лечении рака условия считывания результатов, такие как калибровка и многоцентровая верификация, рассматривались наравне с точностью. В военной сфере, фармацевтике и хирургии внедрение было сосредоточено на процессах, которые можно поддержать в рамках существующих процедур, и накапливались доказательства. Теперь нужно не решать, использовать ИИ или нет, а в каждой ситуации определять, что доверить ИИ, а что оставить в своих руках.

Q1: В каких процессах вашей работы вы используете результаты ИИ как основу для решений и у кого есть система, позволяющая заметить, что результат неверен? Q2: Какие стандарты и процедуры используются для проверки предвзятости и ошибок в результатах ИИ до и после внедрения, и ведутся ли записи? Q3: На каком основании был определён круг задач, доверяемых ИИ? Были ли какие-либо условия и кто будет отвечать за пересмотр этого круга при изменении ситуации в бизнесе или у клиента?

Наконец, три вопроса

- Какие процессы в вашей работе напрямую опираются на результаты ИИ при принятии решений, и у кого есть система, позволяющая заметить, что результат неверен? Q2: Какие стандарты и процедуры используются для проверки предвзятости и ошибок в результатах ИИ до и после внедрения, и ведутся ли записи? Q3: На каком основании определялся объём задач, доверяемых ИИ? Были ли оговорены условия, и кто будет отвечать за пересмотр этого объёма при изменении ситуации в бизнесе или у клиента? - Какие стандарты и процедуры используются для проверки предвзятости и ошибок в результатах ИИ до и после внедрения, и ведутся ли записи? Q3: На каком основании определялся объём задач, доверяемых ИИ? Были ли оговорены условия, и кто будет отвечать за пересмотр этого объёма при изменении ситуации в бизнесе или у клиента? - На каком основании определялся объём задач, доверяемых ИИ, и определены ли условия и ответственность за пересмотр этого объёма при изменении ситуации в бизнесе или у клиента?