AI Highlights — el panorama completo — 2026-10-17 (sáb) Noticias de la mañana

Mientras el banco recorta 3.000 empleos, explica que el propósito de la IA es mejorar la eficiencia, no reemplazar a las personas. En el software empresarial se dice que, aunque los agentes de IA se acerquen al piloto automático, la intervención humana seguirá siendo necesaria. En el descubrimiento de fármacos se están formando alianzas de hasta 1.500 millones de dólares, y en el diagnóstico, los modelos predictivos están entrando en las decisiones sobre tumores individuales. La capacidad de generar velocidad llega al mismo tiempo al lugar de trabajo, al laboratorio y a la clínica. Lo que me gustaría transmitir aquí al lector es la idea de que el éxito o el fracaso de la implementación no lo determina el alto rendimiento, sino trazar la línea entre qué procesos deben dejarse a la IA y qué decisiones deben dejarse a las personas. La explicación de la empresa y el tamaño de sus fondos no son la base para trazar esa línea. En el texto principal veremos dónde se traza la línea en cada ámbito.

Palabras sobre los recortes de personal y los cambios de funciones que se producen en el lugar de trabajo

En los artículos que informan sobre despidos en bancos, junto a la cifra de recortes de empleo aparecen palabras de explicación. Axis Bank recortará 3.000 empleos en el ejercicio fiscal 26. Según un informe (Goodreturns), el banco pretende usar la IA para mejorar la eficiencia operativa y no para reemplazar al personal. En el sector tecnológico, los medios locales también hablan de dónde se llevarán empleos la IA y los despidos (KTVU). Sin embargo, en este tipo de anuncios, la cifra de «3.000 personas» y la explicación de «no es un reemplazo» aparecen en la misma página. Las palabras de explicación no son una base sobre la que el lector pueda apoyar su juicio.

En el ámbito del software empresarial, se habla de un diseño que mantiene a las personas en el circuito como una especificación. Un análisis de Workday Rising 2026 (iTWire) informó de que los agentes de IA de Workday se acercarán más al piloto automático manteniendo la participación humana. A medida que avanza la automatización, las decisiones de diseño del producto cobran más importancia a la hora de decidir en qué procesos se emplea a personas. Lo que deben examinar quienes consideran la implantación no es cuántas personas se recortarán. La cuestión es qué parte de la aprobación y del tratamiento de excepciones sigue en manos de las personas.

Los cambios en la naturaleza del trabajo son más visibles en los ámbitos de los cuidados de enfermería, la educación y el apoyo a la vivienda. Un artículo (McKnight's Senior Living) que presenta un informe sobre residencias de ancianos señaló que el uso de la IA está apoyando a los trabajadores de cuidados. La prefectura de Shizuoka ha introducido un chat con IA en los complejos de viviendas prefecturales para ayudar a evitar que los hogares unipersonales caigan en el aislamiento (Mainichi Shimbun). En educación, SBCCD y BBOP Center han puesto en marcha una alianza de alfabetización en IA en College Corps (Precinct Reporter News). Estos tres casos pueden leerse como ejemplos de una IA que cambia el alcance del trabajo que realizan las personas y las habilidades que se les exigen, en lugar de reemplazarlas. Los cuidadores podrán confiar a la IA parte del registro y la verificación, y los residentes del complejo de viviendas podrán consultar primero por chat. Quienes aprendan adquirirán la capacidad de aprovechar la IA al máximo.

Por lo tanto, el impacto sobre el empleo no puede medirse únicamente por el número de recortes. Aunque se use la misma expresión, «mejora de la eficiencia», lo que les ocurre a los trabajadores es distinto cuando se reduce el número de personas que cuando se reduce el número de personas que participan en el diálogo y en la toma de decisiones. Lo que determinará el éxito o el fracaso de la implantación es la línea que se trace entre lo que debe confiarse a la IA y lo que debe quedar en manos de las personas. A continuación veremos cómo se traza esta línea en ámbitos como el descubrimiento de fármacos y el diagnóstico, donde el costo de un error es alto.

La financiación y la implementación clínica de la IA avanzan a través del descubrimiento de fármacos y el diagnóstico

Los fondos ya se están desplazando hacia negocios impulsados por IA. AstraZeneca ha firmado una alianza por hasta 1.500 millones de dólares con Incitro, empresa de descubrimiento de fármacos con IA (BigGo Finance). Google.org apoyará a un equipo de la Universidad de Toronto con 2,3 millones de dólares para construir OpenPep, un motor de IA para el descubrimiento de fármacos peptídicos (Bioengineer.org). En el sector financiero, la sueca Matters recaudó 5 millones de dólares para lanzar un banco nativo de IA (The Next Web). En Japón, la IA, la construcción naval y el descubrimiento de fármacos se discuten en conjunto entre los 17 campos estratégicos con un presupuesto de 370 billones de yenes (Nikkei Business Online Edition). Es importante señalar que la expresión «hasta» 1.500 millones de dólares en la alianza no significa que se haya comprometido la totalidad del monto. Más que el tamaño de la cifra, lo que deben observar los lectores es si los fondos están estructurados bajo el supuesto de que el proceso se confiará a la IA.

En el ámbito clínico, los debates sobre la implementación están alcanzando a los movimientos de financiación. Líderes de diagnóstico por imagen analizaron en un seminario web hasta qué punto la automatización con IA puede extenderse a los entornos clínicos (Radiology Business). La investigación es la base aquí. El Journal of Imaging incluye un artículo que examina el impacto de la asistencia de la IA en el desempeño de los radiólogos en la detección de nódulos pulmonares mediante TC, a través de una revisión sistemática y un metaanálisis de estudios sobre la precisión de la detección. Lo importante es que mide el desempeño de los médicos que usan IA, no la precisión de la IA. Un estudio del Journal of Neuro-Oncology utilizó datos multicéntricos para desarrollar y comparar un modelo de aprendizaje profundo, uno de radiómica, uno clínico y uno integrado para la predicción preoperatoria del grado de la OMS de los meningiomas mediante RM. Dado que el diseño compara en paralelo modelos independientes y modelos integrados, puede decirse que esta investigación se pregunta qué combinaciones pueden utilizarse.

この二つの流れを並べると、判断の置き場所が見えてくる。創薬や新しい銀行では、資金が先に出て、成果は後から検証される。診断では、検証の問いが「AIが正しいか」から「AIを使った人の成績がどう変わるか」へ移っている。 For those considering introduction, it would be better to check that there is evidence that measures the performance of the person, rather than the amount of partnership or procurement, in order to decide the scope of entrustment.

La velocidad a la que se recaudan fondos no es la misma que la velocidad a la que se acumulan las verificaciones. La cuestión de quién llenará esa brecha conduce a la siguiente sección.

Los modelos de predicción entran en el juicio sobre tumores individuales

En la investigación del cáncer de mama, se demostró un nuevo marcador digital para evaluar la expresión de CXCL9 y el pronóstico mediante una «firma patómica» creada con aprendizaje automático (CytoJournal). En el adenocarcinoma de pulmón, se ha identificado ATP2A2 como un factor que promueve la remodelación del microentorno y la evasión inmunitaria a partir de firmas de ecosistemas inflamatorios y metabólicos derivadas de IA (Frontiers in Cell and Developmental Biology). Ambos son estudios que extraen indicadores relacionados con el pronóstico a partir de imágenes patológicas y datos de expresión génica. Lo que tienen en común es que intentan mostrar no solo las cifras producidas por los modelos, sino también con qué factores biológicos están vinculadas esas cifras.

Las investigaciones que utilizan imágenes muestran también la misma dirección. En el cáncer de próstata metastásico sensible a la castración, se emplea aprendizaje automático explicable para examinar los factores que predicen si los pacientes recibirán una intensificación del tratamiento conforme a las guías (Frontiers in Oncology). En el cáncer de hígado, combinamos el hábitat intratumoral y la radiómica peritumoral para mejorar la precisión de la predicción de la eficacia de la TACE inicial. Se trató de un estudio retrospectivo multicéntrico (Frontiers in Oncology). En el cáncer renal, utilizamos fracciones de volumen extracelular derivadas de la TC con contraste para predecir antes de la cirugía el grado OMS/ISUP del carcinoma renal de células claras mediante aprendizaje automático interpretable (Frontiers in Oncology). El alcance de la predicción, que abarca el pronóstico, la selección del tratamiento, el efecto del tratamiento y el grado, se está ampliando a cada etapa del juicio individual para cada tumor.

El resultado de estos estudios depende de si pueden mostrar las razones de las predicciones y no solo las predicciones en sí. En la etapa de aplicar el modelo a pacientes individuales, un modelo que no puede demostrar su fundamento no servirá como material de consideración para los médicos, mientras que uno que sí puede hacerlo servirá para que los médicos queden conformes con él o para que noten errores. Para quienes estén considerando su implantación, no basta con comparar únicamente las cifras de precisión. Es necesario preguntarse si es posible presentar la predicción, basada en qué fundamento, de una forma que el personal clínico pueda confirmar. Además, la investigación sobre el cáncer de hígado es retrospectiva. Los lectores también deben tener en cuenta que los resultados no se han verificado mediante tratamiento médico real.

Esta tendencia no se limita a los tumores. Un estudio que utilizó IA para analizar a 101.000 personas mostró que la grasa parda está asociada con la salud cardíaca y mental (News-Medical). A medida que aumenta la escala del análisis, aumenta la velocidad a la que se encuentran relaciones, pero corresponde a las personas decidir cómo interpretar esas relaciones y en qué medida se usan en las decisiones. Que las predicciones explicables sean el eje de la evaluación también significa que la responsabilidad de aceptar las predicciones sigue recayendo en quien las utiliza. En la siguiente sección veremos cómo repartir esta responsabilidad dentro de la organización.

IA que sigue afirmando y la presión de la regulación y la competencia

Una IA que afirma constantemente a las personas corre el riesgo de dañar las relaciones interpersonales. Forbes JAPAN informa de preocupaciones sobre la atribución de culpas a otros y la falta de empatía. La idea es que, si el usuario solo recibe respuestas que le resultan convenientes, tendrá menos oportunidades de reevaluar su propio comportamiento. Por otro lado, el lado de los servicios de diálogo sigue expandiéndose. La oferta de la Universidad de Córdoba (UCO) incluye un chatbot de conversación sexual sin filtros para mayores de 18 años y un servicio de «simulador de amor con novia de IA» con controles de privacidad (AI Girl Generator Online With Customizable Characters And Privacy Controls). Los ajustes de privacidad se han convertido en un argumento de venta, y la forma en que se manejan los datos de los usuarios forma parte del producto. Quienes consideren introducirlo deben comprobar primero, más que el número de funciones, si la IA está diseñada para aprobarlo todo y quién gestionará los registros de las conversaciones.

Continúan los debates sobre la «capacidad de pensar» de la IA. Deccan Herald recurrió a las ideas de Purusha y Prakriti de la filosofía india para abordar los límites de la conciencia de la IA y la cuestión de si las máquinas pueden pensar. Psychology Today analiza por qué las pinturas reales parecen generadas por IA. Ambos puntos indican que el criterio de las personas para distinguir lo «propio de la IA» está vacilando. Es necesario reconsiderar la premisa de recurrir a los humanos para determinar si un resultado es genuino o un producto.

Las presiones regulatorias y competitivas están empezando a imponer restricciones externas al uso. Según Aju Press, la Comisión Federal de Comercio de EE. UU. (FTC) ha iniciado una investigación sobre OpenAI y Anthropic tras un incidente de seguridad. The Mighty 790 KFGO informó de que China ha propuesto añadir 40 tecnologías de los ámbitos de la IA, la biotecnología y la energía solar a la lista de control de exportaciones. StateTech Magazine señala que la IA en los gobiernos estadounidenses está pasando de la demostración a la operación a gran escala. A medida que las instituciones públicas entran en la fase de incorporarla a sus operaciones diarias, los estándares de contratación y rendición de cuentas serán más estrictos. Como se observa en la agricultura de precisión de China, cubierta por CGTN, la IA sigue transformando los entornos industriales. Las investigaciones de accidentes de proveedores y los controles a la exportación de tecnología ponen de manifiesto la fragilidad de los diseños que dependen de empresas o modelos específicos.

El entorno macroeconómico tampoco es irrelevante. Investing.com analiza la paradoja del dólar estadounidense y la inflación, e informa de que los riesgos de crédito relacionados con la IA y el aumento de los precios de la energía están reconfigurando las perspectivas de crecimiento global. La inversión en IA se sustenta tanto en financiación como en electricidad, y si estas condiciones se deterioran, la rentabilidad del plan de implantación se verá afectada.

El diálogo positivo, las investigaciones, los controles de exportación y el riesgo crediticio establecen externamente las condiciones de cuánta confianza puede depositarse en la IA. La siguiente pregunta es quién decidirá el alcance de la responsabilidad bajo estas condiciones y cómo.

Explicar los recortes de personal, la financiación del descubrimiento de fármacos, los modelos predictivos que apoyan el diagnóstico y los servicios de diálogo que devuelven continuamente respuestas positivas parecen temas de ámbitos distintos. Sin embargo, todos llegan al mismo punto. Qué asumirá la IA y hasta qué punto no se determinará únicamente por las capacidades tecnológicas. Que el lado del diseño determine o no quién comprobará los resultados y quién será responsable de ellos decidirá la confianza de los usuarios, los pacientes y los empleados. Las palabras de explicación y la cantidad de dinero no sustituyen al diseño. Al decidir si se introduce un sistema, primero debe comprobar los procesos que se dejarán en manos de las personas y dónde debe recaer la responsabilidad, junto con la velocidad y la rentabilidad. Cuanto más claro sea el alcance de la responsabilidad, más fácil será revisarlo y explicarlo después.

P1: Del trabajo que usted tiene a su cargo, ¿cómo distingue las partes en las que puede utilizar el resultado de la IA tal cual de aquellas que debería revisar con sus propios ojos antes de usarlo? P2: Si hay un error o un sesgo en los resultados producidos por la IA, ¿quién lo detectará, en qué etapa y cómo se detendrá? P3: Al hablar de los resultados de las mejoras de eficiencia mediante la IA, ¿hasta qué punto puede explicar concretamente, a las personas dentro y fuera de la empresa, el alcance del juicio y la responsabilidad que se deja en manos de las personas?

Por último, tres preguntas

- De las tareas que usted tiene a su cargo, ¿dónde separa las partes en las que se puede usar tal cual el resultado de la IA y las partes que conviene revisar con sus propios ojos antes de usarlo? P2: Si hay un error o un sesgo en los resultados producidos por la IA, ¿quién lo detectará, en qué etapa y cómo se detendrá? P3: Al hablar de los resultados de las mejoras de eficiencia gracias a la IA, ¿hasta qué punto puede explicar de forma concreta a las personas dentro y fuera de la empresa el alcance del juicio y la responsabilidad que se deja a las personas? - Si hay un error o un sesgo en los resultados producidos por la IA, ¿quién lo detectará, en qué etapa y cómo se detendrá? P3: Al hablar de los resultados de las mejoras de eficiencia gracias a la IA, ¿hasta qué punto puede explicar de forma concreta a las personas dentro y fuera de la empresa el alcance del juicio y la responsabilidad que se deja a las personas? - Al hablar de los resultados de las mejoras de eficiencia gracias a la IA, ¿hasta qué punto puede explicar de forma concreta a las personas dentro y fuera de la empresa el alcance del juicio y la responsabilidad que se deja a los humanos?