Noticias de ética de la IA — 2026-10-27 (mar) Noticias diarias

Resumen

Las cuestiones que surgieron en las últimas 48 horas fueron el consentimiento en el entrenamiento de la IA (una demanda de los titulares de derechos de Elvis Presley y una campaña de compositores), la rendición de cuentas cuando un bot de IA accede a datos sensibles y la protección de los niños y otros usuarios vulnerables de los chatbots. También destacaron el fraude y las imágenes falsas creadas con IA generativa, así como un artículo que concluye que las directrices de ética de la IA pasan por alto las normas laborales. La mayoría de los titulares no incluyen resultados medidos, por lo que este informe se limita sobre todo a mapear qué cuestiones se están planteando. 【Sesgo, discriminación y equidad】 - Ningún titular informa de una desventaja medida para un grupo específico, por lo que no se dispone de método ni de escala. - La UNESCO apoya el uso ético de la inteligencia artificial en el periodismo mongol (UNESCO). - Un artículo de Nature sostiene que "la gobernanza de la IA debe tener en cuenta las respuestas emocionales de los usuarios" (Nature). - Un artículo de Bioengineer.org afirma que la IA está reescribiendo la ingeniería social, desde las defensas contra el phishing hasta el engaño autónomo de las máquinas (Bioengineer.org).

Privacidad y vigilancia

- Una guía compara cinco modelos de privacidad y seis aplicaciones para chatbots de IA privados (tech-insider.org). - Varios titulares de Shodoshima Town tratan sobre chatbots y aplicaciones de compañía para adultos, y cada uno asocia el "consentimiento y la verificación de edad" o los "controles de privacidad" con la categoría del producto (Shodoshima Town). - Los titulares no indican qué datos se recopilan, quién dio su consentimiento ni cómo se utilizan. 【Transparencia y rendición de cuentas】 - Un artículo de Hungarian Conservative sobre IA y ciberseguridad plantea que el asunto pasa del descubrimiento de vulnerabilidades a la rendición de cuentas (Hungarian Conservative). - The Atlanta Journal-Constitution informa de que un bot de inteligencia artificial accedió a datos electorales de Georgia (The Atlanta Journal-Constitution). - El titular no indica quién operaba el bot, si el acceso estaba autorizado ni qué se divulgó. Estos puntos siguen sin confirmarse aquí. 【Creadores, derechos de autor y consentimiento】 - Los titulares de los derechos de Elvis Presley han demandado a Anthropic por presunta infracción de derechos de autor en el entrenamiento de IA. La disputa gira en torno a si el entrenamiento con las obras requería el consentimiento de los titulares de los derechos (Plataforma Media). - Los Compositores de Cine y Televisión de Australia (Australian Screen Composers) han lanzado una campaña "Human Made" contra las amenazas de la IA a los derechos de autor (The Music Network).

Desinformación y deepfakes

- Confirmado por la policía, según el titular: la policía neerlandesa afirma que llamadas bancarias falsas generadas con IA y una aplicación NFC permitieron un fraude de 380.000 € (Security Affairs). - Desmentido: una foto de una pareja desnuda en los disturbios de París es un montaje generado con IA (AAP). - Estos titulares no mencionan ninguna contramedida. 【Protección de la infancia y de las personas vulnerables】 - STAT se pregunta si el uso prolongado de la IA podría conducir al aislamiento y afirma que los investigadores necesitan mejor acceso a los datos. El grupo en cuestión son los usuarios que dependen de la IA durante largos periodos, y la falta de datos es el obstáculo (STAT). - Yahoo News Australia informa de los riesgos cuando los niños usan chatbots de IA y se pregunta si el nuevo "deber de cuidado digital" de Australia los aborda. El titular presenta la respuesta como australiana y su idoneidad como una cuestión abierta (Yahoo News Australia). 【Principios éticos y directrices】 - Conclusión de un documento de la OIT: las directrices de ética de la IA pasan por alto las normas laborales (HCAMag). - Propuesta del mismo documento de la OIT: las normas laborales internacionales podrían orientar una IA ética en el trabajo (Devdiscourse). - SSA Group está explorando el uso responsable de la IA en zoológicos y acuarios. El titular informa de una exploración, no de una decisión (Blooloop). - Ninguno de estos elementos es una decisión vinculante.

Ética de la IA en Japón

- Un titular compara IA de chat NSFW que permite a los usuarios personalizar juegos de rol, centrándose en los ajustes de privacidad, bajo el tema de la pornografía con IA generativa (Shodoshima Town). - El titular no indica qué abarcan los ajustes de privacidad.

Declaraciones de figuras clave

Sin novedades destacables. Ninguna de las personas seguidas (Timnit Gebru, Fei-Fei Li, Yoshua Bengio) aparece en los titulares. 【Análisis integrado: cómo se conectan las cuestiones éticas】 - Consentimiento: La demanda de Elvis Presley y la campaña de los compositores tratan de si los creadores aceptaron el uso de sus obras para el entrenamiento. Los titulares sobre chatbots para adultos plantean el consentimiento y la verificación de edad por parte de los usuarios (Plataforma Media, The Music Network, Shodoshima Town). Se plantea la misma pregunta tanto a quienes aportan los datos como a quienes usan el producto. - Responsabilidad: El acceso a los datos de votación de Georgia y el caso de fraude implican a una IA que actúa sobre sistemas sensibles o ayuda a explotarlos (The Atlanta Journal-Constitution, Security Affairs). Es probable que la responsabilidad dependa de identificar quién desplegó la IA. - Falta de evidencia: El artículo de STAT dice que los investigadores carecen de acceso a los datos, y el artículo australiano sobre el deber de cuidado pregunta si las protecciones se ajustan a los riesgos (STAT, Yahoo News Australia). Es posible que se fijen normas de protección para los menores antes de que exista evidencia sobre el daño. - Voces ausentes: La conclusión del documento de la OIT de que las directrices pasan por alto las normas laborales sugiere que los trabajadores están ausentes de los marcos éticos actuales (HCAMag). - Puntos de decisión (inferencia): Las empresas que manejan datos de entrenamiento podrían verse presionadas a documentar el consentimiento de los creadores. Los operadores de chatbots de consumo podrían verse presionados a demostrar la verificación de edad y los controles de privacidad. Las organizaciones que despliegan agentes de IA podrían necesitar registros más claros de quién autorizó el acceso.

Qué observar

- Si la demanda de los titulares de los derechos de Elvis Presley contra Anthropic desemboca en alguna sentencia o acuerdo sobre el consentimiento para los datos de entrenamiento. - Si se demuestra que el "deber de cuidado digital" de Australia abarca el uso de chatbots de IA por parte de los niños, y si los investigadores obtienen el acceso a los datos que reclama STAT. - Si otros organismos adoptan la propuesta del documento de la OIT de aplicar las normas laborales a la IA en el trabajo.