MundoTecnología

La Unesco alerta de que la IA amenaza la memoria del Holocausto

Por ello, la organización urgió a los Estados y a las empresas tecnológicas a acelerar la implementación de sus recomendaciones sobre la ética de la IA, y que ya ha sido integrada en la legislación de unos cincuenta países.

París, 18 jun (EFE).- La pervivencia de la memoria del Holocausto está “amenazada” por la inteligencia artificial (IA) generativa, que con frecuencia se alimenta de fuentes distorsionadas o maliciosas para crear sus contenidos, alertó este martes la Unesco.

Un informe conjunto publicado hoy por la Unesco y el Congreso Mundial Judío (CMJ) señala que los desarrolladores de IA, al entrenar sus herramientas con información que circula por internet, pueden exponerlas, por falta de supervisión adecuada, a fuentes con datos falsos o tendenciosos.

Lee también: Ingeniero argentino desarrolla herramienta de inteligencia artificial para prevenir crímenes en EEUU

Además, y sobre esa base, las propias herramientas de IA pueden terminar generando contenidos falsos sobre el Holocausto, algo que ya ha ocurrido en algunos casos con ChatGPT y con Bard, la herramienta de Google.

Ambas han producido contenido sobre acontecimientos relacionados con el Holocausto “que nunca ocurrieron”, afirma la Unesco en un comunicado.

Otro problema encontrado es que la IA tiende a “simplificar el contexto histórico”, privilegiando “un rango reducido de fuentes y una pequeña elección de acontecimientos”.

Por ejemplo, en páginas de búsqueda alimentadas por IA, entre un 60 y un 80 % de las principales imágenes en búsquedas se refieren al campo de exterminio de Auschwitz-Birkenau.

Lee también: La herramienta de inteligencia artificial que detecta tumores de cáncer que no pueden ver los médicos

Debido a que el 80 % de los jóvenes entre los 10 y 24 años usan la IA varias veces al día con propósitos educativos o de entretenimiento, hace falta una acción “rápida” para que estas tecnologías se guíen por principios éticos, insistió la Unesco.

Por ello, la organización urgió a los Estados y a las empresas tecnológicas a acelerar la implementación de sus recomendaciones sobre la ética de la IA, y que ya ha sido integrada en la legislación de unos cincuenta países.

EFE

Publicaciones relacionadas

Botón volver arriba