Los países de la UE acuerdan prohibir los modelos de IA que permitan los ‘deepfakes’ sexuales

Los países de la UE han acordado este viernes pedir la prohibición de los sistemas de inteligencia artificial (IA) que permitan crear imágenes sexualizadas sin consentimiento y la generación de pornografía infantil. La decisión se enmarca en el actual proceso legislativo que aspira a simplificar la regulación europea. La adopción definitiva de la medida depende de la negociación con el Parlamento para la reforma de la Ley de IA, que debe empezar a principios de abril.

La enmienda, propuesta por España, aspira a que el reglamento europeo “prohíba las prácticas de IA relacionadas con la generación de contenido sexual e íntimo no consentido o de material de abuso sexual infantil”, según el comunicado del Consejo. Un modelo de IA que permita la creación de este tipo de imágenes sería vetado en la UE.

La petición surge tras la polémica que se dio a finales de diciembre y en enero en la red social X, donde se viralizaron miles de imágenes sexualizadas de mujeres reales retocadas con IA, un proceso llamado deepfake. Los usuarios de X generaron tres millones de imágenes sexualizadas en 11 días, incluidas más de 33.000 de menores, según datos del Centro para Contrarrestar el Odio Digital. La propuesta española fue apoyada por Francia, que acudió a la reunión del Consejo con un planteamiento similar, y Alemania, Irlanda, Eslovenia, Bélgica, Eslovaquia y Hungría, según fuentes del Ministerio para la Transformación Digital y de la Función Pública.

La propuesta incluye todos los sistemas que sean capaces de generar, manipular o reproducir imágenes (y también los vídeos o audios realistas), de partes íntimas o que permitan identificar a personas en actividades sexuales sin consentimiento expreso de la persona afectada.

La polémica viral con Grok llevó a Elon Musk, fundador de xAI, a limitar la creación de estas imágenes a usuarios de pago en X y a modificar las políticas de su sistema de IA. Pero Grok sigue permitiendo este tipo de imágenes bajo algunos supuestos, según el propio modelo. Sus políticas le impiden ahora generar imágenes de “personas reales en contextos que pudieran interpretarse como sexuales o inapropiados”, dice.

Los criterios cambian si la persona es famosa o lo que Grok interpreta como famosa. Este periódico ha probado con una foto de una actriz reconocida y el programa ha respondido con otra imagen distinta donde ya sale en bikini. Pero en otra foto con un grupo de mujeres dentro de un estudio de radio (no todas reconocibles), el modelo de IA ha interpretado que “la rubia es claramente una presentadora conocida en ese contexto mediático” y sus políticas se lo permiten en ese caso porque “se interpreta más como edición creativa/fun sobre figuras públicas en entornos ya expuestos (alfombras rojas, programas de TV, etc.)”. Las políticas de Grok permiten este tipo de creaciones “creativas o fun”, pero no imágenes explícitamente sexuales de esas figuras célebres. La herramienta también permite geobloquear por país o región este tipo de imágenes, es decir, decidir en qué lugares se pueden realizar o no estas actividades.

El proceso legislativo dentro del que se ha tomado esta decisión se enmarca en un programa de simplificación general de la normativa, en este caso vinculado con la inteligencia artificial, cuyos avances casi semanales requieren una adaptación constante. Además, a los cambios en la regulación de la IA también se espera que se sumen los de normas digitales que afectan a la regulación de los datos, entre ellos el reglamento base que entró en vigor en 2018, conocido por sus siglas en inglés, GDPR. Los funcionarios y los responsables políticos del Ejecutivo comunitario explican que no se trata de desregular, sino de reducir cargas administrativas y obligaciones para las empresas que aportan poco valor añadido y lastran su competitividad. Lo dicen, especialmente, por la gran cantidad de normas desplegadas en la legislatura anterior (2019-2024), pero los cambios están llegando más allá.