En un movimiento sin precedentes, la Unión Europea ha alcanzado un acuerdo para prohibir de forma estricta los «deepfakes» sexuales generados mediante inteligencia artificial. Esta reforma normativa surge como respuesta directa a la reciente crisis en la plataforma X (antes Twitter), donde el uso de herramientas de inteligencia artificial permitió la creación masiva de contenido sexualizado de mujeres y menores sin su consentimiento.
El origen de la medida proviene del factor Grok, el asistente de IA de la mencionada Red Social, la urgencia legislativa se intensificó tras los incidentes ocurridos entre diciembre y enero. Durante ese periodo, usuarios de X, propiedad de Elon Musk generaron millones de imágenes manipuladas, conocidas como «deepfakes» o «ultrafalsos», aprovechando las capacidades del asistente Grok. Según datos del Center for Countering Digital Hate, en solo once días se produjeron tres millones de estas imágenes, incluyendo más de 33.000 que involucraban a menores.
Ante este escenario, la propuesta impulsada inicialmente por España recibió un respaldo mayoritario. Países como Francia, Alemania, Irlanda y Bélgica, entre otros, se sumaron a la iniciativa en el Consejo Europeo para garantizar que la futura Ley de IA penalice estas prácticas de forma específica.
Nuevas restricciones y plazos
El acuerdo alcanzado por los embajadores europeos introduce una disposición clara: se prohíbe cualquier sistema capaz de generar, manipular o reproducir imágenes, vídeos o audios realistas que muestren partes íntimas o actividades sexuales sin el consentimiento expreso de la persona afectada. Esto incluye de forma prioritaria el material de abuso sexual infantil.
Además, el texto define un cronograma para la implementación de las normas de alto riesgo: 2 de diciembre de 2027: Para sistemas de IA de alto riesgo independientes. 2 de agosto de 2028: Para aquellos sistemas integrados en productos finales.
Hacia el “Ómnibus Digital”
Esta reforma se integra en el llamado “Ómnibus Digital”, un paquete legislativo presentado por el Ejecutivo comunitario en noviembre del 2025, que busca simplificar el marco normativo y reducir las cargas burocráticas para las empresas, sin sacrificar la seguridad de los ciudadanos.
Ahora, el texto pasará a la fase de trílogos (negociaciones entre el Consejo, la Comisión y el Parlamento Europeo), cuya mediación está prevista para principios de abril. El objetivo, según fuentes diplomáticas, es equilibrar la protección de los derechos fundamentales con el impulso a la competitividad y la innovación en Europa.
La respuesta de las plataformas
Aunque la polémica obligó a Elon Musk a restringir la creación de imágenes a usuarios de pago y a endurecer los filtros de Grok, el sistema sigue presentando lagunas. Si bien sus políticas actuales prohíben generar contenido sexual de personas reales, la ambigüedad en ciertos supuestos mantiene en alerta a los reguladores europeos, quienes buscan que la ley sea lo suficientemente sólida para evitar cualquier vacío legal en el futuro.
Es oportuno recordar que la polémica global, se agravó luego de que se descubriera que Grok, desarrollada por xAI, empresa de Musk, pudiera generar masiva de deepfakes sexuales sin consentimiento, incluyendo imágenes manipuladas de menores de edad, con un solo botón. El caso ha generado preocupación por la falta de controles efectivos en la tecnología y ha provocado investigaciones, bloqueos y debates regulatorios en distintas partes del mundo.
