UE busca prohibir IA que genere imágenes sexuales falsas
Nueva regulación pretende proteger a víctimas de deepfakes
La Unión Europea impulsa una propuesta para prohibir sistemas de inteligencia artificial capaces de generar imágenes sexuales falsas sin consentimiento, conocidas como deepfakes. La iniciativa fue presentada por varios países europeos y se discute dentro de la reforma de la legislación comunitaria sobre inteligencia artificial. El objetivo es frenar la difusión de contenido manipulado que afecta a personas reales, especialmente mujeres y menores, tras varios casos recientes de viralización de imágenes generadas con IA en redes sociales.
Las autoridades europeas buscan incluir esta prohibición dentro del marco de la Ley de Inteligencia Artificial de la UE, considerada la primera regulación integral sobre IA en el mundo. La propuesta plantea vetar modelos que permitan crear o manipular imágenes, videos o audios de carácter sexual utilizando la identidad de una persona sin autorización. Estas prácticas se han multiplicado con el avance de herramientas de generación automática de imágenes, que utilizan algoritmos de aprendizaje profundo para crear contenidos altamente realistas.
El debate legislativo surge tras la difusión masiva de imágenes manipuladas en plataformas digitales. Investigaciones citadas por autoridades europeas señalan que, en apenas once días, se generaron más de tres millones de imágenes sexualizadas con IA, incluidas decenas de miles que representaban a menores. Este fenómeno ha encendido alarmas sobre los riesgos de la tecnología para la privacidad, la reputación y la seguridad de las personas.
La propuesta será negociada en los próximos meses entre los Estados miembros y el Parlamento Europeo como parte de la actualización de la normativa sobre inteligencia artificial. Si se aprueba, las plataformas y desarrolladores que operen en la Unión Europea deberán implementar mecanismos técnicos para impedir la creación y difusión de este tipo de contenido manipulado.
About The Author
