Europa y un estado de Estados Unidos avanzaron contra las apps que crean desnudos falsos con IA

La Unión Europea alcanzó un acuerdo provisional para prohibir aplicaciones de inteligencia artificial capaces de generar desnudos falsos a partir de fotos reales. La medida apunta directamente contra las llamadas apps de nudificación, herramientas que permiten crear imágenes sexuales manipuladas sin consentimiento de las personas retratadas.

El convenio forma parte de modificaciones dentro de la Ley de Inteligencia Artificial europea y considera a este tipo de sistemas como tecnologías de “riesgo inaceptable”. Aunque todavía restan pasos formales para su aprobación definitiva, el acuerdo ya marca un endurecimiento regulatorio frente al crecimiento de los deepfakes sexuales.

La normativa busca combatir situaciones de acoso, extorsión, violencia sexual digital y difusión de contenido íntimo no consentido. Además, incluye medidas específicas vinculadas a la creación de imágenes de abuso sexual infantil generadas mediante inteligencia artificial.

Desde el Parlamento Europeo también adelantaron que habrá nuevas obligaciones para identificar contenido creado con IA mediante marcas de agua digitales a partir de diciembre de 2026. La intención es facilitar la detección de imágenes manipuladas y limitar la circulación de material falso.

Mientras tanto, en Estados Unidos, el estado de Minnesota aprobó una ley pionera que no solo castiga a quienes difunden imágenes sexuales falsas, sino también a las plataformas y aplicaciones que permiten generarlas.

La norma, impulsada con apoyo bipartidista y firmada por el gobernador Tim Walz, contempla sanciones que pueden llegar hasta los 500 mil dólares por cada uso indebido de estas herramientas.

El enfoque marca una diferencia importante respecto a regulaciones anteriores. En lugar de actuar solamente después de que el contenido ya circuló, las nuevas leyes buscan impedir directamente la disponibilidad de tecnologías diseñadas para producir este tipo de material.

El debate se aceleró en distintos países luego de la expansión de aplicaciones que permiten “desnudar” personas con apenas una fotografía extraída de redes sociales o mensajes privados. La facilidad de acceso y la velocidad de generación transformaron el problema en una preocupación creciente para organismos judiciales y autoridades regulatorias.

Las nuevas regulaciones también aumentan la presión sobre empresas tecnológicas y desarrolladores de inteligencia artificial, que ahora deberán reforzar controles, filtros y sistemas de seguridad para evitar el uso indebido de sus plataformas.