Grok vuelve a generar imágenes sexuales falsas de mujeres y menores pese a las restricciones

A pesar de las restricciones anunciadas por X a comienzos de año, su herramienta de inteligencia artificial Grok continúa siendo utilizada para crear imágenes sexuales falsas de mujeres, adolescentes e incluso niños, a partir de fotografías reales tomadas de redes sociales.

El problema generó nuevas denuncias y volvió a encender el debate sobre los límites de la inteligencia artificial. En Estados Unidos, tres adolescentes demandaron a la empresa xAI, propiedad de Elon Musk, al asegurar que el sistema generó contenido sexual explícito utilizando fotos que ellos mismos habían publicado en internet.

Desde la compañía afirmaron que en enero se habían implementado medidas de seguridad para evitar este tipo de manipulaciones. Entre ellas, la restricción de herramientas que permitían modificar imágenes de personas reales o generar desnudos artificiales.

Sin embargo, muchos usuarios logran eludir esos controles mediante instrucciones específicas, conocidas como prompts, que engañan al sistema. De esa forma, pueden alterar fotografías para simular ropa más reveladora o directamente generar escenas sexuales ficticias.

Durante un streaming reciente, la actriz e influencer argentina Juliana Savioli relató cómo este tipo de manipulación afecta a las víctimas. “Me sacan el corpiño y la bombacha con inteligencia artificial y hacen videos. Incluso me mandan mensajes violentos”, contó al explicar cómo se viralizan imágenes falsas creadas con sus fotos.

Especialistas en ciudadanía digital advierten que los deepfakes pornográficos se están convirtiendo en una forma creciente de acoso, humillación y violencia sexual digital.

La psicóloga Candela Yachte, fundadora de la organización Bellamente, junto con referentes de la ONG Faro Digital y activistas como Agus Cabaleiro (Online Mami), alertaron sobre el impacto que este fenómeno puede tener especialmente en adolescentes.

Un análisis de la ONG europea AI Forensics reveló que, en una muestra de 20.000 imágenes generadas por Grok, más de la mitad representaban a personas con poca ropa. De ese grupo, el 81 por ciento eran mujeres y cerca del 2 por ciento parecían menores de edad.

El problema no se limita a una sola plataforma. Según organismos internacionales, distintas herramientas de inteligencia artificial permiten generar deepfakes pornográficos, una práctica que preocupa por su vínculo con redes de explotación sexual digital.

Datos de Unicef señalan que 1,2 millones de niños y niñas en el mundo han sido víctimas de deepfakes, mientras que la Internet Watch Foundation registró un crecimiento del 360 por ciento en la generación de este tipo de imágenes entre 2020 y 2022.

Según Lucía Fainboim, especialista en ciudadanía digital, este tipo de contenido puede encuadrarse como difusión no consentida de material íntimo o incluso explotación sexual infantil, dependiendo de las características del caso.

El impacto psicológico también preocupa. Paula Wachter, directora de la Red por la Infancia, advirtió que la viralización de imágenes sexualizadas puede generar crisis de angustia, autolesiones e incluso intentos de suicidio en niños y adolescentes.

En Argentina, la Ley Olimpia (27.736) reconoce la violencia digital contra las mujeres, aunque el uso de inteligencia artificial para crear pornografía falsa todavía no está tipificado de forma específica en el Código Penal.

Ante estos casos, especialistas recomiendan no borrar las pruebas digitales y realizar denuncias ante fiscalías o unidades especializadas en ciberdelitos, mientras continúa el debate global sobre la necesidad de regular las herramientas de inteligencia artificial y exigir mayores controles a las plataformas.