Desnudar mujeres con las nuevas herramientas de Inteligencia Artificial puede ser muy sencillo pero pedirle a la IA que lo haga puede constituir un delito.
La última polémica ha llegado de la mano de Grok, la IA de la red social X propiedad de Elon Musk. Miles de usuarios comenzaron a usar a la plataforma para que desnude imágenes de mujeres, a veces menores, famosas o anónimas. Y la IA lo hacía y se publicaba, provocando la indignación generalizada, lo que terminó provocando que X decidiera limitar la edición de imágenes a usuarios de pago, algo que tampoco ha terminado de convencer.
Además, Grok también comenzó a capar algunas peticiones indiscretas, pero era fácilmente evitable ya que algunos usuarios podían seguir haciendo lo mismo simplemente evitando ciertas palabras clave y usando alternativas para conseguir el mismo resultado: mujeres desnudas.
Pero este problema no es únicamente una cuestión estética o ética, aquí entran en juego derechos protegidos en el Código Penal y en reglamentos internacionales. Algunos expertos hablan de "violencia sexual digital" y ponen como ejemplo lo que ocurrió en Almendralejo, en 2023, cuando unos menores utilizaron una app para quitarle la ropa a compañeras de instituto. En aquel caso ya hubo condenas penales.
Y es que Grok es una tecnología muy potente, con muy pocos filtros y una difusión inmediata. Pero hay que recordar que el Reglamento Europeo de IA obliga a estos proveedores, en el artículo 53, a estudiar riesgos, mitigarlos y documentarlos. Además, el artículo 50 obliga a alertar cuando una imagen puede confundirse con la realidad. Y en Grok, según los expertos, eso no pasa.
Datos sensibles
En España, la normativa permite activar el Canal Prioritario de la AEPD para retirar este contenido de forma urgente, ya que se les considera datos sensibles. Es el camino más rápido para frenar el daño.Si encima la imagen utilizada es de una menor, de acuerdo con los expertos, puede perseguirse como pornografía infantil.
Ya estaban los casos de una ex pareja que busca venganza colgando una foto de ese tipo y ahí ya había penas de cárcel o indemnizaciones muy elevadas. Ya que se trata de "derechos fundamentales". Hay que recordar que, de acuerdo con un estudio de CopyLeaks, Grok habría creado una imagen no consentida de carácter sexual al menos una vez por minuto. Y otro informe de AI Forensics afirma que, observando tan solo el comportamiento a lo largo de una semana, podía encontrarse que la mitad de las imágenes generadas eran de personas con poca ropa, de las que más del 80% eran mujeres.
Si (
No(
