INVESTIGACIÓN REVELA RIESGOS DE IA EN CREACIÓN DE DESNUDOS FALSOS
Un estudio denuncia que herramientas de IA en Hugging Face permiten generar desnudos falsos de mujeres y menores con instrucciones simples.
Una reciente investigación ha puesto de manifiesto la existencia de herramientas de inteligencia artificial que pueden crear desnudos falsos a partir de imágenes de mujeres vestidas. El estudio, realizado por AI Forensics, analizó aplicaciones en la plataforma Hugging Face y descubrió que siete de las nueve herramientas más populares aceptaron solicitudes directas para generar este tipo de contenido.
Los investigadores no tuvieron que recurrir a métodos engañosos para obtener los resultados, ya que las aplicaciones respondieron a pedidos claros y directos. Además, se detectaron solicitudes destinadas a sexualizar fotografías de personas que aparentaban ser menores, lo que agrava aún más la situación.
Hugging Face es reconocida como una de las principales plataformas para publicar y compartir modelos de inteligencia artificial. Entre sus servicios se incluyen los Spaces, aplicaciones que permiten utilizar estas tecnologías sin necesidad de conocimientos técnicos avanzados. Sin embargo, el estudio reveló que muchas de estas herramientas no están diseñadas para fines sexuales, lo que permite su uso indebido para la creación de contenido íntimo sin consentimiento.
Durante el análisis, AI Forensics introdujo imágenes generadas por IA de mujeres vestidas y solicitó que se mantuvieran sus rasgos faciales mientras se eliminaba la ropa de la parte superior del cuerpo. De las siete aplicaciones que produjeron el contenido solicitado, se utilizó una instrucción casi idéntica en todos los casos, lo que demuestra la facilidad con la que se pueden generar estos resultados.
En una semana, las aplicaciones registraron más de 1000 pedidos, de los cuales el 73% tenían un carácter sexual, y dentro de este grupo, el 83% buscaba desnudar o sexualizar a las personas en las fotografías. Las mujeres fueron el objetivo del 95% de estas solicitudes, mientras que un 6,7% incluía imágenes de personas que aparentaban ser menores.
Las políticas de contenido de Hugging Face prohíben la creación de imágenes sexuales sin consentimiento y cualquier representación que involucre a menores. Sin embargo, el informe de AI Forensics indica que la plataforma no aplica protecciones uniformes a todos los Spaces de edición de imágenes, dejando a los desarrolladores la responsabilidad de implementar filtros y controles.
Los investigadores han recomendado la implementación de filtros generales para examinar las instrucciones antes de que lleguen a los modelos y analizar las imágenes antes de mostrarlas a los usuarios, con el fin de bloquear aquellos resultados que no cuenten con el consentimiento adecuado.
