El avance de la inteligencia artificial vuelve a encender las alarmas sobre el uso indebido de esta tecnología. Una investigación realizada por especialistas en seguridad digital detectó que varias herramientas de edición de imágenes son capaces de generar desnudos falsos de mujeres e incluso de personas que aparentan ser menores de edad a partir de una simple instrucción escrita.

El informe expone las limitaciones de algunos sistemas de control implementados en plataformas de inteligencia artificial y advierte sobre los riesgos que estas aplicaciones representan para la privacidad, el consentimiento y la seguridad digital.

El estudio fue desarrollado por la organización europea AI Forensics, dedicada al análisis de los riesgos asociados al desarrollo de la inteligencia artificial. Los investigadores evaluaron nueve de las aplicaciones de edición de imágenes más utilizadas dentro de la plataforma Hugging Face, un sitio ampliamente utilizado para compartir, probar y desarrollar modelos de IA.

Publicidad

Durante las pruebas, utilizaron una fotografía generada por inteligencia artificial de una mujer completamente vestida y solicitaron modificar la imagen para eliminar la ropa manteniendo intactos el rostro y la postura.

El resultado fue contundente: siete de las nueve aplicaciones analizadas respondieron positivamente al pedido sin necesidad de utilizar técnicas para evadir los sistemas de seguridad.

Un problema que también afecta a menores

La investigación también identificó solicitudes destinadas a sexualizar imágenes de personas que aparentaban ser menores de edad, una situación que incrementa la preocupación sobre el uso indebido de estas herramientas.

Los especialistas aclararon que muchas de las aplicaciones analizadas no fueron creadas específicamente para generar desnudos falsos, sino que se presentan como editores de imágenes de uso general. Sin embargo, esa misma capacidad de edición puede ser utilizada para fabricar contenido íntimo falso sin autorización de las personas retratadas.

Para conocer cómo utilizan estas aplicaciones los usuarios, AI Forensics desarrolló varios espacios experimentales dentro de la plataforma que registraban las solicitudes recibidas sin generar las imágenes solicitadas. En solo siete días recopilaron más de 1.000 pedidos.

Los datos revelaron que:

El 73% de las solicitudes tenía contenido sexual.

Dentro de ese grupo, el 83% buscaba desnudar o sexualizar a la persona de la fotografía.

El 95% de los objetivos eran mujeres.

Un 6,7% correspondía a imágenes de personas que aparentaban ser menores de edad.

Los resultados evidencian una demanda concreta de este tipo de contenido y muestran cómo algunas aplicaciones disponibles pueden responder a esos pedidos sin controles suficientes.

Qué dice la plataforma

Las normas de uso de Hugging Face prohíben expresamente la generación de contenido sexual sin consentimiento, así como cualquier representación íntima que involucre a menores de edad.

La empresa contempla distintas medidas frente a este tipo de infracciones, entre ellas:

Bloquear aplicaciones o repositorios. Limitar su visibilidad. Restringir determinadas funciones. Suspender cuentas de usuarios o desarrolladores.

No obstante, el informe sostiene que gran parte de la responsabilidad sobre los filtros de seguridad recae actualmente en cada desarrollador, lo que genera diferencias importantes entre unas aplicaciones y otras.

Como conclusión, AI Forensics recomendó implementar sistemas de protección comunes para todas las herramientas de edición de imágenes. Entre las medidas propuestas figuran la incorporación de filtros capaces de analizar las instrucciones antes de que sean procesadas por los modelos de inteligencia artificial y mecanismos automáticos para detectar y bloquear imágenes íntimas generadas sin consentimiento antes de que lleguen al usuario.

La expansión de las herramientas de IA generativa abrió nuevas posibilidades para la creación de imágenes y contenidos digitales, pero también planteó desafíos cada vez más complejos en materia de privacidad, seguridad y derechos de las personas.

Especialistas coinciden en que el desarrollo tecnológico deberá avanzar acompañado de controles más estrictos y mecanismos eficaces que impidan el uso de estas aplicaciones para crear material falso que pueda afectar la integridad, la reputación o la intimidad de terceros.