En un caso que marca un precedente histórico en España, la Agencia Española de Protección de Datos (AEPD) ha impuesto por primera vez una sanción administrativa relacionada con la creación y difusión de imágenes falsas generadas con inteligencia artificial. Los padres de un menor deberán pagar una multa de 1.200 euros, cantidad que originalmente era de 2.000 euros pero que fue reducida por pronto pago y asunción de responsabilidad. Este caso nos recuerda los graves riesgos que representan los ‘deepfakes’ sexuales y establece un importante precedente en la protección de datos de menores no solo en España, sino en toda Europa.
La situación se remonta a 2023 en Almendralejo, provincia de Badajoz, cuando varias alumnas denunciaron que circulaban por los teléfonos móviles del instituto fotografías manipuladas en las que aparecían desnudas. Las imágenes fueron creadas utilizando la aplicación ClothOff, una herramienta que combina rostros reales con cuerpos desnudos generados por inteligencia artificial, teniendo en cuenta rasgos físicos como complexión y tono de piel para hacer los montajes más convincentes. Lo más preocupante es que algunas de estas imágenes falsas llegaron incluso a plataformas de contenido adulto como OnlyFans, amplificando el daño causado a las víctimas. Este no es un caso aislado, ya que existe una denuncia similar de una menor estadounidense de 17 años cuyos compañeros de instituto utilizaron la misma aplicación para crear y compartir imágenes íntimas falsas, lo que derivó en acoso escolar.
La AEPD actuó con rapidez, abriendo expediente apenas dos días después de que el caso saltara a los medios de comunicación. La institución pudo identificar a los responsables gracias a la colaboración con la Fiscalía y subrayó que ‘la imagen de una persona es un dato personal con protección reforzada cuando se trata de menores’. Esta sanción administrativa se suma a las medidas judiciales que ya habían sido impuestas por vía penal, donde los menores implicados, de entre 12 y 14 años, recibieron un año de libertad vigilada y cursos formativos. Según Miriam Al Adib, madre de una de las víctimas y divulgadora en educación sexual, ‘la sentencia fue ejemplar: los niños cumplieron un año de libertad vigilada y realizaron un curso de formación para concienciarse sobre el daño que provocaron’.
Este caso abre un importante debate sobre la regulación de la inteligencia artificial y la protección de menores en la era digital. Por un lado, expertos como Jorge García Herrero, abogado y delegado de protección de datos, afirman que ‘muy pocos riesgos relacionados con la IA provocan tanta alarma social como la creación de deepfakes sexuales no consentidos de menores’ y consideran que sanciones ejemplarizantes son necesarias. Por otro lado, voces como Borja Adsuara cuestionan si la vía administrativa añade algo significativo cuando ya existe condena penal. Lo que queda claro es que necesitamos urgentemente mayor educación digital, concienciación sobre el uso responsable de la tecnología y marcos legales que protejan a los más vulnerables en este nuevo panorama tecnológico que avanza más rápido que nuestra capacidad para regularlo.
