Alrededor de 20 madres de un pueblo llamado Almendralejo, en España, denunciaron ante la Policía Nacional que circulan imágenes de sus hijas falsas creadas con inteligencia artificial. En las imágenes, las menores aparecen desnudas.
El caso es bastante representativo de los peligros del uso de los deepfakes. Las denuncias apuntan contra un grupo de adolescentes que, a través de una aplicación, usó imágenes de las menores y generó fotos de ellas como si estuvieran desnudas. Hay decenas de niñas de Almendralejo y alrededores afectadas.
Según explica EFE Extremadura, la Policía Nacional ya tomó declaración a siete posibles víctimas de esta práctica del «desnudo» realizado con inteligencia artificial. Al mismo tiempo explican que ya se identificó a varios menores supuestamente implicados. De confirmarse su autoría, podrían enfrentarse a un grave delito. El Código Penal castiga con hasta dos años de cárcel estas prácticas.
Falsos desnudos en Almendralejo: el testimonio de la madre de una de las menores afectadas
«Es tan realista que lo primero que he pensado al verlo ha sido ‘qué has hecho'», explica una de las madres que denunciaron la situación. Con los avances en inteligencia artificial es muy sencillo generar estas imágenes de forma realista, lo que no quita que sea un grave ataque contra la intimidad de estas menores.
Sobre el origen de estas imágenes, explican que nace de un grupo de adolescentes de varios colegios: «Lo ven como una gracia y mucha gente de esas edades lo ha estado compartiendo». Según apunta El País, alguno de estos menores ha llegado a solicitar dinero a una de las menores afectadas.
Penas de hasta dos años de cárcel
Según explica Borja Adsuara, profesor y abogado en Derecho Digital «en España los delitos nunca se regulan por la tecnología, sino lo que se hace con ella, en base a la intención con que se hacen y el resultado». Es decir, no importa si las imágenes son generadas por IA, por Photoshop o por cualquier otro método. Lo que deriva en un delito es el uso que se hace y el resultado.
El actual Código Penal castiga estas prácticas del «uso indebido» de los datos personales y sin consentimiento de la imagen de una persona. Según expone el artículo 173, se aplican penas de seis meses a dos años a quien inflija a otro un trato degradante, menoscabando gravemente su integridad moral.
«En cuanto a los posibles delitos cometido, pueden ser varios: además de contra la integridad moral, también puede ser un delito de pseudo-pornografía infantil (art. 189.1 CP) que está penado con hasta 9 años de cárcel, si las víctimas son menores de 16 años. La cuestión es que, como los autores son menores de edad, aunque mayores de 14 años, no ingresarían en la cárcel, sino en un Centro de Menores», apunta Adsuara.
Algunos de los autores de los falsos desnudos de menores en Almendralejo no son imputables
Los menores identificados como presuntos autores de los falsos desnudos creados con inteligencia artificial en Almendralejo tienen entre 12 y 14 años y «a priori todo apunta a que son del entorno de las víctimas», según la Policía.
El jefe del Grupo de Protección al Menor de la Unidad Central de Ciberdelincuencia, Javier Izquierdo, informe que se registraron 22 denuncias presentadas por los padres de las víctimas, que tienen la misma edad que los presuntos autores.
Algunos de los menores identificados tienen «los 14 años cumplidos, por lo que serían imputables conforme a la Ley Penal del Menor», señaló Izquierdo. También recordó que la creación de desnudos con inteligencia artificial es «algo que recoge el Código Penal y, a pesar de que sean imágenes manipuladas, si son realistas se considera pornografía infantil».
A los menores no imputables «no se les aplica la Ley del Menor, por tanto es decisión de la Fiscalía» su destino, mientras que «a los que sean imputables les sería de aplicación la Ley Penal del Menor».
Si los autores fueran mayores de edad, «las penas por producción de pornografía infantil van de 2 a 5 años» de prisión, y si las víctimas son menores de 16 años «la pena se agrava de 5 a 9 años», ha precisado.