Francia estudia sancionar los montajes sexuales creados con inteligencia artificial

Redacción El País
El desarrollo de la inteligencia artificial no solo está revolucionado el mercado laboral, también trajo serios desafíos para controlar los abusos en internet, como el acceso de los menores a páginas pornográficas, o la difusión de imágenes falsas creadas por esta nueva tecnología.

En Francia, los diputados comenzaron ayer miércoles el estudio de un proyecto de ley del Gobierno de Emmanuel Macron para el control del acceso de menores a páginas pornográficas.

En lo referente a los montajes sexuales, el Gobierno francés pretende acabar con el vacío jurídico que existe en la materia, ya que la actual ley no hace referencia expresa a la inteligencia artificial a la hora de sancionarlos.

Además de la difusión, la nueva ley también propone multas por la creación de este tipo de contenidos.

Los diputados, además, cuentan con crear una herramienta que permita verificar la edad de los internautas que intenten entrar en páginas pornográficas, al considerar que las actuales son insuficientes.

Desde hace años, algunas páginas web pornográficas, entre ellas las más populares del mundo, esperan una decisión judicial ante las denuncias presentadas por asociaciones de protección de menores sobre su falta de celo en la interrupción del acceso a menores.

El Gobierno pretende también poder bloquear a las web que no cumplan estas medidas sin necesidad de pasar por una decisión judicial o de imponerles sanciones que pueden llegar hasta el 2% de su facturación mundial.

El nuevo texto, bautizado como “ley de seguridad y regulación del espacio digital”, también busca combatir las páginas fraudulentas, aquellas que usurpan la identidad.

El proyecto incluye también medidas contra el cíberacoso, como el bloqueo digital de los acosadores, una medida que también puede aplicarse a otro tipo de discursos, como los que contengan apología del terrorismo o la corrupción de menores.

Recientemente se han dado casos de abusos en la web usando inteligencia artificial. Por ejemplo, en España decenas de menores de Extremadura denunciaron la circulación de fotos de falsos desnudos suyos creadas por inteligencia artificial.

La policía identificó a varios de los presuntos autores de los montajes fotográficos después de que familias del municipio de Almendralejo alertaran de que habían localizado imágenes en las que aparecían sus hijas adolescentes. Según informó el diario El País de Madrid, hay al menos 21 chicas afectas y 26 menores implicados. La Fiscalía, dijo ese diario, podrá investigar penalmente a 21 adolescentes, ya que son mayores de 14 años. Los otros cinco son inimputables.

En Argentina se dio un caso similar. Un estudiante de la Facultad de Arquitectura de la Universidad Nacional de San Juan, de 23 años, fue denunciado por sus compañeras por tomado fotos de las redes sociales de al menos 15 jóvenes, para luego “desnudarlas” borrando su ropa mediante el uso de inteligencia artificial (IA). El paso siguiente fue subir esas imágenes a un sitio web para adultos donde esas fotos se venden con precios en dólares.

El caso fue a parar a la Justicia de Faltas de San Juan, ya que los fiscales descartaron la comisión de un delito tipificado en el Código Penal. Pero la investigación tomó un rumbo inesperado después de que el Centro de Abordaje Integral de Niños, Niñas y Adolescentes Víctimas (ANIVI) de esa provincia presentara un informe en el que alertaba que el estudiante implicado tenía, además, material real de explotación sexual de chicas y chicos. Las víctimas eran menores de 13 años y él distribuía ese contenido en redes como WhatsApp. A mediados de septiembre, y tras un acuerdo entre la defensa y la fiscalía, se lo condenó por este último delito a tres años de prisión condicional, informó el diario La Nación.

“Esta historia ejemplifica una tendencia que crece a la par del avance de las nuevas tecnologías: el uso de la inteligencia artificial para producir fotos y videos falsos, pero hiperrealistas (conocidos como “deepfakes”) donde se utiliza el rostro de personas reales que son “desnudadas” e incluso en escenas sexuales. En ocasiones y a diferencia de lo ocurrido con las jóvenes sanjuaninas, que eran mayores de edad, el material que se produce puede ser de explotación sexual de niñas, niños y adolescentes”, destaca una nota de La Nación.