En octubre de 2023, un joven de 17 años en Súria (Cataluña) fue detenido por la Policía Nacional a causa de la producción, posesión y distribución masiva de pornografía infantil. El material consistía en más de 300 imágenes reales de menores, captadas desde su ventana, que habían sido retocadas mediante la IA.
En diciembre del mismo año, la Fiscalía de Menores de Barcelona investigaba a dos adolescentes por manipular imágenes reales de menores a través de la inteligencia artificial para convertirlas en contenidos sexuales.
En 2024, una escuela en Andorra se enfrentó a un caso similar con dos de sus estudiantes. Dos jóvenes que habían modificado imágenes de sus compañeros de clase para mostrarlos desnudos, y luego difundir el contenido por mensajes y redes sociales.
Por desgracia, podríamos seguir narrando casos y casos. ¿Qué está ocurriendo en la sociedad?
IA, ASI, ¿qué es?
Hoy en día, el avance de la IA es un tema que se encuentra en boca de todos. Normalmente pensamos en la IA como algo favorable, novedoso y facilitador de nuestras tareas. Por ejemplo, Chat GPT ha ayudado a todo tipo de personas que le solicitan hacer desde deberes escolares hasta complejas tareas profesionales. Sin embargo, esa es solo una cara de la gran complejidad de estas tecnologías. Los expertos han definido tres tipos de IA, y no todas son tan sencillas como Chat GPT.
ANI: Inteligencia Artificial débil. Son sistemas de IA programados para hacer una tarea específica, como puede ser un chatbot, búsquedas en internet, coches que se conducen solos, reconocimiento de voz o facial… También conocida como “IA estrecha”, se caracterizan por llevar a cabo su tarea, sin desarrollar capacidades de aprendizaje más allá de su área.
AGI: Inteligencia Artificial general. Son sistemas que sí poseen la capacidad de comprender una tarea nueva, aprender sobre ella y reproducirla. Esto implica un detalle muy importante: poseen la capacidad de hacer cualquier tarea que un ser humano pueda hacer, ya que no son programados para realizar una tarea, sino para aprender.Tienen un amplio rango de las habilidades cognitivas que tenemos los humanos, desarrollando la habilidad de adaptarse a nuevas situaciones y ampliar su conocimiento.Se podría decir que conseguir una AGI funcional es el objetivo final del campo de investigación en IA.
ASI: Inteligencia Artificial Superinteligente. Este tipo de IA comprende un gran debate en la comunidad científica actual, ya que se refiere a un nivel hipotético de la IA, aún no alcanzado por nuestra sociedad. Es una clase de IA capaz de superar a la mente humana en todos los aspectos, incluyendo nuestra creatividad, la resolución de problemas y comprensión de todo tipo de situaciones.
IA y pornografía: otro escenario delictivo del abuso sexual
Nuestra sociedad actual se mueve sobre todo en el nivel de la ANI. Los sistemas de IA, a pesar de ‘ponerse de moda’ ahora, llevan en nuestro día a día mucho tiempo, siendo su influencia casi ineludible: en los móviles, los GPS, las aplicaciones del clima, plataformas de música que conocen tus preferencias, las redes sociales con sus recomendaciones individualizadas… Sin embargo, hay dos tipos de opinión que se organizan en torno al tema: opiniones optimistas, a favor del avance tecnológico, y opiniones catastrofistas.
La pornografía forma parte de los argumentos para las segundas. Al igual que en los años 80 la pornografía no tenía nada que ver con la pornografía que se consume ahora; con el avance de la IA, la pornografía puede, de nuevo, alcanzar límites que ni imaginábamos (y en mucho menos tiempo que 40 años…).
“El año pasado, las empresas de tecnología informaron sobre más de 45 millones de fotografías y videos en línea de niños que sufrían abuso sexual, más del doble de lo que encontraron el año anterior” fue el titular de un artículo de The New York Times, publicado en 2019.
Cada vez son más los casos relacionados con el abuso sexual por la IA. “El horror al que nos enfrentamos es que ahora cualquiera puede sacar la imagen de un niño o niña de las redes sociales, de la página de una escuela o de un evento deportivo y aplicar un proceso que algunos denominan como ‘desnudamiento’”, según relató Michael Bourke para The New York Times, quien trabajó como psicólogo jefe del servicio de Alguaciles de EEUU. Solo se requiere dar una instrucción a la IA para generar vídeos e imágenes realistas de toda clase de abusos tanto infantiles como adultos.
Por ejemplo, los famosos también son de los más expuestos a este tipo de degradación. Imágenes falsas y sexualmente explícitas de Taylor Swift circulaban de forma masiva al inicio de 2024, según recogieron diversos periódicos. Estas imágenes se difundieron rápidamente a través de redes sociales, obteniendo millones de visitas antes de que se pudieran suspender.
Deshacer un daño que ya está hecho
En el caso de las imágenes de Taylor Swift, cuando una cuenta ha sido suspendida y sus publicaciones retiradas, las imágenes ya se han compartido en otras plataformas y redes sociales. Debido al carácter de las redes, impedir la difusión de este material se vuelve una misión imposible. ¿Cómo protegemos a las víctimas de una invasión como esta?
Además, muchos expertos alertan sobre la imposibilidad de distinguir entre imágenes generadas por la IA e imágenes reales, lo que dificulta identificar a una víctima real de una falsa. Este hecho dificulta las investigaciones realizadas por los cuerpos policiales, los cuales no cuentan con recursos suficientes para identificar estos delitos y proteger a los menores.
Según The New York Times: «Aunque solo hay unos pocos casos actuales que involucran material de abuso sexual infantil generado por IA, se espera que ese número crezca de manera exponencial y resalte preguntas novedosas y complejas sobre si las leyes federales y estatales existentes son adecuadas para procesar estos delitos”. ¿Está preparada nuestra sociedad para frenar este tipo de delitos?
Referencias:
https://www.linkedin.com/pulse/ani-agi-y-asi-el-futuro-de-la-ia-miguel-%C3%A1ngel-trabado/
Noticias:
https://www.nytimes.com/es/2024/02/01/espanol/inteligencia-artificial-abuso-infantil.html
https://www.nytimes.com/interactive/2019/09/28/us/child-sex-abuse.html
Imágenes falsas de Taylor Swift: https://www.nytimes.com/es/2024/01/26/espanol/taylor-swift-deepfake-imagenes-falsas.html
