Lo que necesitas saber:
Las plataformas de IA no permiten el contenido sexual pero los usuarios han encontrado lagunas en los softwares de código abierto y otras herramientas sencillas de usar para hacer pornografía realista con Inteligencia Artificial.
La Inteligencia Artificial ha crecido en los últimos años para hacer maravillas como cuidar nuestra salud bucal, detectar ataques al corazón, detectar cáncer de mama a tiempo y hasta terminar una última canción de The Beatles.
Pero no todo es risas y diversión, el lado oscuro de la IA sirve como herramienta para fomentar acciones no tan correctas como predecir si una pareja será infiel o averiguar contraseñas sólo con los sonidos del teclado. ¿Hasta dónde llega ese poder?
Inteligencia Artificial contra las mujeres
Este año el FBI advirtió sobre una nueva forma de extorsión usando fotos íntimas generadas con Inteligencia Artificial. Por ahí va la cosa. La Inteligencia Artificial generativa está siendo clave para aumentar la violencia sexual digital contra las mujeres.
¿Y eso qué significa? El Frente Nacional para la Sororidad y Defensoras Digitales define la violencia sexual digital como:
“Toda acción dolosa realizada mediante el uso de tecnologías de la información (…) por la que se exponga, distribuya, difunda (…) imágenes, audios, videos reales o simulados de contenido íntimo sexual de una persona sin su consentimiento (…)”.
La Inteligencia Artificial generativa permite la creación de deepfakes —imágenes o videos falsos que parecen muy reales— usando softwares que toman un video existente y reemplazan el rostro de la persona, incluso copian las expresiones faciales más comunes.
Así es más fácil usar la Inteligencia Artificial para generar contenido sexualmente explícito de cualquier persona. ¿Cualquiera? Según Sensity AI, el 99% de los deepfakes sexuales son de mujeres que no consintieron este material.
¿Qué tan grave es la situación?
Genevieve Oh —plataforma de análisis de IA— reveló que los 10 principales sitios web de porno generado con Inteligencia Artificial aumentaron su contenido en un 290% desde el 2018. Este año, han cargado más de 415 mil imágenes y 143 mil videos sexuales generados con IA.
¿Lo peor? El número de gente que consume deepfakes sexuales. Uno de los sitios web más populares recibe 17 millones de visitas al mes, según NBC News. El mismo medio descubrió también que, por sólo $5 dólares al mes, los creadores de deepfakes venden accesos a bibliotecas repletas de contenido no autorizado.
Generalmente estos videos o imágenes sexuales mostraban a gente famosa. Actualmente, los creadores ofrecen deepfakes sexuales de la persona que quieras por una módica cantidad de dinero.
¿Cuáles son las consecuencias? Kristen Zaleski, directora de salud mental forense de la Clínica de Derechos Humanos de la Universidad del Sur de California menciona:
“Que las personas vean imágenes explícitas tuyas sin tu consentimiento, ya sean reales o falsas, es una forma de violencia sexual. Las víctimas a menudo se enfrentan a juicios y confusión por parte de sus empleadores y comunidades”.
¿Cómo protegernos?
Un portavoz de Google, en entrevista con NBC News, dijo que cualquier persona puede solicitar que eliminen el contenido de dicho motor de búsqueda AQUÍ. Actualmente, Estados Unidos emitió una orden ejecutiva para regular el uso de la Inteligencia Artificial.
Sin embargo, el tema del contenido sexual generado con IA sin consentimiento brilla por su ausencia. De acuerdo con Silvia Navarrete, una periodista mexicana, aún no hay preparación internacional para atender estos casos.
Se publican leyes nuevas sin unidades especializadas ni protocolos a seguir. Por lo tanto, no avanza la investigación y el agresor queda libre, menciona Leslie Jiménez, coordinadora de Proyectos en Impunidad Cero México.
AQUÍ te decimos cómo identificar deepfakes y desinformación creada con Inteligencia Artificial.
