Nuevas tecnologías y pornografía: la redimensión de la violencia sexual contra las mujeres a través de la tecnología deepfake. - Bello San Juan, Patricia (My University, 2023)
Una de las muestras de la interacción entre las nuevas tecnologías y criminalidad que mayor interés despiertan actualmente es el empleo de la IA con fines delictivos. Concretamente, la tecnología deepfake presenta un importante potencial lesivo tanto para la sociedad como para los sujetos individuales. Estos sistemas, surgidos como desarrollo de los mecanismos de deep learning, consisten en la manipulación de archivos de imagen, audio o video con el objetivo de hacerlos parecer reales. No obstante, los daños infligidos a los sujetos individuales por el empleo de las tecnologías deepfake presenta una afectación directa sobre la dignidad, amén de las lesiones emocionales o las reputacionales derivadas de la publicación de fakenews o de conductas imbricadas en el fenómeno “fraude del CEO”. Esta aplicación de la IA cristaliza habitualmente en la elaboración de contenido pornográfico, donde las mujeres son las perjudicadas por estas conductas. Así, varios informes revelan que el 96% del contenido deepfake que circula en la red es pornográfico, y, de ellos, en el 99% aparecen mujeres. La evolución en el desarrollo de estos sistemas también influye sobre los sujetos afectados, ya que, durante los primeros estadios de desarrollo de estas herramientas, eran las personalidades famosas las que protagonizaban este contenido al brindar un mayor número de material sobre el que trabajar. Sin embargo, el uso generalizado de estas tecnologías ha permitido ampliar el ámbito de afectación del deepfake a todo tipo de sujetos. Por consiguiente, asistimos a una reformulación de las conductas delictivas en las que el deepfake interviene como medio comisivo, implicaciones que precisan de un abordaje pormenorizado en términos criminológicos y político-criminales.
Keywords: Delitos sexuales - Efectos de las innovaciones tecnológicas; Delitos informáticos - Aspectos sociales; Deepfake; Criminalidad; Violencia de género