Las comunidades educativas de los colegios Nacional Buenos Aires y Carlos Pellegrini, dependientes de la UBA, se vieron conmocionadas porque se supo que alumnos de ambas instituciones circularon y hasta comercializaron imágenes de sus compañeras, intervenidas con inteligencia artificial (IA) para mostrarlas desnudas. En las instituciones se activaron los protocolos de violencia de género y el tema ya está en la Justicia, aunque se enfrenta a un vacío legal que genera incertidumbre.
No es la primera vez que pasa, y lamentablemente no será la última. Hay antecedentes tanto en Argentina como en otras partes del mundo, ante un fenómeno que se vuelve cada vez más frecuente. La alteración de imágenes reales a través de IA es un tipo de deepfake, utilizado en este caso como una modalidad más de violencia de género.
La mayor parte de los alumnos involucrados cursan segundo año y tienen alrededor de 14. Pusieron en circulación con la intención de comercializar fotos falseadas de sus compañeras, mostrándolas con rostros reales y cuerpos desnudados con IA. Según trascendió, tras el escándalo que generó la difusión de la noticia apareció escrito en un pupitre: “Ustedes nos pueden delatar, pero no vamos a parar de desnudarlas y venderlas”.
Un vacío legal
“Nosotros constantemente estamos recibiendo este tipo de denuncias”, dijo la fiscal Daniela Dupuy, a cargo de la Unidad Fiscal Especializada en Delitos y Contravenciones Informáticas (UFEDyCI). Según consignó Infobae, por el momento se busca determinar el encuadramiento legal de los casos que vulneran la privacidad y la integridad moral y sexual de las jóvenes.
“Lo que hacen los adolescentes es utilizar un software o un app de inteligencia artificial que desnuda las fotos que ya tienen de sus compañeras. Entonces, percibimos una nena, un adolescente con una cara real, pero su cuerpo está desnudo”, explicó Dupuy en diálogo con Radio Mitre.
“Debemos impulsar a los legisladores a que de una buena vez lo incorporen en sus legislaciones penales”, planteó la funcionaria judicial. “Esto afecta el bien jurídico protegido, que es la libertad en el desarrollo de la sexualidad. En este caso concreto, y esto bajo mi punto de vista, cuando hay una creación parcial de inteligencia artificial, y un cuerpo que se lleva al desnudo, el delito se consuma”, consideró.
Fotos, cuerpos, precios
Todo comenzó a fines de junio, cuando alumnas de segundo año de la Escuela Superior de Comercio Carlos Pellegrini vieron un archivo de Drive con sus nombres, fotos y el valor con el que sus compañeros las comercializaban. En las imágenes estaban sus caras, con cuerpos hechos con IA. O imágenes ‘desnudadas’ en fotos sacadas sin consentimiento de sus redes sociales.
Luego supieron que había alumnos del Colegio Nacional de Buenos Aires involucrados. Y algunas versiones apuntaban también a otras escuelas. El escándalo se dio primero dentro de las instituciones, donde las víctimas no querían compartir aulas con los varones denunciados.
El conflicto está lejos de resolverse. Los protocolos de violencia de género están en marcha para contener a las víctimas y definir cómo seguir, pero el tema sigue su curso también en la justicia, ante un vacío legal que vuelve aún más complejo el caso.
Una respuesta: la Guía Ema
Laura Sánchez es la mamá de Ema Bondaruk, una adolescente que se suicidó tras la difusión de imágenes de su intimidad. A partir del dolor, Sánchez milita para que nadie más viva lo que atravesó su familia.
Tras la difusión de los casos recientes en escuelas secundarias, dijo a Página 12: “Es doloroso y pone a la vista que la violencia digital de género dejó de ser una problemática emergente para convertirse en urgente”.
Su lucha dio lugar a la elaboración de la Guía Ema, especialmente diseñada para abordar la violencia digital en las escuelas. Desde ese lugar, opinó que en las comunidades afectadas por los deepfakes es necesario “pensar en un convenio de corresponsabilidad digital firmado por estudiantes, institución y familias”, con un trabajo que involucre a todos los actores, no solo a víctimas y victimarios: “El problema no son sólo los chicos que difundieron, es la cultura que lo habilita”.
