Semanas atrás, Amnistía Internacional publicó un informe crítico sobre los riesgos asociados a la extracción y procesamiento masivo de datos para el desarrollo y entrenamiento de la inteligencia artificial generativa. El documento (titulado «Unlawful by design: Exposing the human rights costs of generative AI«), problematiza en torno a la información que cualquier usuario utiliza a diario.
Además de la violación del derecho a la privacidad, el texto remarcó las consecuencias negativas para las comunidades históricamente marginadas, sobre las cuales caen, en un círculo vicioso, los prejuicios y sesgos que ya están inscriptos en los materiales que se usaron para «alimentar» a la IA.
Dos desarrollos hechos en la Argentina buscan poner frenos a esas perspectivas.
Uno es ArvageIA, que “funciona como un dispositivo de contranarrativa”, señala Rita Custet, jueza del Tribunal de Impugnación Penal de Río Negro.
Lanzada en 2023, ArvageIA es una herramienta diseñada para el análisis crítico de la argumentación legal desde la perspectiva de género. Es de acceso gratuito y utilizada por operadores judiciales y litigantes a la hora de analizar un documento legal.
Una vez que se carga la información, la herramienta hace señalamientos para inducir a la reflexión en materia de género, clase y discapacidad. La operatoria se dispone a través de tres matrices principales: evalúa el uso del decálogo de argumentación con perspectiva de género, analiza la valoración probatoria conforme a los estándares de la Corte Interamericana de DD HH, y por último examina el tipo de razonamiento jurídico, promoviendo enfoques contrahegemónicos, reparadores y pedagógicos.
“Por ejemplo, cuando uno juzga con perspectiva de género, tiene que tener muy en cuenta el contexto”, explica Custet y continúa: “Si hay omisiones de elementos relevantes del contexto, la herramienta lo detecta. Si se omite el estado de ebriedad de una víctima de abuso sexual y se considera que hay consentimiento, la herramienta va a marcar que ese es un elemento a considerar o revisar”.
Mailén García, socióloga y Mg. en Derechos Humanos y Democratización en América Latina y el Caribe por la UNSAM, es directora General y cofundadora de Data Género. Esta organización de la sociedad civil se propone revisar y mejorar procesos de trabajo con datos, con la finalidad de que sean más inclusivos y representativos de las personas. También apunta a generar tecnología afín a este objetivo. Así, en alianza con el Juzgado Penal, Contravencional y de Faltas N°10 de la Ciudad de Buenos Aires, desarrollaron AymurAI, una herramienta que utiliza inteligencia artificial para procesar, organizar y anonimizar todo tipo de documentos judiciales, incluyendo sentencias y documentos sensibles.
“AymurAI surgió con la necesidad de crear una respuesta a un problema muy concreto: el Poder Judiciales el que menos información pública disponible tiene. La explicación es que se maneja información sensible y la necesidad de anonimizarlos”.
AymurAI tiene cuatro pasos: selección de archivos, procesamiento con inteligencia artificial, etapa de validación humana y el envío al set de datos. Hoy la herramienta ya es utilizada en más de 15 instituciones, contabilizando entre tribunales superiores, juzgados penales y ministerios públicos de Argentina y América Latina.
