Gemelo Digital Social: “Argentina no está preparada y este anuncio conlleva riesgos”

El Gobierno nacional anunció días atrás el denominado proyecto Gemelo Digital Social, una iniciativa impulsada desde el Ministerio de Capital Humano que, en palabras de La Libertad Avanza, buscaría utilizar inteligencia artificial conjugándola con las bases de datos públicas para “optimizar” las políticas sociales y predecir los comportamientos de los ciudadanos. El tema generó cuestionamientos de especialistas y opositores por el uso de datos personales y la incógnita de qué empresas están detrás. Tiempo consultó a la abogada Betania Allo, especializada en la temática, quien resumió que estamos muy lejos de poder conducir hoy un proceso de esta magnitud con seriedad. 

Allo -divulgadora en Ciberseguridad e Inteligencia Artificial– aclaró que la información disponible por el momento es insuficiente: “No se conoce aún la arquitectura técnica, el proveedor, el presupuesto, el cronograma operativo ni la base legal específica del proyecto”. Teniendo en cuenta que el desarrollo se encuentra en una etapa preliminar, la especialista admitió que llevará adelante “un análisis de las condiciones de legitimidad bajo las cuales un sistema de estas características debería desarrollarse”.

–¿Conlleva riesgos serios este tipo de iniciativas?

–Sí, y conviene separarlos en tres capas distintas porque mezclarlas debilita el análisis.

Riesgo técnico: Un gemelo digital aplicado a fenómenos sociales no es equivalente a uno aplicado a infraestructura urbana. Una estación de tren tiene física conocida; la pobreza, la empleabilidad y el desarrollo de capacidades humanas tienen causalidad disputada incluso entre los economistas más rigurosos. Cuando un modelo predictivo se entrena sobre datos administrativos históricos, que es lo único que el Estado tiene disponible, codifica los sesgos del Estado pasado como si fueran leyes naturales del comportamiento social.

Riesgo de gobernanza: El comunicado oficial describe cuatro dimensiones del sistema, incluida una prescriptiva orientada a optimizar decisiones. Un sistema descriptivo informa; uno prescriptivo recomienda accionar. Cuando un funcionario público recibe una recomendación algorítmica, la evidencia empírica muestra dos patrones recurrentes: la sigue acríticamente, lo que en la literatura se denomina sesgo de automatización, o la utiliza para legitimar decisiones tomadas con anterioridad, lo que se conoce como blanqueo algorítmico. Ambos vacían el control político democrático. La pregunta operativa es quién firma la política: el ministro o el sistema.

Riesgo estructural: El comunicado emplea la expresión Estado predictivo. En la literatura internacional de gobernanza de inteligencia artificial esa expresión tiene un significado preciso y no es neutro: describe un Estado que actúa sobre individuos en función de comportamientos probabilísticos antes de que esos comportamientos ocurran. En el terreno de la política social puede sonar benévolo (intervenir antes de la crisis), pero el mismo motor analítico habilita decisiones excluyentes: denegar un beneficio porque el sistema predice baja probabilidad de retorno en desarrollo de capacidades. La línea entre prevención y exclusión preventiva es técnica, no retórica.

–¿Estamos preparados para llevar adelante algo así?

–La respuesta corta es no, y conviene precisarlo con datos verificables. Argentina no tiene actualmente una autoridad de aplicación con capacidad técnica instalada para auditar modelos algorítmicos de la escala que el proyecto requiere. La Agencia de Acceso a la Información Pública existe y cumple funciones, y su trabajo permitió que en enero de 2024 la Unión Europea revalidara a Argentina como país adecuado para la transferencia internacional de datos. Pero su presupuesto y dotación técnica no son comparables a los de las autoridades europeas que sí auditan sistemas algorítmicos de gran escala, como la ICO británica o la CNIL francesa. Argentina no cuenta con una ley nacional de inteligencia artificial. No existe obligación legal de realizar evaluación de impacto algorítmico previa al despliegue de sistemas de esta naturaleza. En la Ciudad de Buenos Aires se desarrollaron experiencias acotadas, pero no hay una práctica instalada a escala nacional.

La Ley 25.326 de Protección de Datos Personales, sancionada en el año 2000, mantiene su reconocimiento de adecuación por parte de la Unión Europea, revalidado en enero de 2024. Pero está estructuralmente desactualizada respecto del estándar moderno representado por el Convenio 108+ del Consejo de Europa, el RGPD europeo y la LGPD brasileña, particularmente en materia de decisiones automatizadas e inteligencia artificial. El proyecto de ley de protección de datos personales que actualizaría ese marco viene discutiéndose desde hace años sin sanción.

El problema, entonces, no es que la tecnología no exista. La tecnología existe, está madura y funciona. El problema es que el andamiaje institucional para usarla con legitimidad no está construido. Los países que el propio comunicado cita como referencia, Singapur y Reino Unido, construyeron primero ese andamiaje y luego desplegaron la tecnología.

–¿Hay un marco normativo para proteger los datos? ¿Qué habría que ajustar?

–En cuanto al marco existente, Argentina dispone de la Ley 25.326 de Protección de Datos Personales y su decreto reglamentario 1558/2001, de la Ley 27.275 de Acceso a la Información Pública, y de las disposiciones de la Agencia de Acceso a la Información Pública sobre tratamiento de datos por parte del Estado. La 25.326 obtuvo la calificación de nivel adecuado por parte de la Unión Europea en 2003, condición que fue revalidada en enero de 2024. Argentina fue el primer país de la región en obtener ese reconocimiento. Pero la norma tiene veinticinco años, y el universo tecnológico al que debe responder cambió de manera radical en ese período.

Lo que falta para un proyecto como este, en orden de prioridad operativa: primero, base legal específica para la interoperabilidad de bases administrativas. Cruzar datos de empleo (ANSES, ARCA), educación (Ministerio nacional, ministerios/secretarias provinciales), niñez (registros provinciales heterogéneos), salud (obras sociales, PAMI, provincias) y programas sociales (SINTyS, ANSES) requiere fundamento legal explícito para cada flujo, principio de finalidad respetado, y minimización auditada. La Ley 25.326 permite el tratamiento genéricamente pero no resuelve la arquitectura de gobernanza del cruce masivo. En Europa esta materia se resuelve mediante evaluación de impacto en protección de datos obligatoria y registro de actividades de tratamiento conjunto.

Segundo, evaluación de impacto algorítmico obligatoria previa al despliegue. Esta figura no existe como obligación en el derecho argentino y debería existir antes de procesar el primer dato. Tercero, régimen específico para decisiones automatizadas. El RGPD europeo establece el derecho del individuo a no estar sujeto a decisiones basadas únicamente en tratamiento automatizado que produzcan efectos jurídicos o le afecten significativamente. El equivalente argentino es débil. Si el Gemelo Digital va a recomendar otorgar, denegar o focalizar prestaciones, el derecho a explicación humana debe estar reglado de manera operativa, no meramente declarativa.

Cuarto, transparencia algorítmica y auditabilidad externa. Quién audita el modelo, con qué frecuencia, con qué metodología, con qué consecuencia jurídica frente a hallazgos. Sin esto, la expresión Estado predictivo se traduce en Estado opaco; y quinto, un régimen claro de proveedores y soberanía del modelo. ¿El modelo se entrena con infraestructura nacional o se subcontrata a un proveedor extranjero? ¿Dónde residen físicamente los datos? ¿Quién tiene acceso técnico al modelo y a los datos de entrenamiento? Si el modelo termina siendo propietario de alguien externo, el Estado argentino pierde capacidad de control sobre su propia política social.