Mientras el gobierno desfinancia y desarticula las áreas públicas destinadas a la investigación, ciencia y tecnología, el Ministerio de Capital Humano anunció que tras “un proceso profundo de transformación y digitalización del Estado”, la cartera que conduce Sandra Pettovello está lista para “evolucionar” hacia un “Estado predictivo” bajo el denominado modelo “Gemelo Digital Social”. ¿Eso que el Gobierno destaca como «innovación» o modernidad puede tener como contracara transformarse en un amplio esquema de vigilancia social?

Tiempo dialogó con Esteban Magnani, especializado en tecnología y sociedad, quien puso sus reparos a la iniciativa y advirtió sobre los serios riesgos que este planteo conlleva luego de los recurrentes encuentros entre Peter Thiel -el tecnomagnate detrás de varias incursiones bélicas en el mundo- y diferentes representantes del régimen de Javier Milei.

Más allá de las cuestiones legales por la apropiación y el uso de los datos, la iniciativa “podría llegar a servir si está bien implementada, con buena financiación, con un equipo interdisciplinario que eventualmente arroje indicadores que sean útiles para pensar, prever y ver cosas que la máquina establece que por ahí no se le ocurrieron a alguien, pero está lejísimo de ser un oráculo tal como está planteado”, explicó el docente e investigador.

El Gemelo Digital Social: “Está lejísimo de ser un oráculo tal como lo plantea el Gobierno”

“Todo esto me hizo acordar a un anuncio del entonces gobernador de Salta, Juan Manuel Urtubey, que en 2018 dijo que estaba usando una Inteligencia Artificial que permitía establecer el riesgo de embarazo adolescente y que podías prever con la tecnología 5 o 6 años antes con nombre, apellido y domicilio cuál es la niña que estaba en un 86% predestinada a tener un embarazo adolescente”, recordó.

Magnani, quien escribió «La mano invisible detrás del algoritmo”, evocó otro episodio similar protagonizado por el propio Milei cuando fue a Estados Unidos y se reunió con el CEO de Google, Sundar Pichai, y aseguró que “iba a traer un modelo de Inteligencia Artificial para la reestructuración del Estado”. 

“En ambos casos hay una comprensión bastante ligera de qué es la Inteligencia Artificial que se basa en datos para cruzarlos y encontrar correlaciones y promedios. Dependiendo de qué datos les cargues, cómo los proceses, cuáles tengas y cuáles no, que sean fiables, que no contengan sesgos y un montón de cosas más, podés pedirle que haga inferencias sobre qué es lo que puede llegar a ocurrir con tal o cual medida pública”, precisó el especialista. 

Mesa de especialistas 

Desde Capital Humano puntualizaron que la Primera Fase del proyecto contemplará una mesa de trabajo integrada por especialistas del sector público, privado, académico y tecnológico, para darle “volumen institucional e internacional” a la iniciativa, que se apoyará sobre bases de datos provenientes de distintas áreas del Gobierno Nacional. “Cuantos más datos integrados tenga el modelo, mayor capacidad predictiva y prescriptiva podrá desarrollar”, indicaron. 

Todo esto le daría vida al Gemelo Digital Social para simular y, llegado el caso, «optimizar y eficientizar la planificación de ciudades inteligentes»: el tránsito y la movilidad, el consumo energético, la infraestructura crítica, la logística, la salud, el transporte y la producción industrial.

La importancia de la supervisión

Para Magnani los resultados del programa dependerán no solo de los datos y la correlación que haya entre ellos, sino también de “la muy aceitada supervisión y verificación» de todo lo que haga la IA. «Todo esto podría llegar a estar bien implementado con mucho equipo detrás”, insistió.

Este tipo de iniciativas tecnológicas son las que Palantir, la empresa del estadounidense Thiel, le vende a diferentes gobiernos en el mundo, generalmente para perfilar “enemigos” internos y externos. “De hecho, Thiel, que se encuentra en el país, por ejemplo, tiene proyectos militares similares o de gestión, como con el ICE, en Estados Unidos, para la detección de supuestos inmigrantes ilegales”, describió Magnani.

El experto aclaró que “hay un margen de error siempre grande porque los datos pueden no ser correctos, o se establecen patrones para los cuales hay excepciones y también porque las IA tienen alucinaciones. Palantir fue uno de los que ayudó a dirigir y planificar ese bombardeo a una escuela en Irán donde murieron 170 niñas”. En ese caso aún se discute qué pasó con los datos, lo cierto es que “si no tenés una supervisión humana muy ajustada, el riesgo es enorme”. 

Desconfianza

Por otro lado, y no menos importante, es que se trata de un megaproyecto que “conlleva mucho dinero en sueldos, en procesamiento, recopilación de datos, en limpieza, en asesoramiento y demás. Uno se preguntaría, ¿por qué no lo usan para las políticas que ya se sabe que funcionan?, porque hay muchas que funcionaban y que ahora se está viendo cuáles son las consecuencias de que no tengan financiamiento”, se preguntó Magnani. 

“Entonces, por lo menos para mí, no es más que una maniobra de marketing para presentarlo como un modelo para reestructurar y reconvertir el Estado, a través de la IA, como la supuesta llegada de grandes centros de datos que iba a instalar OpenAI en la Patagonia, que generaron titulares, una idea de modernidad, en un momento en el que hay muchísimo hype en torno a la IA, y no imagino que vaya a haber mucha sustancia”, analizó. 

“La Inteligencia Artificial -concluyó el experto- no produce un gemelo digital, no está en condiciones de hacerlo, puede establecer algunas correlaciones, pero estamos hablando de algo muy lejos de lo que por lo menos se plantea en la publicidad”.