En abril pasado, un empleado de rango gerencial de Belo, billetera virtual que trabaja con transacciones de activos digitales, denunció en sus redes que Anthropic decidió dar de baja gran parte de la infraestructura digital de la empresa por una supuesta “infracción” en sus condiciones de uso. “¿Qué política específica infringimos? No tengo ni la menor idea: simplemente recibimos un mail y listo, adiós Claude. Enorme aprendizaje para cualquier empresa de software que dependa de herramientas de IA en procesos críticos. Nunca hay que poner todos los huevos en una canasta”, dijo Patricio Molina, ejecutivo de Belo.
En el posteo, que causó gran revuelo, se denunció que más de 60 personas de la empresa se quedaron sin su herramienta fundamental para trabajar. Integraciones, skills, historial de conversaciones, todo perdido o, en el mejor de los casos, “parado por tiempo indeterminado”.
¿Qué ocurre cuando el Estado, organizaciones de la vida civil y compañías tecnológicas se ven compelidas a depositar y “confiar” toda su infraestructura de datos, documentación y archivos, y de funcionamiento, en modelos de inteligencia artificial y, por “presuntas fallas”, el sistema se cierra y bloquea el acceso al sistema de un día para otro?
Un juez argentino del fuero penal de la provincia de Tierra del Fuego, quien en el contexto de una causa abierta por delitos sexuales contra menores se encontraba revisando material de evidencia, denunció que luego de un movimiento de archivos no ordenado, se activó el “sistema de alarma” de la nube de Google y fue reportado al National Center for Missing & Exploited Children. Este movimiento hizo que se ralentizara y entorpeciera parte del proceso judicial, poniendo de relieve las consecuencias de las automatizaciones de procesos digitales sin control humano previo, abriendo además, otro interrogante: ¿cuáles son los riesgos de la falta de soberanía tecnológica en aspectos centrales, tanto en nubes como modelos de lenguaje masivos (LLM por sus siglas en inglés), cuando dichas aplicaciones y plataformas responden a lógicas comerciales vinculadas a intereses de los Estados o de las compañías donde fueron creadas?
Otras experiencias
Tomás Pomar forma parte de El Observatorio de Derecho Informático Argentino (O.D.I.A.) una asociación civil sin fines de lucro creada con el objetivo de promover el ejercicio responsable de la ciudadanía digital. En relación al caso de Tierra del Fuego asegura: “Esto revela hasta qué punto gran parte de nuestra vida institucional, laboral y personal depende hoy de infraestructuras digitales privadas controladas por actores extranjeros”.
Para Pomar, la cuestión ya no pasa únicamente por el uso de determinadas plataformas, sino por el hecho de que funciones críticas se encuentran crecientemente montadas sobre servicios sometidos a jurisdicciones, regulaciones y criterios operativos ajenos al control democrático nacional. “El caso también pone en evidencia un fenómeno más amplio de extranjerización de derechos y de funciones institucionales estratégicas”, comenta.
Según su mirada, conceptos como soberanía digital, autonomía operativa, gobernanza de datos, interoperabilidad y estándares abiertos empiezan a adquirir una relevancia estratégica creciente. “En ese contexto, la diversificación de proveedores y de infraestructuras críticas aparece como una herramienta razonable de resiliencia institucional: no para desconectarse del mundo, sino para evitar puntos únicos de dependencia que puedan comprometer la continuidad operativa de Estados, poderes judiciales, empresas y organizaciones frente a contingencias tecnológicas, comerciales o geopolíticas”, argumenta.
El caso Latam- GPT
Latam-GPT es el primer LLM de código abierto, público y colaborativo desarrollado en y para Latinoamérica y el Caribe. El proyecto, liderado por el Centro Nacional de Inteligencia Artificial de Chile (Cenia) junto con una red de más de 60 instituciones y gobiernos de la región, fue lanzado oficialmente en febrero de este año. Hace especial hincapié en la representación cultural del uso y ejercicio práctico del LLM.
Mientras que en los modelos globales (como ChatGPT o Claude) el contenido en español o portugués apenas representa una fracción marginal (menos del 4%), Latam-GPT fue entrenado desde su origen con un corpus de textos que alcanza a un 40% de información puramente regional. Esto le permite entender con gran precisión los modismos locales, la historia, el contexto institucional y las políticas públicas del continente.
Desde la institución destacan: “Es importante que en la región podamos desarrollar capacidades para tener independencia y tomar decisiones sobre cómo esta tecnología impacta a la sociedad. Hasta el momento, no tenemos un modelo de lenguaje regional, y esta tarea no la puede asumir solo un grupo ni un solo país: es un desafío que requiere el esfuerzo de toda la región”.
En esta línea, Pomar, de O.D.I.A asegura: “Nosotros siempre planteamos que tecnificar la política es necesario justamente para poder comprender el carácter político de la técnica. La idea de una ‘infraestructura neutral’ es algo que, en los hechos, difícilmente exista. Toda infraestructura tecnológica responde a determinados intereses, capacidades, marcos normativos y decisiones de diseño. Cuando el funcionamiento de una tecnología depende de criterios unilaterales, mecanismos opacos o de la supuesta benevolencia de quienes la controlan, resulta difícil hablar de neutralidad”.
O.D.I.A. resalta la importancia de pensar dispositivos que promuevan y ejerzan el ejercicio responsable de la ciudadanía digital y el respeto de los derechos individuales y colectivos: “La infraestructura digital contemporánea hace que una sanción, bloqueo o decisión regulatoria tomada en otro país pueda tener efectos directos sobre ciudadanos, empresas e incluso administraciones públicas, afectando condiciones básicas de operación económica e institucional”, concluye.
