La inteligencia artificial puede influir negativamente en «los derechos humanos, la igualdad de género y la democracia»

En septiembre pasado, Tiempo publicó el accionar que vienen llevando adelante grandes multinacionales que habían decidido echar a trabajadores con herramientas digitales basadas en el algoritmo. En ese informe se plasmó el peligro de creer en la inocencia de sistemas puestos al servicio del lucro, que no son ni objetivos ni neutrales y sobre el avance desenfrenado de la inteligencia artificial en ese sentido. En la publicación se planteó la cuestión sobre si es necesario que esta tecnología tenga o no una ética: Un total de 193 países dijeron que sí.

Ahora la UNESCO elaboró un primer texto mundial sobre la ética de la inteligencia artificial que busca “enmarcar estas tecnologías que plantean vastos riesgos a pesar de los numerosos avances que permiten”. El documento fue aprobado por la totalidad de los países miembro de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura. En el texto se destaca la «necesidad de garantizar la transparencia y la inteligibilidad del funcionamiento de los algoritmos y de los datos a partir de los cuales se obtuvieron», ya que pueden influir en «los derechos humanos y las libertades fundamentales, la igualdad de género y la democracia».

Al mismo tiempo se subraya que  a pesar de que “las tecnologías de la inteligencia artificial pueden prestar grandes servicios a la humanidad» y «todos los países pueden beneficiarse de ellas», también plantean “preocupaciones éticas de fondo».

La inteligencia artificial pasó a formar parte de muchas actividades que realizamos a diario, algunas herramientas permitieron que diferentes situaciones se resuelvan con mayor facilidad y rapidez, pero al mismo tiempo muchas de esas herramientas son mal implementadas: “Los algoritmos que le permiten funcionar también han sido mal utilizados en los últimos años, ilustrando sus peligros”, acentúa el documento.

Para que todos los países coincidan en la necesidad del «respeto, protección y promoción de los derechos humanos», en la utilización de estas tecnologías, la Unesco realizó un trabajo de alrededor de tres años para que todos Estados se comprometan a cumplir con estas consignas, entre las que también se encuentran la diversidad e inclusión, promoción de sociedades pacíficas y del medio ambiente.

Cabe señalar que el algoritmo (por lo tanto la inteligencia artificial) es un conjunto ordenado y sistematizado de operaciones que permite hacer un cálculo y hallar la solución a algún problema. Desde luego, los parámetros que fijan esas operaciones siguen el criterio de los programadores que crean los algoritmos, y el de las empresas para las que trabajan, es decir, están regidos por sesgos que los humanos introducen en su base de datos: Esto determina que el algoritmo no sea neutral ni objetivo y que esté gobernado por el hombre. Cuando esta herramienta recopila datos, algunos especialistas coinciden que es fundamental que ese código esté auditado y abierto. Democratizar el algoritmo es una de las cuestiones más fundamentales porque son pocas las empresas privadas que concentran todos los flujos y actividades digitales.

¿Los algoritmos determinan o acompañan nuestras decisiones?

Contrariamente a lo que sintetiza el sentido común, los algoritmos digitales no manipulan nuestros gustos. “Lo que hacen es reforzar nuestras decisiones. Son raros los casos donde la burbuja algorítmica te muestra algo que no tiene que ver con uno, porque se va nutriendo de nuestros gustos planteó a Tiempo en su momento, el sociólogo Martín Gendler, becario doctoral del Conicet en el Instituto de Investigaciones Gino Germani. “Si alguien de derecha ‘clickea’ sobre determinado candidato, el algoritmo desprecia al resto, lo oculta cada vez más. Y es ahí cuando uno termina pensando que existe solo una de las dos campanas, y eso a nivel de efectos democráticos, tiene sus consecuencias”, agregó.