"El dilema de las redes sociales": el lado más oscuro de los algoritmos

La producción de Netflix aborda con información y claridad un tema de enorme complejidad. ¿Hasta dónde Facebook, Twitter, Instagram, Tik Tok y Snapchat, entre otras, pueden manipular nuestras ideas, conductas y consumos? ¿Cuál es el papel de Google?

17 de septiembre de 2020

“Nada extraordinario llega a la vida de los mortales separado de la desgracia” (Sófocles). Con esta frase arranca El dilema de las redes sociales, la producción de Netflix dirigida por Jeff Orlowski (Chasing Coral, 2017; Chasing Ice, 2012). Su mayor virtud es exhibir, de forma entendible, un tema de alta complejidad, incluso para los entendidos. Se trata de los problemas que han traído al mundo las redes sociales, que en realidad también incluye a Google, aunque estrictamente no es una red social, pero funciona de la misma manera que Facebook, Twitter, Tik Tok, Snapchat y demás.

El relato lo arman los testimonios de grandes nombres de la industria; nombres del lado de los trabajadores jerárquicos, esos que fueron contratados o estaban en el lugar preciso en el momento indicado para formar parte y darle el diseño apropiado a estas empresas para que se conviertan en “las compañías más ricas de la historia de la humanidad”, como define Shoshana Zuboff (Harvard Business School). Y más: crearon un mercado que antes no existía: “Un mercado que se dedica exclusivamente a futuros humanos. Así como hay futuros de cerdo o de petróleo”.

Son esos mismos protagonistas los que hoy alzan la voz para advertir lo que, tal vez desde que Walter Benjamin escribiera El arte en la era de la reproductibilidad técnica, se viene advirtiendo desde la academia: la autonomización del dominio del hombre del desarrollo tecnológico. “Ellos nos controlan más de lo que nosotros los controlamos", asegura Sandy Parakilas (ex gerente de producto de Facebook y Uber). “Sólo unas pocas personas entienden cómo funcionan a esta altura estos sistemas complejos, y qué pasará con un contenido en particular: (ya que) controlan la información que vemos”.

El relato de los protagonistas está acompañado por una pequeña ficción torpe pero didáctica acerca de cómo funcionan las redes. En esa historia Ben (Skyler Gisondo) es manipulado por la A.I. (personalizada en Vincent Kartheiser), cuyo único objetivo es mantenerlo mirando la pantalla de su celular para que no deje de estar conectado. Su pobreza no le hace perder didactismo (quizá de ahí cierta inepcia ficcional): cuando Ben muestra síntomas de voluntad autónoma, A.I. recurre a todo lo que conoce de él -incluído lo que puede saber a partir de los celulares de otros que se encuentren cerca- y busca en su lugar más débil (no por casualidad el de sus gustos sexuales) para enviarle información no del todo cierta y mantener su dependencia. Ahí reside uno de los grandes secretos del éxito de la manipulación de las redes: no se trata de decir mentiras, sólo de decir algo que no es verdad, pero suena creíble.

“Es demasiado simplista decir que somos el producto -explica Jaron Lanier, autor de Diez razones para borrar tus redes sociales de inmediato-. El producto es el cambio gradual e imperceptible que sufre tu conducta y tu percepción. Ése es el producto. El único producto posible. (...) Es lo único que ellos tienen para ganar dinero: cambiar lo que haces, cómo piensas, quién eres. Es un cambio paulatino. Leve.”

Y es entonces cuando el film comienza a trastabillar. Obviando cualquier posibilidad de establecer una trayectoria que explique cómo se llegó a este estado de situación (por ejemplo: el siglo XX estuvo plagado de adicciones), el documental opta por agarrarse de la mano de Tristan Harris, ex diseñador ético de Google y especialista en tecnología persuasiva. “¿Cómo despiertas de la matrix si no sabes que estás adentro?”; “Es confuso porque es una utopía y una distopía al mismo tiempo”; “Si algo es una herramienta de forma genuina está ahí y espera pacientemente. Si algo no es una herramienta te exige cosas, te seduce, te manipula, quiere cosas de ti”. Harris olvida decir que ninguna herramienta aprende del modo de uso de su usuario, y que acaso ése sea uno de los cambios más radicales en la historia de la relación del hombre con la tecnología, que data desde que tomó la rama que cayó del árbol y la trabajó para convertirla en una herramienta de múltiples usos.

Así es que Harris (y Orlowski y Netflix, que basa su éxito en la lógica de funcionamiento que descubre el documental y no va a cometer sincericidio), deciden que el problema al que llegó la vida orgánica en la actualidad por su subordinada a los designios de Internet y las redes sociales es el plan de negocios que estas empresas implementan para conseguir su éxito. Como señala Cathy O'Neil (Data scientist, autora de Weapon of Math Destruction) con obviedad pasmódica: "Los algoritmos son opiniones en código, no son objetivos. Están optimizados para una definición de éxito. Si una empresa comercial crea un algoritmo según su definición de éxito, es un interés comercial. Es una ganancia.” ¡Oh, capitalismo!

Guillaume Chaslot (ex Former Engineer de YouTube) complementa la idea y agrega pistas sobre por qué la vida se polarizó: "Me preocupa que un algoritmo en el que trabajé esté aumentando la polarización en la sociedad. Pero desde el punto de vista del tiempo de vistas, la polarización es totalmente eficiente para mantener a la gente conectada".

Lo que sigue es una serie de iniciativas para combatir el flagelo, la mayoría de ellas individuales (tipo: cambia tu actitud -”desactiva las notificaciones; saca las aplicaciones de las redes de tu celular” -y el mundo cambiará) y una que destaca: gravar el procesamiento de recolección de datos, así las empresas no irán tras todos los datos del usuario, ya que eso aumentará su carga impositiva. Destaca porque para hacerlo necesitaría de la intervención de la política, única invención realmente distintiva humana que demostró a lo largo de la historia estar en condiciones de dar respuesta a sus más acuciantes problemas: al momento incapaz de ofrecer una salida superadora del capitalismo, pero probadamente idónea para regularlo y conseguir sus mejores años.

En ese sentido, el documental posibilita un gran paso: que el debate sobre la regulación de las grandes empresas de Internet que llegó a los parlamentos de Europa y Estados Unidos, empiece a transitar el debate público. El lugar de la política.

El dilema de las redes sociales (2020). Dirección: Jeff Orlowski. Docuemental. Disponible en Netflix.

Esta nota fue posible gracias al apoyo de nuestros lectores.

Su aporte nos permite hacer periodismo sin condicionamientos. El sueño de un medio libre no es solo nuestro.

SEAMOS SOCIOS

Tiempo Audiovisual