¿Cómo aprenden de nosotros los algoritmos en la red?

Judith Morán

Ampliar la conversación sobre las redes sociales y los algoritmos, con una perspectiva más crítica que "sea menos celebratoria de los alcances o de las posibilidades que brinda el uso del big data", es uno de los objetivos del número 17 de Clavigero, comunidades de saberes, señala Víctor Ábrego, coordinador de la Licenciatura en Ciencias de la Comunicación del ITESO. 

El también investigador de Signa_Lab ITESO coordinó el más reciente número de la publicación, que presenta, entre otros contenidos, una entrevista con la matemática Sofía Trejo Abad, quien afirma que "los sistemas de moderación de contenido que tienen como objetivo generar el mayor número de reacciones por parte de los usuarios favorecen a los discursos controvertidos, en lugar de fomentar el diálogo o el entendimiento". 

De acuerdo con lo que plantea dicha autora, "si entregas un dato sesgado lo que va a hacer la máquina es aprender a actualizar el sesgo", comenta Ábrego, y destaca que no se trata de catalogar a la tecnología como mala, pero que sí es necesario "ser conscientes sobre cuáles son los sesgos de los que partimos al construir algoritmos, desde dónde se obtienen los datos, cuáles son las implicaciones de que se utilicen y cuáles son los sesgos que se actualizan o se van perpetuando en la utilización de esos datos".

En esa misma lógica, Diego Arredondo, coordinador de desarrollo tecnológico en Signa_Lab ITESO, reflexiona en su colaboración sobre la parte más oscura del uso de estos algoritmos en cuestiones políticas. 

"Ya lo hemos visto en la campaña por la presidencia de Estados Unidos en 2016, con el Brexit en el Reino Unido y en otras partes en las que, digamos, este primer gran desplante de la manipulación de la opinión pública se da en procesos electorales por medio de la segmentación de mercados", explica Ábrego.  Lo más preocupante, añade, ya no está en la segmentación de mercados a corto y mediano plazo, sino en las posibilidades de los algoritmos que producen contenidos con la información con la que son entrenados. 

El académico cuenta que, por el otro lado, están las cuestiones relacionadas con la "tecnopolítica", ya que entre 2011 y 2014 se registraron movimientos sociales cuya característica fue el uso crítico de la internet. 

"La ‘tecnopolítica' puede ser entendida por el uso crítico de la internet en general, no solamente de las redes sociales, sino por cómo una persona se politiza en función de lo que consume en la red, cómo es que se politiza compartiendo ideas y cómo es que la indignación entre cientos de miles, o incluso millones, de personas que presencian un hecho injusto en línea puede convertirse en la toma del espacio público físico". 

Liliana Zaragoza, artista "hackfeminista", aborda en su colaboración las posibilidades de "cómo desde lo cotidiano se construyen otros rituales, otras colectividades y otros usos críticos que van entrecruzándose entre sí y posibilitando alianzas". 

El académico agrega que Clavigero busca acercarse al diálogo necesario entre el pensamiento crítico, la ciencia de datos y las ingenierías que tienen que ver con el manejo del big data. El número 17 de la publicación está disponible en https://clavigero.iteso.mx/.