REDES SOCIALES

Este contenido es exclusivo para nuestros suscriptores.

Las guerras nunca tienen cosas buenas. Empecemos por aclarar eso para que esta periodista no sea acusada de decir lo contrario.

El asunto es que a partir de lainvasión rusa en Ucrania, y la decisión de Europa -y Estados Unidos- de exigir el bloqueo de los medios rusos RT y Sputnik (y todo su contenido) de las redes sociales, así como la desindexación de sus sitios de Google (esto significa que al menos desde algunos países ni buscándolos podrías encontrarlos), finalmente se ha puesto sobre la mesa un tema muy importante que lleva tiempo subvalorado.

Empecemos por el principio. ¿Qué es la moderación de contenidos? Es el proceso por el cual las plataformas (Google, Youtube, Facebook, Instagram, Twitter, TikTok) clasifican lo que los millones de contenidos que se publican y deciden eliminarlos, sancionar a las cuentas que los generan, permitir que circulen, regular su alcance o posicionarlos en sus búsquedas. Estas decisiones son tomadas por equipos humanos (Facebook tiene unas 15 mil personas) y softwares de inteligencia artificial (con cada vez más peso en esos procesos de decisión que los humanos).

Estos equipos toman las decisiones sobre la base de lo que los usuarios aceptamos. Estas reglas de funcionamiento se agrupan en general en lo que cada plataforma suele llamar sus Normas Comunitarias, y si bien existen diferencias entre cada una, la mayoría son muy similares en qué cosas prohíben y qué cosas no.

Fácil, ¿no? Pues no, tanto no lo es que la moderación de contenidos es uno de los principales problemas que enfrentan las redes sociales en el último tiempo y si se me permite también la libertad de expresión en las sociedades modernas. ¿Por qué? Varios motivos. De implementación, de proceso y, podríamos llamarle, de fondo.

De implementación. De los miles de humanos que se ocupan de la moderación, la mayoría son angloparlantes. Si bien en los últimos meses, y a causa de reclamos, Meta, Twitter y Google han aumentado sus equipos en español y árabe, la diferencia con los que hablan inglés sigue siendo grande. A eso hay que agregar que no es lo mismo el español de México, que el de Costa Rica o el de Argentina.

En la mayoría de los casos esos equipos son muy mal pagos y deben cumplir estándares que los obligan a mirar horas de contenidos violentos y a clasificar una publicación en 50 segundos. Medios de todo el mundo han denunciado estos episodios. Pero para que una publicación sea evaluada por un humano antes pasó por varias etapas de moderación artificial y ahí también hay problemas.

El más importante es el contexto. Hemos avanzado kilómetros en el desarrollo del análisis de lenguaje natural con herramientas de inteligencia artificial pero sigue siendo muy complicado para una máquina entender el contexto. Para muestra: cientos de memes.

En el proceso el más grave es la falta de explicaciones que reciben quienes ven eliminados sus contenidos o bloqueado el acceso a sus cuentas. Y la falta de procesos de apelación garantistas, con empresas que obligan a los usuarios a reclamar en cortes de otros países. Los países donde están sus empresas.

En este somerísimo resumen, nos quedan las razones de fondo. Que dan para una enciclopedia. Seguro algún lector estará pensando, “pero si son empresas privadas, pueden decidir lo que les parezca”.

Es curioso que muchas veces se argumente eso de las redes sociales, uno de los principales lugares en los que se desarrolla el discurso público en el siglo XXI. Un lugar donde consumimos información de medios, publicidad de candidatos y debatimos sobre diversos temas como no hacemos probablemente en ningún otro lugar del mundo físico. Y sin embargo, no argumentaríamos eso sí en la discoteca de la esquina de casa le prohibieran la entrada a una persona por razones que no entendemos y sin darle ninguna clase de explicación. Hay muchas más razones, que seguramente serán parte de otro texto, y también posiciones respecto del tema. Pero lo primero que deberíamos hacer, es poner el tema en la agenda. De eso depende que seamos parte de las reglas de juego del espacio donde pensamos gran parte de nuestro futuro.