TECNOLOGÍA

Cuánto nos conocen los algoritmos

Si se consume siempre de lo mismo, que es lo que el sistema ofrece, ¿es posible que el horizonte de cada persona se vea reducido a lo que la pantalla le sugiere?

Netflix

Desea ver una película y Netflix le recomienda una, mientras que al día siguiente Spotify le sugiere una lista basada en sus preferencias previstas. Facebook, por su parte, destaca en su muro noticias de un mundo que abarca solo lo que se ajusta a lo que a usted y a sus amigos les interesa. La vida facilitada, o tal vez no.

Todas esas sugerencias son hechas por los algoritmos de predicción, los que determinan lo que cada usuario prefiere y lo que no. El problema es que si ellos son los únicos encargados de ofrecer contenido según los gustos personales, de a poco la diversidad de cosas a las que estará expuesto disminuirá. ¿Los algoritmos terminarán definiendo nuestro mundo? Sí y no.

Un número más.

Cada vez que se pone play a una película, el algoritmo lo registra. Con ello construye el historial de preferencias de una persona, el primer insumo para proponer la siguiente película. Luego, y con esos datos, el algoritmo agrupa a todos quienes tienen un comportamiento similar, como por ejemplo, los que prefieren los filmes del universo Marvel. Pero si, además, a una de esas personas le gusta la serie La casa de papel, también será parte de otro subgrupo o nodo. Así, el algoritmo identifica un perfil —a partir de las preferencias que lo hacen parte de distintos nodos— y genera las sugerencias, explica Werner Creixell, profesor de ingeniería telemática de la Universidad Federico Santa María de Chile.

"Cada nueva elección queda registrada y el algoritmo la usa para ajustar las recomendaciones", explica Martín Gutiérrez, académico y experto en telecomunicaciones e informáticas. Durante los últimos cinco o 10 años, todo ese proceso ha significado una cantidad de información acumulada tal, que el trabajo de los algoritmos se ha complejizado enormemente.

De esta forma, hoy el algoritmo toma sus decisiones de recomendación en base a lo que aprende de las elecciones, en su conjunto, de todas las personas. Cómo el algoritmo toma la decisión de recomendar determinada película es una caja negra, tanto para la empresa como para nosotros. Como el modelo va aprendiendo por sí mismo, es muy difícil entrar en ese proceso.

Ya sea por esto o por cómo se ha planteado el negocio de las compañías que usan los algoritmos de predicción, hay quienes aseguran que dejar el poder de elección solo a esta herramienta podría restringir el horizonte de información y entretenimiento a la que una persona está expuesta. En otras palabras, todo lo que no se ajusta al perfil que se le ha asignado —por sus elecciones previas— queda fuera.

"Esto reduce de forma bastante importante la posibilidad de hallazgos afortunados o de serendipia", opina Creixell. Antes, al ojear una revista la persona leía solo lo que le interesaba, pero para llegar a ello tenía que pasar por todos los artículos. Así, estaba expuesta a cosas que potencialmente podrían llamar su atención, pero con los algoritmos esas oportunidades prácticamente han desaparecido.

Espacio para el "error".

Dicho lo anterior, hay que considerar que los algoritmos tienen cierta "holgura" en lo que proponen. Por ello, por ejemplo, a veces aparece una película que no se ajusta a nuestros gustos o un músico que nunca ha estado en nuestra lista de canciones. "Esto tiene que ver con un concepto más amplio de Inteligencia Artificial; al generalizar (ajustar los perfiles) con mayor cantidad de información, es más posible que las recomendaciones no concuerden con tanta precisión", explica. Considerando todo lo anterior, la solución podría estar en dos algoritmos corriendo en paralelo. Uno que efectivamente haga propuestas ajustadas al perfil y otro que recomiende cosas totalmente nuevas para la persona.

En este contexto, el caso de Facebook es aún más crítico, opina Creixell. "La riqueza de los datos es enormemente superior —noticias, fotos, contactos, preferencias, entre otros—, por lo que las sugerencias son mucho más finas", dice. El problema es cuando esa cantidad de información, sumada a algunas prácticas no tan transparentes, permiten que el conocimiento sobre la personas sobrepase incluso lo que ella misma accedió a entregar. 

Reportar error
Enviado
Error
Reportar error
Temas relacionados