Tiranías eficientes

Se dice que la inteligencia artificial va a tomar el lugar de muchos trabajos repetitivos, aburridos, sucios, o peligrosos. En teoría, es bueno que esto pase (que se reemplacen más trabajos que solo aquellos y qué hacer con esa gente que es reemplazada en países como el nuestro, es otro tema). Además, la IA puede ser muy útil para agilizar y facilitar procesos, lo que no cabe duda que puede ser un avance para que muchas organizaciones, oficinas, o servicios funcionen de forma más eficiente.

El sociólogo Max Weber describió la necesidad de la burocracia en las democracias por su carácter (idealmente) procedimentalista, imparcial, racional, meritocrático, predecible, que tiene una jerarquía y reglas claras. Por otro lado, Weber también advirtió que la burocracia puede llevar a una “jaula de hierro” donde quedamos atrapados en sistemas impersonales que priorizan las reglas sobre los valores, las emociones o la individualidad. Hannah Arendt describió a la burocracia como “el gobierno de nadie”, en el que ninguna persona concreta es responsable.

En Uruguay todos nos quejamos de que la burocracia es ineficiente o de que hay demasiados empleados públicos. Dejando de lado que estoy esperando hace tres meses que vengan a arreglar la vereda de un árbol que se cayó frente a mi casa por una mala praxis de la OSE, mi experiencia en distintas oficinas y empresas públicas no ha sido particularmente mala. Creo que una de las razones de esto es que tuve la suerte de tratar con personas que hacían su trabajo, lo cual no sé si será la norma. Además, hay muchas cosas que se pueden adelantar o directamente hacer en línea.

Esto no quita que hacer un trámite es algo que suele frustrar. Como en todo, seguro hay muchas cosas para mejorar en las que poner sistemas de IA con gente a su disposición sería muy útil. Pero no soy del todo optimista y miro con recelo cuando se habla sobre las máquinas, la automatización o inteligencia artificial como la panacea, tomando la (ir)responsabilidad de procesos y servicios que llevan adelante personas. Si bien en muchos casos están de mal humor, con pocas ganas de trabajar, con sueño, o lo que sea, y no les vendría mal una dosis de lo que la socióloga Arlie Hochschild definió como “trabajo emocional”, es decir, la implicación y regulación de las emociones como parte del trabajo, los burócratas con los que he tratado han hecho las cosas que tenían que hacer. Mal o bien, como dice Paul du Gay en su elogio a la burocracia, las cosas en este sistema se hacen, aunque sea imperfectamente. Dudo que la IA sea la solución mágica.

El problema que quiero plantear es que, la IA tomando el lugar de personas, puede ser la potenciación del “gobierno de nadie” de Arendt y de esa “jaula de hierro” que Weber describió. Muchas veces pasa que en los sistemas técnicos uno queda atrapado en un circuito del cual es imposible salir y que una personas con buena voluntad lo resolvería al instante. Intentar hacer algún trámite con alguna aerolínea más allá del menú de opciones de las páginas web, es imposible (suerte en pila si uno tiene un asunto que requiera de algún matiz y que no se resuelva en campos determinados por el sistema).

Recientemente, el autor Ulises Mejía definió a estos sistemas como “inteligencia artificial burocrática”, señalando la tendencia que esas interacciones se extienden a todos los rincones de la sociedad y regidos por los principios de lo que el sociólogo George Ritzer llamó McDonaldización: eficiencia, calculabilidad, previsibilidad y control. Esto conduce a un mundo anti-democrático e inhumano.

También es cierto que a veces las personas son evidentemente superfluas. Me acuerdo de un programa de televisión de la BBC llamado Little Britain que tenía un sketch que mostraba a una funcionaria de un banco con una computadora y, frente a las consultas de clientes, tecleaba en la computadora y respondía “computer says no” (la computadora dice que no).

Por cierto que eso pasa, pero al menos con alguien de carne y hueso hay chance, por más mínima que sea, de entablar una relación humana, en la que se pueda romper el hielo con un chiste, con un comentario sobre Peñarol, o lo que fuere. Una persona tiene la capacidad de entender y (usando un cliché) puede empatizar.

Una pequeña digresión: hay sistemas de IA a los que se les delega las entrevistas de trabajo. Por lo tanto, se eliminan toda posibilidad de empatía y los grises que hacen a la riqueza de la vida humana. Parece que nosotros mismos nos miramos en el espejo de la máquina transformándonos en ella, con la ilusión de la eficiencia y la objetividad.

Nos hemos convertido en la profecía autocumplida de la metáfora que nos concibe como procesadores de información. Los sistemas técnicos son los “nadie” a los que uno no se puede dirigir. Arendt escribió en su libro sobre la violencia que “En una burocracia plenamente desarrollada, no queda nadie con quien discutir, a quien presentar quejas, sobre quien ejercer la presión del poder. La burocracia es la forma de gobierno en la que todos están privados de libertad política, del poder de actuar; pues el gobierno de Nadie no es la ausencia de gobierno, y donde todos son igualmente impotentes, tenemos una tiranía sin tirano.” Por eso hay que ser cuidadosos con que la IA resulte ser la cúspide de la burocracia.

Sin duda que nos puede facilitar muchas cosas, pero hay que tener cuidado con las tiranías en nombre de la eficiencia.