Pendiente resbaladiza

Es bueno que la ANEP deje sin efecto el plan piloto para controlar asistencias a través de reconocimiento facial. Creo que, por lo general, es una tecnología que debemos rechazar. Si bien es necesario ver el caso a caso de su aplicación, me inclino a que los riesgos son mayores que lo que se gana. Robert Silva publicó unas reflexiones en El Observador sobre los riesgos del reconocimiento facial en la educación, con las cuales concuerdo y en las que plantea los principales problemas del tema. Acá me interesa agregarle algunas cosas desde la sociología y la crítica cultural, para identificar más concretamente que está en juego, así como describir algo propio del espíritu de la época: la cultura de la vigilancia.

La cultura de la vigilancia es una forma de entender a las sociedades actuales propuesta por el sociólogo canadiense David Lyon. Antes se daba que gobiernos e instituciones vigilaban a los ciudadanos o algunos individuos particulares, pero lo nuevo es que la vigilancia se ha normalizado, es parte del día a día y participamos activamente en ella, muchas veces bajo la ideología de la conveniencia. Con la idea de implementar el reconocimiento facial en los liceos se buscó lo que el autor Evgeny Morozov definió como un solucionismo tecnológico, es decir, el replantear problemas sociales complejos como problemas técnicos que se solucionan tecnológicamente, sin pensar demasiado en lo que una tecnología biométrica de este tipo implica. En este caso, el solucionismo tecnológico legitima y expande la vigilancia, con consecuencias muy serias.

Si bien es cierto que hay matices, las tecnologías de vigilancia en general, y las de reconocimiento facial particularmente, ponen en juego qué es lo que somos como personas, por lo que es algo que hay que pensar muy bien. El problema más evidente es la pérdida de privacidad y de que alguien acceda a las bases de datos, algo que se puede contraargumentar insistiendo en la seguridad de los mismos. Pero hay cosas más graves: por un lado, la agencia moral de las personas, y por otro, que las personas se acostumbren a estar vigiladas de una forma muy invasiva.

Desde un punto de vista moral, como propone el filósofo Benjamin Hale, el reconocimiento facial disminuye la deliberación moral de los individuos, porque le delegamos a la máquina que le dé forma a nuestro comportamiento. Lo que hace que se hagan bien las cosas sería la amenaza de ser reconocido en vez de la decisión libre y responsable de individuos autónomos. Quizá esto sea demasiado pedir para un país como el nuestro con las carencias en educación y las desigualdades que tenemos. Por cierto que ser libre y autónomo tiene mucho que ver del lugar en el que uno nace y crece, y las oportunidades a las que se accede, pero el efecto de erosión moral sería generalizado.

Algo más preocupante, a mi parecer, es el que nos acostumbremos a una vigilancia tan extrema como lo es la que se lleva a cabo con el reconocimiento facial. Vivimos en esa cultura de la vigilancia que describe Lyon, que muchas veces es útil y necesaria, pero tiene grados, y este es uno muy avanzado. Como proponen los autores Woodraw Hartzog y Evan Selinger, muchas veces las tecnologías nos conducen a “pendientes resbaladizas” (en inglés, slippery slopes), una idea que suele identificarse como una falacia pero que es útil en este caso. Si se mete una rana en una olla y se calienta el agua poco a poco, la rana no se da cuenta hasta que es demasiado tarde y la queda. Una pendiente resbaladiza se refiere a identificar situaciones complicadas que pueden surgir debido a la falta de previsión sobre las consecuencias de algo a mediano o largo plazo. En este caso, estaríamos en una situación de lo que en inglés se llama surveillance creep, que en español sería el avance insidioso de la vigilancia que cambia el sujeto de los sistemas democráticos.

La cuestión es pensar en el reconocimiento facial dentro de este avance y en esa transformación. En un ensayo del 2011, el filósofo italiano Giorgio Agamben describió que, en el siglo XIX, con el desarrollo de datos biométricos como las huellas digitales, se da un quiebre en el que la identidad pasó de ser una función social a ser algo biológico. Esto supone un importante cambio, ya que es a través del reconocimiento del otro que nos constituimos como personas, mientras que de los datos biométricos no podemos tomar posición ni distanciarnos. Con el reconocimiento facial esto se potencia, porque a diferencia de las huellas digitales, no se requiere interacción física; no hay que ir a la oficina de identificación civil a poner el dedo. Las caras pueden escanearse de forma remota y pasiva. Por eso, el reconocimiento facial es intrínsecamente alienante: nos separa de nuestras caras, dejan de ser nuestras y le pasan a pertenecer a alguien más. En conclusión, la cordura se impuso, porque fue un verdadero disparate proponer que los liceales sean sometidos a esto.