Tendencias

¿Debe Alexa leer nuestro estado de ánimo?

Se abre el debate sobre el poder de la tecnología de voz antes de que se extiendan funciones dañinas

Voz
Voz. Experto aconseja que empresas tengan prohibido analizar lo que decimos y cómo sonamos para recomendar productos o personalizar mensajes publicitarios.

Si Alexa de Amazon piensa que suenas triste, ¿debería sugerirte que compres un galón de helado?
Joseph Turow dice absolutamente de ninguna manera. Turow, profesor de la Escuela de Comunicación Annenberg de la Universidad de Pensilvania, investigó tecnologías como Alexa para su nuevo libro, The Voice Catchers. Salió convencido de que las empresas deberían tener prohibido analizar lo que decimos y cómo sonamos para recomendar productos o personalizar mensajes publicitarios.

La sugerencia de Turow es notable en parte porque la elaboración de perfiles de personas en función de sus voces no está muy extendida. O aún no lo es. Pero está animando a los legisladores y al público a hacer algo que desearía que hiciéramos con más frecuencia: tener cuidado y considerar cómo usamos una tecnología poderosa antes de que pueda usarse para tomar decisiones importantes.

Después de años de investigar las actitudes cambiantes de los estadounidenses sobre nuestras corrientes de datos personales digitales, Turow dijo que algunos usos de la tecnología tenían tanto riesgo de tener tan pocas ventajas que deberían detenerse antes de que se hicieran grandes.

En este caso, a Turow le preocupa que las tecnologías de voz, incluidas Alexa y Siri de Apple, se transformen de mayordomos digitales en adivinos que utilizan el sonido de nuestras voces para resolver detalles íntimos como nuestro estado de ánimo, deseos y condiciones médicas. En teoría, algún día podrían ser utilizados por la policía para determinar quién debería ser arrestado o por los bancos para decir quién es digno de una hipoteca.

Joseph Turow, profesor de la Escuela de Comunicación Annenberg de la Universidad de Pensilvania.

"Usar el cuerpo humano para discriminar entre personas es algo que no deberíamos hacer"

«Usar el cuerpo humano para discriminar entre personas es algo que no deberíamos hacer», dijo.

Algunos entornos empresariales, como los centros de llamadas, ya lo están haciendo. Si las computadoras evalúan que suena enojado por teléfono, es posible que lo dirijan a operadores que se especializan en calmar a la gente. Spotify también ha revelado una patente sobre tecnología para recomendar canciones basadas en señales de voz sobre las emociones, la edad o el género del hablante. Amazon ha dicho que su brazalete y servicio de seguimiento de salud Halo analizará «la energía y la positividad en la voz de un cliente» para impulsar a las personas a mejorar las comunicaciones y relaciones.

Turow dijo que no quería detener los usos potencialmente útiles de los perfiles de voz, por ejemplo, para evaluar a las personas en busca de condiciones de salud graves, incluido el COVID-19. Pero hay muy poco beneficio para nosotros, dijo, si las computadoras usan inferencias de nuestro discurso para vendernos detergente para platos.

Tenemos que prohibir la creación de perfiles de voz con fines de marketing», me dijo Turow. «No hay utilidad para el público. Estamos creando otro conjunto de datos que la gente no tiene ni idea de cómo se está utilizando».

Turow está aprovechando un debate sobre cómo tratar la tecnología que podría tener enormes beneficios, pero también desventajas que quizás no veamos venir. ¿Debería el gobierno tratar de promulgar reglas y regulaciones con respecto a la tecnología poderosa antes de que sea de uso generalizado, como está sucediendo en Europa, o dejarla en paz a menos que suceda algo malo?

Lo complicado es que una vez que se vuelvan frecuentes las tecnologías como el software de reconocimiento facial o los viajes en automóvil con solo presionar el botón de un teléfono inteligente, es más difícil retirar las funciones que resultan ser dañinas.

¿Será necesario alarmar sobre el uso de nuestros datos de voz para marketing? Hace unos años, se habló mucho de que la voz se convertiría en una forma importante en la que compraríamos y aprenderíamos sobre nuevos productos. Pero nadie ha demostrado que las palabras que decimos a nuestros artilugios sean predictores efectivos de qué camión nuevo compraremos.

Le pregunté a Turow si personas y reguladores gubernamentales deberían preocuparse por riesgos hipotéticos que tal vez nunca lleguen. Admitió esa posibilidad, pero señaló que vale la pena iniciar una conversación pública sobre lo que podría salir mal con la tecnología de voz y decidir juntos dónde están las «líneas rojas colectivas» antes de que se crucen.

Reportar error
Enviado
Error
Reportar error
Temas relacionados