El fundador de Anthropic afirma que "la industria mintió" sobre el peligro de la inteligencia artificial

Luego de despertar una polémica con un ensayo acerca de los riesgos de la inteligencia artificial para el mundo, el director ejecutivo de Anthropic, Dario Amodei, concedió una entrevista al programa "Sunday Morning" del canal de televisión estadounidense CBS este domingo 13 de setiembre, en la que señaló que la industria tecnológica "mintió" sobre el peligro de la IA, instando al gobierno de Estados Unidos y la población a participar en el proceso.

El día antes, el cofundador de la empresa especializada en IA publicó un texto en el que exhortó a la industria a adoptar un "ritmo más lento" debido a los riesgos de seguridad que implica el rápido crecimiento de la IA. Otros líderes de la industria como Elon Musk, de xAI, y Sam Altman, de OpenAI, se alinearon con la advertencia de Amodei, algo sin precedentes para el sector.

"No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo. Nosotros nunca lo hicimos (en Anthropic), pero mucha de la industria lo hizo", declaró Amodei en la entrevista publicada este domingo.

A pesar de que Amodei aseveró en su ensayo acerca de riesgos como el mal uso de la inteligencia artificial para posibles ciberataques y bioterrorismo, la pérdida del control de los sistemas de IA y la disrupción económica, en su entrevista de este domingo rechazó una "prohibición completa" de la tecnología.

"No creo que prohibirla por completo sea el enfoque correcto. Primero, la idea de que nunca obtengamos los beneficios increíbles, que nunca obtengamos las curas médicas, es algo que no me parece bien. Segundo, esta tecnología se desarrollará en otros países, incluyendo países autoritarios", señaló el empresario.

El ejecutivo consideró "el dilema más duro" del debate el hecho que, si Estados Unidos ralentiza el desarrollo de la IA, China podría seguir avanzando en la tecnología.

Aún así, reconoció que se siente "incómodo" de que sea una empresa privada y no un gobierno electo de forma democrática quien esté a cargo de una herramienta tan poderosa, por lo que pidió que haya una "combinación de gobiernos democráticos" que tengan una "gobernanza conjunta" y un monitoreo de las compañías de IA.

Foto: Magnific.

"Si construimos de la manera correcta (la IA), creo que la probabilidad de que ocurra algo malo es muy baja. Si construimos de la manera incorrecta, la probabilidad de que ocurra algo malo es muy alta", apuntó.

Pese a sus alertas, el presidente estadounidense, Donald Trump, y el líder de la Cámara de Representantes, Mike Johnson, consideraron este domingo que el desarrollo de la IA debe seguir para evitar que China tenga el liderazgo en la tecnología.

Las declaraciones de Amodei se dan luego de que un investigador de Anthropic anunció esta semana su dimisión debido a la preocupación de que la empresa y sus competidores no estuvieran desarrollando modelos de IA de manera responsable.

El investigador, Jacob Coxon, quien también trabajó para OpenAI, competidora de Anthropic, afirmó que dichas compañías estaban más centradas en superarse mutuamente que en la seguridad de sus productos.

Imagen: CNN

"Quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década. No se trata de una maniobra publicitaria. De hecho, muchos ejecutivos e investigadores de alto nivel suelen matizar sus declaraciones ante la prensa para parecer sensatos, pero he escuchado a esas mismas personas expresar temor", escribió Coxon en su cuenta de X el pasado martes.

Con información de EFE