OpenAI, Anthropic y Google DeepMind unen fuerzas para crear organismo de supervisión de la IA

OpenAI, Anthropic y Google DeepMind trabajan en la creación de un organismo de supervisión de los riesgos relacionados con la inteligencia artificial, indicó OpenAI a la AFP el martes, en medio de crecientes llamados a controlar mejor esta tecnología.

Las preocupaciones sobre la seguridad de la inteligencia artificial se han intensificado en las últimas semanas, incluidas advertencias de dos trabajadores que renunciaron a importantes desarrolladoras de IA por la amenaza contra la humanidad que implica esta industria.

Los grandes actores de la IA han hecho desde hace meses llamados al gobierno estadounidense para crear un marco regulador del sector y supervisar su seguridad.

Foto: Magnific.

La idea de una entidad de supervisión fue propuesta en julio por Demis Hassabis, cofundador y director general de Google DeepMind, quien sugirió una entidad similar a la Autoridad de Regulación de la Industria Financiera de Estados Unidos, un órgano de autorregulación del sector.

"La financiación tendría que ser cuantiosa y provenir probablemente en gran parte de la industria", escribió Hassabis, quien añadió la necesidad de atraer talento técnico y grandes recursos de cómputo para pruebas a gran escala.

El gobierno de Estados Unidos puso en marcha en agosto un proceso de evaluación de los nuevos modelos de IA, aunque este es voluntario y su metodología no se ha hecho pública.

Foto: Julien De Rosa/AFP.

Luego de los llamados a desacelerar el desarrollo de la IA que lanzó el sábado Dario Amodei, jefe Anthropic, desarrolladora del chatbot Claude, el presidente de Estados Unidos, Donald Trump, reiteró que no busca limitar el sector.

"Que la IA tome el control del mundo, destruya a la humanidad y todas esas cosas malas, es una patraña", escribió Trump en su plataforma Truth Social el lunes.

El mandatario y miembros de su gobierno han reiterado que no buscan limitar la IA por temor a que China tome ventaja.

Las empresas de IA están "jugando con nuestras vidas", advirtió la semana pasada Jacob Coxon al dejar su cargo de desarrollador en Anthropic.

El lunes, el exinvestigador de Google DeepMind Bilal Chughtai se hizo eco de las preocupaciones planteadas por Coxon y otros.

"Creo sinceramente que la IA tiene el potencial de matarnos a todos y que quizá se nos esté acabando el tiempo para evitar ese desenlace", declaró en redes sociales.

AFP