"Podría causar la extinción humana": alerta de políticos y expertos tras renuncia de un ingeniero de Anthropic

Diversos políticos y trabajadores del sector tecnológico advirtieron este miércoles de los peligros de la inteligencia artificial (IA) tras la renuncia de un ingeniero de Anthropic que asegura que la tecnología podrá acabar con la humanidad en una década.

Samuel Marks, miembro del personal técnico de Anthropic, respondió a la publicación en X del británico Jacob Coxon sobre su decisión de dejar la empresa y coincidió con él en que los desarrolladores de IA creen que esta tecnología "podría causar la extinción humana o resultados igual de graves".

"En general, cuanto más alto es el cargo del empleado, mayor es su preocupación", subrayó.

Según Marks, los desarrolladores de IA "siguen adelante pese al riesgo por una combinación de incentivos comerciales y la creencia de que compiten con otros trabajadores de IA menos responsables, que abusarán de la tecnología o la desarrollarán de forma menos segura".

El experto explicó además que no es posible programar a los modelos de IA para que "actúen como queremos" y que estos se comportan "de forma gravemente indebida con frecuencia", poniendo como ejemplo hackeos recientes de agentes de IA contra varias empresas.

Por su parte, Evan Hubinger, responsable científica de Anthropic, dio la razón a su ahora excompañero de trabajo y aseguró que "la IA podría matar a todos los seres humanos": "Considero que la probabilidad de que ocurra en la próxima década es superior al 10 %".

También se hicieron eco de la dimisión de Coxon políticos estadounidenses como el senador por Vermont, Bernie Sanders, que recordó que presentará una legislación para prohibir la superinteligencia y pausar el desarrollo de la IA.

El congresista demócrata por Texas, Greg Casar, que también está detrás de esta normativa que propone Sanders, calificó la situación de "emergencia" e instó al Congreso a "celebrar audiencias y aprobar la propuesta" de ambos políticos.

Foto: Estefanía Leal

Asimismo, Lori Trahan, congresista demócrata por Massachusetts, animó a sacar adelante su proyecto de Ley Frontier, presentado junto al republicano Jay Obernolte, que apuesta por una mayor supervisión de los modelos de IA.

En su publicación de X en la que detallaba las razones de su dimisión, Coxon también aseguró que se está subestimando el poder de esta tecnología, ya que los proyectos de IA "serán pronto sistemas sobrehumanos que podrán jaquear cualquier cosa, revolucionar todos los ámbitos y ganar verdadero poder y recursos".

EFE