IA puede plantear "riesgos existenciales para la humanidad", advirtió Anthropic a potenciales inversores

Anthropic, creadora del modelo de inteligencia artificial Claude, ha advertido a potenciales inversores en el folleto sobre su prevista salida a bolsa de que su tecnología puede plantear "riesgos existenciales para la humanidad", informó este martes Financial Times.

La compañía estadounidense dedica una parte importante del documento a los riesgos asociados al desarrollo de modelos de IA cada vez más avanzados, entre ellos "la posibilidad de que manipulen, chantajeen o desarrollen comportamientos impredecibles", según el periódico.

El folleto fue distribuido entre un pequeño grupo de posibles inversores ante la próxima salida a bolsa, prevista para este otoño en el Nasdaq de Nueva York, de la empresa dirigida por Dario Amodei, cuyos inversores confían en que pueda alcanzar una valoración de más de 2 billones de dólares, de acuerdo con el diario.

El texto también informa de que Anthropic registró el año pasado unos ingresos de 4.600 millones de dólares, casi doce veces más que el ejercicio anterior, pero sufrió una pérdida operativa de más de 8.000 millones. Los gastos operativos ascendieron a casi 13.000 millones de dólares, debido en buena medida al coste de los recursos informáticos necesarios para entrenar y ejecutar sus modelos, según Financial Times.

OLIVER CONTRERAS/AFP fotos

Anthropic prevé además comprometer 518.000 millones de dólares en servicios de computación en la nube, capacidad informática e infraestructura durante los próximos años para sostener su expansión, se apunta en el folleto. El periódico recuerda que los ingresos de la compañía han seguido aumentando con rapidez este año, con 11.500 millones de dólares en el segundo trimestre, aunque sus gastos también aumentan.

Además de los peligros existenciales, el folleto a inversores reconoce asimismo la concentración de clientes como uno de los riesgos para la empresa, dado que cerca de una cuarta parte de sus ingresos de 2025 procedió de solo dos de ellos, según las fuentes consultadas por el periódico.

En medio de un debate sobre las amenazas que podría plantear la IA, Amodei defendió hace unos días la necesidad de "ralentizar la frontera" del desarrollo de esta tecnología para reforzar su seguridad, propuesta que respaldaron el consejero delegado de OpenAI, Sam Altman, y el empresario Elon Musk.

El mismo día de conocerse el mensaje del folleto de Anthropic, los líderes del sector tecnológico acordaron este martes autorregularse a la hora de desarrollar sus modelos de inteligencia artificial tras reunirse con el presidente de Estados Unidos Donald Trump en la Casa Blanca.

Hostil a cualquier regla que restrinja el desarrollo de la IA, Trump propuso a sus invitados crear un comité para monitorear un acuerdo que sería "moralmente vinculante", pero sin imposiciones legales.

Foto: KENT NISHIMURA/AFP fotos

"Redactamos un conjunto de principios y compromisos para construir controles internos sólidos y detectar cualquier problema que pudiera surgir con la tecnología" repuso el jefe de Meta, Mark Zuckerberg.

"Se van a controlar a sí mismos" aseguró Trump ante los periodistas a la salida del encuentro. "Estamos pensando en formar una especie de comité, en el que pongamos quizá a 10 personas. Podría ser gente de ese mismo grupo", sugirió.

Mark Zuckerberg (Meta), Sundar Pichai (Google), el presidente de OpenAI, Greg Brockman; así como Dario Amodei (Anthropic), Jensen Huang (Nvidia), Alex Karp (Palantir), Jeff Bezos (Amazon) y Elon Musk (X, Tesla, Space X) acudieron a la cita.

EFE y AFP