La empresa de inteligencia artificial (IA) Anthropic emitió el jueves un informe de 154 páginas, en el que comunicó, entre otras situaciones, que desarticuló posibles complots en los que se utilizaron sus modelos para realizar investigaciones que podrían haber contribuido al desarrollo de armas biológicas.
La investigación científica en esos casos se centró en trabajos relacionados con el virus chikungunya, transmitido por mosquitos, una cepa "altamente patógena" de gripe aviar, una familia de virus que incluye la viruela y el mpox, así como venenos y otras toxinas.
"Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizaría alguna vez para desarrollar armas biológicas en el mundo real", explicó la empresa en el documento.
Al no estar clara la intención de los actores detrás de la investigación, no se los identificó: "Las personas implicadas en estos estudios de caso son científicos. No afirmamos que tuvieran intención de causar daño. Identificarlos a ellos o a sus laboratorios podría exponerlos a peligros", señaló el informe.
Vigilancia a civiles
Por otro lado, Anthropic señaló que cerró varias operaciones de vigilancia patrocinadas por Estados que utilizaban sus modelos de IA, advirtiendo que gobiernos y actores alineados con ellos recurren cada vez a estas herramientas para espiar a disidentes, periodistas, activistas y políticos.
Los incidentes se originaron en China, Irán y el occidente de África, y fueron detectados e interrumpidos entre enero y julio, según informó la compañía en un reporte sobre el uso indebido de sus modelos.
De acuerdo con Anthropic, entre estos grupos había figuras de la prodemocracia de Hong Kong, comunidades tibetanas, y minorías y opositores al régimen iraní en el exterior.
En uno de los casos, actores iraníes desarrollaron un método para identificar a personas a través de sus cuentas en redes sociales y otro para elaborar recomendaciones de ataque contra las fuerzas navales estadounidenses en la región.
La empresa con sede en San Francisco también acusó a desarrolladores chinos de utilizar engañosamente a Claude para generar respuestas a las consultas de los usuarios mientras, de forma simultánea, "destilaban" esos datos para mejorar sus propios modelos.
La destilación es un término del sector que se refiere a un proceso en el que se emplea un modelo de IA para entrenar otro. Anteriormente, se ha acusado a desarrolladores chinos de usar esta técnica sin permiso.
Cohete con autoguiado
A su vez, según Anthropic, una célula yemení ha utilizado a Claude para intentar desarrollar armas teledirigidas.
"Hemos identificado una célula de actores maliciosos basada en el norte de Yemen que llevaba a cabo tres programas de desarrollo de armas", indicó la empresa.
Estos programas incluían "un cohete guiado utilizando un calculador de vuelo tipo smartphone con autoguiado", un misil balístico con un objetivo de alcance de más de 2.000 km y un proyectil con un "tipo de planeador hipersónico", según el informe.
La información se hace púbica en un momento en que los rebeldes hutíes llevan a cabo una ofensiva de gran envergadura en Yemen. Anthropic no revela la identidad de la célula pero es probable que se trate de estos insurgentes proiraníes que controlan gran parte del norte del territorio de Yemen, incluida la capital, Saná.
"No disponemos de elementos que indiquen que han logrado desplegar un dispositivo operativo", subrayó Anthropic. Según la compañía, la célula ha realizado un lanzamiento de prueba de un cohete guiado pero fracasó.
La start-up estadounidense asegura haber prohibido sus cuentas en cuanto identificó estas actividades ilegales y compartido la información para "reducir los riesgos que representan estos individuos".
AFP y EFE
-
GPT-6 Astra de OpenAI: ¿Llegó la Inteligencia Artificial General o es una estrategia de marketing?
"Podría causar la extinción humana": alerta de políticos y expertos tras renuncia de un ingeniero de Anthropic
Trabajó en OpenAI y Anthropic y renunció con una feroz advertencia sobre la IA: "Creen que podrá matarnos"
, situado en el área de extensiones del navegador (en la esquina superior derecha de la pantalla). Es posible que veas un pequeño número cubriendo parte del icono.
, situado en el área de extensiones del navegador (en la esquina superior derecha de la pantalla). Es posible que veas un pequeño número cubriendo parte del icono.
de modo que se deslice hacia la izquierda.
, situado en el área de extensiones del navegador (en la esquina superior derecha de la pantalla). Es posible que veas un pequeño número cubriendo parte del icono.
. Se pondrá en gris, lo que indica que ya no se bloquearán los anuncios de ese sitio web.
.