La empresa estadounidense de IA, Anthropic, publicó este jueves un informe en el que detalla cómo actores vinculados al gobierno de Irán utilizaron el modelo de inteligencia artificial Claude para apoyar operaciones de vigilancia y planificar posibles ataques contra objetivos estadounidenses y propaganda.
Anthropic señaló, en un informe de 154 páginas, que estas herramientas pueden ayudar a identificar objetivos y procesar grandes cantidades de información relacionada con disidentes, periodistas, activistas y políticos, lo que permite a los Gobiernos hacer más eficientes sistemas de vigilancia que ya existen.
En el caso iraní, los usuarios recurrieron además a mecanismos para sortear las restricciones de acceso a Claude, que no está disponible oficialmente en el país, y utilizaron redes privadas virtuales y números de teléfono extranjeros para acceder al servicio.
Recomendaciones de ataques contra las fuerzas navales de EE.UU. en la región
Según Anthropic, un grupo de ciberdelincuentes vinculado a Irán utilizó la cuenta de Claude para elaborar recomendaciones de ataque contra las fuerzas navales estadounidenses en la región. La compañía también documentó en su informe otros usos indebidos de Claude relacionados con armas convencionales y operaciones cibernéticas en países como China, Rusia y Yemen.
Anthropic afirmó que bloqueó esos usos ante el riesgo de que sus modelos pudieran contribuir al desarrollo de patógenos peligrosos, aunque reconoció que no pudo determinar si las investigaciones tenían fines legítimos o maliciosos.
"Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizaría alguna vez para desarrollar armas biológicas en el mundo real", explicó la empresa.
Anthropic advirtió de que la creciente capacidad y autonomía de los modelos de IA está reduciendo las barreras técnicas y económicas para realizar actividades que anteriormente requerían mayores conocimientos y recursos.
Este informe surge entre crecientes preocupaciones de expertos en el sector tecnológico por el uso dual de la IA, ya que los modelos capaces de ayudar en investigaciones biológicas también pueden servir para actividades peligrosas, y también de voces que alertan de los peligros derivados de la creciente autonomía de estos modelos.
Agencia EFE
-
Irán amenaza a Estados Unidos con una “respuesta fuerte e inmediata” por bombardeos contra sus petroleros
Irán da señales de estar dispuesto a intensificar el conflicto ante la creciente presión estadounidense
Estados Unidos e Irán reanudan ataques cruzados y Trump lanza advertencia: los golpearemos “con fuerza”
, situado en el área de extensiones del navegador (en la esquina superior derecha de la pantalla). Es posible que veas un pequeño número cubriendo parte del icono.
, situado en el área de extensiones del navegador (en la esquina superior derecha de la pantalla). Es posible que veas un pequeño número cubriendo parte del icono.
de modo que se deslice hacia la izquierda.
, situado en el área de extensiones del navegador (en la esquina superior derecha de la pantalla). Es posible que veas un pequeño número cubriendo parte del icono.
. Se pondrá en gris, lo que indica que ya no se bloquearán los anuncios de ese sitio web.
.