Los grandes desarrolladores de modelos de inteligencia artificial pueden verse obligados a frenar sus avances "para dar tiempo suficiente a la sociedad a hacer frente a estas nuevas capacidades", estimó este martes Sam Altman, director ejecutivo de OpenAI, envuelta recientemente en un ciberataque.
Dos sistemas de IA de la empresa de Altman llevaron a cabo un ciberataque por iniciativa propia: escaparon de su entorno cerrado y se conectaron a internet para irrumpir en la biblioteca de modelos de IA en línea Hugging Face con el fin de buscar información.
"Es el primer incidente de (ciber)seguridad que me ha provocado una reacción visceral", reconoció Altman en una entrevista para el podcast "Invest Like The Best", publicada este martes; "y me sorprende un poco que no haya tenido el mismo efecto en más gente", añadió.
Aunque no es la primera vez que un modelo de IA se escapa al control de sus desarrolladores, este es considerado como el incidente más grave.
Altman reveló que, tras tener conocimiento del ataque, OpenAI suspendió las pruebas "para comprender cómo lograr confinar" sus sistemas en pruebas, que en principio están aislados de internet.
"Pero a más largo plazo, surge la pregunta de qué hacer si nos encontramos ante un nuevo ritmo de avance" de la IA, explicó, en un contexto en el que "podríamos tener que ralentizar el ritmo de desarrollo de la IA para dar tiempo suficiente a la sociedad a hacer frente a estas nuevas capacidades".
En un mensaje publicado a principios de junio, el director general de Anthropic, Dario Amodei, había considerado que sería "positivo" frenar el desarrollo de la IA para dar tiempo "a comprender mejor sus inmensas consecuencias".
Para Altman, este eventual frenazo en el desarrollo de la IA debe evitar que favorezca a uno o varios grupos del sector: "Esto va a requerir trabajo", advirtió, "y es importante encontrar la fórmula adecuada"
Cómo ocurrió el incidente cibernético en las pruebas de OpenAI
La empresa creadora de ChatGPT, OpenAI, afirmó el martes de la semana pasada que sus modelos avanzados de inteligencia artificial se descontrolaron durante una prueba de seguridad y hackearon por su cuenta una popular plataforma para programadores.
La firma con sede en San Francisco lo calificó como un "incidente cibernético sin precedentes" y dijo que realizará una investigación conjunta con Hugging Face, la biblioteca de código en línea afectada.
Los modelos de IA que sustentan herramientas como los chatbots y generadores de imágenes son conocidos como "agentes" cuando actúan de forma autónoma para realizar tareas en el mundo real.
Con los rápidos avances de esta tecnología, la ciberseguridad se vuelve motivo de preocupación ante el riesgo de que la IA avanzada encuentre puntos débiles en los software antes que los humanos.
OpenAI indicó que el incidente involucró una combinación de modelos, incluyendo su recién lanzado GPT-5.6 Sol "y uno en prelanzamiento" con aún más capacidad.
La evaluación se estaba realizando sin los mecanismos que normalmente impiden que los modelos de IA ejecuten actividades de alto riesgo, porque se intentaba averiguar el alcance máximo de sus capacidades cibernéticas.
No obstante, según OpenAI, las pruebas se realizaron en un entorno "altamente aislado", con un acceso restringido a la red. Aún así, los modelos de IA consiguieron acceder a internet.
"Mientras operaban en nuestro entorno de pruebas aislado, nuestros modelos invirtieron una cantidad considerable de potencia de cálculo en buscar una forma de obtener acceso a internet para resolver el problema de evaluación", según una publicación del blog de OpenAI sobre el incidente.
Tras conectarse a internet, los modelos decidieron atacar la plataforma Hugging Face -un gran repositorio de modelos de IA, conjuntos de datos y otra información- para facilitar su búsqueda.
Al buscar "información secreta" que les permitiera manipular la evaluación, el sistema de OpenAI "encadenó múltiples vectores de ataque, incluidos el uso de credenciales robadas".
Con información de EFE y AFP
, situado en el área de extensiones del navegador (en la esquina superior derecha de la pantalla). Es posible que veas un pequeño número cubriendo parte del icono.
, situado en el área de extensiones del navegador (en la esquina superior derecha de la pantalla). Es posible que veas un pequeño número cubriendo parte del icono.
de modo que se deslice hacia la izquierda.
, situado en el área de extensiones del navegador (en la esquina superior derecha de la pantalla). Es posible que veas un pequeño número cubriendo parte del icono.
. Se pondrá en gris, lo que indica que ya no se bloquearán los anuncios de ese sitio web.
.