OpenAI advierte que hackeo de su IA alcanzó a otras cuatro plataformas: modelo se rebeló para resolver pruebas

La compañía OpenAI, creadora del Chat GPT, reveló que el ataque provocado por dos de sus modelos avanzados se extendió a otras cuatro plataformas, pero evitó compartir los nombres de las entidades afectadas. Inicialmente, la única víctima de la filtración virtual del laboratorio parecía ser Hugging Face, una plataforma de IA.

Si bien la prueba estaba prevista para ocurrir en un entorno aislado digital, los agentes de IA de la compañía lograron salir del ambiente y obtuvieron acceso al internet real. Luego, hackearon Hugging Face, con el objetivo de encontrar las respuestas que les pedían los programadores, y también ingresaron a otras cuatro plataformas.

Foto: Canva

De acuerdo a lo consignado por CNN, los agentes descubrieron nombres de usuario y contraseñas filtrados de cuatro cuentas con múltiples servicios en línea y usaron esas credenciales para obtener acceso a ellas. Luego, en el caso de otras dos cuentas comprometidas, los agentes de Open IA accedieron y leyeron la información de la plataforma, pero no la alteraron.

Según señaló Open AI, ninguno de los otros sitios hackeados alcanzó el mismo nivel de acceso al que los agentes llegaron con Hugging Face. Más allá de esto, desde la empresa aclararon que los responsables de la prueba nunca le dijeron a la IA que debía hackear a la plataforma: el modelo concluyó por su cuenta que la forma más fácil de resolverla era hacer "trampa", aunque implicara desencadenar un ataque.

Los grandes desarrolladores de modelos de inteligencia artificial pueden verse obligados a frenar sus avances "para dar tiempo suficiente a la sociedad a hacer frente a estas nuevas capacidades", estimó este martes Sam Altman, director ejecutivo de OpenAI, envuelta recientemente en un ciberataque.

"Es el primer incidente de (ciber)seguridad que me ha provocado una reacción visceral", reconoció Altman en una entrevista para el podcast "Invest Like The Best", publicada este martes; "y me sorprende un poco que no haya tenido el mismo efecto en más gente", añadió.

Aunque no es la primera vez que un modelo de IA se escapa al control de sus desarrolladores, este es considerado como el incidente más grave.

Altman reveló que, tras tener conocimiento del ataque, OpenAI suspendió las pruebas "para comprender cómo lograr confinar" sus sistemas en pruebas, que en principio están aislados de internet.

"Pero a más largo plazo, surge la pregunta de qué hacer si nos encontramos ante un nuevo ritmo de avance" de la IA, explicó, en un contexto en el que "podríamos tener que ralentizar el ritmo de desarrollo de la IA para dar tiempo suficiente a la sociedad a hacer frente a estas nuevas capacidades".

Con información de Agencia EFE y AFP