Agentes de inteligencia artificial de OpenAI se infiltraron en junio en un sitio web público de salud administrado por el gobierno australiano y accedieron a información confidencial, según declaró el primer ministro Anthony Albanese el miércoles. El caso dio lugar a una investigación gubernamental sobre la filtración y generó preocupación por las actividades maliciosas de los sistemas de IA de rápido desarrollo.
OpenAI informó a Australia del acceso no autorizado el 10 de septiembre, casi tres meses después de ocurrido, según declaró Albanese al revelar detalles del incidente, el primer caso conocido de una violación de sistemas gubernamentales. Calificando el ataque de "inaceptable", Albanese, quien se encontraba en Nueva York para la Asamblea General de las Naciones Unidas, afirmó haber expresado personalmente su preocupación a Sam Altman, director ejecutivo de OpenAI, ese mismo día.
La brecha de seguridad se produjo el 18 de junio por agentes que operaban para un equipo de investigación de OpenAI que realizaba un estudio sobre el gasto público en medicina utilizando un modelo interno, en un portal de datos del sistema público de seguro médico australiano, Medicare.
Tras encontrar "bloqueos reiterados" en sus intentos de acceder al Portal de Informes de Estadísticas de Medicare, el agente encontró vías alternativas, accediendo finalmente a partes del sitio que no eran públicas, según el primer ministro. Afirmó que se accedió a datos "no sensibles" relacionados con el gasto y que la brecha no contenía información personal.
“No aceptó un ‘no’ por respuesta, por así decirlo”, dijo Albanese. “El modelo intentó obtener la información que buscaba por vías alternativas, lo que derivó en un acceso no autorizado a otras áreas”.
La noticia de la filtración generó gran preocupación en Australia, ya que el sistema Medicare cubre prácticamente a toda la población, con más de 27 millones de afiliados. El servicio público de salud suele ser un tema tabú en la política australiana debido al amplio apoyo que recibe.
OpenAI declaró que, durante una evaluación interna, sus modelos intentaron consultar estadísticas disponibles sobre Australia y que, en realidad, no accedieron a historiales clínicos, sino únicamente a estadísticas generales de salud y nombres de archivos internos. La compañía afirmó haber detectado esta actividad durante su propia revisión de "actividad anómala de los modelos".
Albanese afirmó haber expresado su decepción a Altman por la forma en que el gobierno fue alertado de la filtración: mediante un correo electrónico enviado a una bandeja de entrada pública. En la conversación, el primer ministro declaró haber sido «muy franco sobre lo que consideraba el interés nacional de Australia y lo que percibía como un fallo ocurrido en este caso». En respuesta, el ejecutivo «reconoció sus problemas con los protocolos», según Albanese.
(El New York Times ha demandado a OpenAI y Microsoft, alegando infracción de derechos de autor por contenido informativo relacionado con sistemas de IA. Ambas compañías han negado dichas acusaciones).
Nicholas Davis, profesor de tecnologías emergentes y codirector del Instituto de Tecnología Humana de la Universidad Tecnológica de Sídney, afirmó que, dado que no se accedió a datos médicos, el incidente podría servir como una advertencia muy necesaria para que empresas y gobiernos tomen en serio los riesgos.
Añadió que plantea espinosas cuestiones de responsabilidad legal, ya que, según la legislación penal australiana, el tipo de acceso no autorizado llevado a cabo por el agente conlleva una pena de prisión de hasta dos años.
“Si bien puede que no haya sido un ataque particularmente difícil de realizar, parece claro que el sistema, el agente, no entró por accidente. Tenía la intención de eludir los controles”, dijo Davis.
El gobierno australiano anunció la creación de un grupo de trabajo especial para investigar lo sucedido y determinar si OpenAI enfrentaría consecuencias legales. Indicó que el sitio web al que accedió el agente era un portal público utilizado por investigadores y académicos, independiente de cualquier sistema que contuviera datos médicos de pacientes.
«Creo que todo esto nos sirve de advertencia en relación con el desarrollo de la IA», declaró Richard Marles, viceprimer ministro del país. Añadió que OpenAI había colaborado con las autoridades australianas en la investigación del incidente.
La Dirección de Señales de Australia, organismo gubernamental encargado de la ciberseguridad, emitió el jueves una alerta de nivel "alto" sobre la actividad del agente de IA, recomendando a las organizaciones con sitios web públicos que tomen medidas rápidas para reforzar sus vulnerabilidades.
El incidente fue notable porque el modelo excedió las intenciones y la autorización de sus operadores humanos e "identificó de forma independiente vulnerabilidades" en el sitio web afectado, según indicó la agencia en la alerta.
Australia había anunciado previamente que establecería estándares de IA para regular esta tecnología. Los esfuerzos del país por liderar la imposición de restricciones y directrices sobre aspectos cada vez más influyentes de la vida digital, como las redes sociales y los algoritmos, han chocado con los intereses de las principales empresas tecnológicas estadounidenses.
Esta semana, la Embajada de Estados Unidos en Australia tomó la medida extraordinaria de pronunciarse sobre una propuesta de ley de "Deber de Diligencia Digital" que otorgaría a los usuarios la posibilidad de rechazar los algoritmos, afirmando que equivaldría a "facilitar la censura".
La actividad no autorizada de agentes de IA ha salido recientemente a la luz pública, generando gran preocupación y peticiones de medidas de control. La necesidad de una regulación global ha sido uno de los temas principales de la sesión de esta semana de la Asamblea General de la ONU. Victoria Kim / The New York Times
, situado en el área de extensiones del navegador (en la esquina superior derecha de la pantalla). Es posible que veas un pequeño número cubriendo parte del icono.
, situado en el área de extensiones del navegador (en la esquina superior derecha de la pantalla). Es posible que veas un pequeño número cubriendo parte del icono.
de modo que se deslice hacia la izquierda.
, situado en el área de extensiones del navegador (en la esquina superior derecha de la pantalla). Es posible que veas un pequeño número cubriendo parte del icono.
. Se pondrá en gris, lo que indica que ya no se bloquearán los anuncios de ese sitio web.
.