Los agentes de inteligencia artificial (IA) podrían provocar "incidentes graves" de aquí a uno o dos años si las empresas y los gobiernos no adoptan medidas apropiadas para garantizar su seguridad, advirtió el miércoles, en Dublín, Demis Hassabis, presidente de Google DeepMind.
Los casos de pérdida de control de agentes autónomos de inteligencia artificial observados en los últimos meses "son, en cierto modo, señales de alerta", previno Hassabis en una cumbre sobre inteligencia artificial en Dublín.
Según añadió, estos sistemas todavía tienen capacidades limitadas, por lo que los incidentes ocurridos hasta ahora no han sido graves en su opinión.
La preocupación por la seguridad de la IA se ha disparado después de que modelos desarrollados por OpenAI y Anthropic se vieran implicados en incidentes de seguridad durante las pruebas, lo que ha aumentado la presión para regular esta tecnología.
Hassabis afirmó que probablemente los nuevos modelos de IA deberían probarse primero en entornos aislados sin conexión, conocidos como "sandboxes", después de que modelos de otras empresas lograran escapar precisamente de los entornos cerrados utilizados para evaluar sus capacidades.
La respuesta de la Unión Europea y el alcance de la Ley de IA
Henna Virkkunen, vicepresidenta ejecutiva de la Comisión Europea, responsable de Soberanía Tecnológica, Seguridad y Democracia, afirmó que las empresas de IA debían dedicar más tiempo a probar sus sistemas para mantener el control sobre ellos.
"La competencia a escala mundial es tan intensa que parece que ninguna de las empresas está invirtiendo realmente suficiente tiempo y recursos en poner a prueba sus modelos", declaró Virkkunen a los periodistas a su llegada a la cumbre de Dublín.
"Deben ser capaces de controlar estos sistemas", afirmó, y añadió que la Unión Europea ha enviado solicitudes de información a todas las principales empresas de IA para preguntarles qué medidas de seguridad y protección tienen implantadas.
La Comisión Europea obtuvo nuevas competencias reguladoras en agosto en virtud de la Ley de IA (AI Act), la normativa más ambiciosa del mundo para limitar los usos potencialmente peligrosos de esta tecnología.
AFP
- El presidente Trump crea una “Fuerza de Superinteligencia” en Estados Unidos, ¿en qué consiste y qué hará? Presidentes de EE.UU. y China acuerdan un canal de diálogo sobre la IA y un marco para nuevo trato arancelario "Podría causar la extinción humana": alerta de políticos y expertos tras renuncia de un ingeniero de Anthropic Trabajó en OpenAI y Anthropic y renunció con una feroz advertencia sobre la IA: "Creen que podrá matarnos"
, situado en el área de extensiones del navegador (en la esquina superior derecha de la pantalla). Es posible que veas un pequeño número cubriendo parte del icono.
, situado en el área de extensiones del navegador (en la esquina superior derecha de la pantalla). Es posible que veas un pequeño número cubriendo parte del icono.
de modo que se deslice hacia la izquierda.
, situado en el área de extensiones del navegador (en la esquina superior derecha de la pantalla). Es posible que veas un pequeño número cubriendo parte del icono.
. Se pondrá en gris, lo que indica que ya no se bloquearán los anuncios de ese sitio web.
.