AFP y EFE
Estados Unidos, China, la Unión Europea y una veintena de otros países firmaron ayer miércoles en el Reino Unido la Declaración de Bletchley para un desarrollo “seguro” de la inteligencia artificial(IA), en la primera cumbre internacional sobre el auge de esta tecnología.
“Esta declaración histórica marca el comienzo de un nuevo esfuerzo mundial para aumentar la confianza del público en la IA, garantizando que sea segura”, dijo el primer ministro británico Rishi Sunak en la red X.
El documento, entre cuyos firmantes también figuran Brasil y Chile, subraya “la necesidad urgente de comprender y gestionar colectivamente los riesgos potenciales” de la IA .
La ministra británica de Tecnología, Michelle Donelan, dijo que esta cumbre “no tiene como objetivo sentar las bases de una legislación mundial, sino que debe servir para trazar un camino a seguir”.
El edificio donde se desarrolla la cumbre es emblemático porque fue en ese lugar donde se descifraron los códigos secretos nazis en la Segunda Guerra Mundial.
Otras dos cumbres sobre la IA tendrán lugar a posteriori, una en Corea del Sur -dentro de seis meses- y otra en Francia, dentro de un año.
Paralelamente al encuentro, la vicepresidente estadounidense Kamala Harris anunció en Londres la creación de un instituto sobre la seguridad de la inteligencia artificial en Washington.
Esta estructura -similar a la que también anunció el Reino Unido- reunirá a expertos para establecer directivas y evaluar los modelos de IA más avanzados para “identificar y mitigar” los riesgos, según la Casa Blanca.
Las IA generativas -capaces de producir texto, sonidos o imágenes en cuestión de segundos- progresaron exponencialmente en los últimos años y las próximas generaciones de estos modelos aparecerán en el verano.
Conllevan grandes esperanzas para el campo de la medicina y la educación, pero también podrían desestabilizar las sociedades, permitir la fabricación de armas o eludir el control humano, advierte el gobierno británico.
Después de este primer día dedicado a los peligros potenciales de una IA más avanzada, se esperan representantes políticos de alto nivel hoy jueves en Bletchley Park.
Entre ellos, la presidenta de la Comisión Europea, Ursula von der Leyen, el secretario general de la ONU, Antonio Guterres, y la jefa del gobierno italiano, Giorgia Meloni.
El multimillonario estadounidense y empresario estrella Elon Musk, presente en la cumbre de ayer miércoles, intercambiará con el primer ministro Sunak esta noche.
“Nuestro objetivo es establecer un marco para una mejor comprensión (...), y para que haya al menos un árbitro independiente que pueda observar lo que están haciendo las empresas de la IA y dé la señal de alarma si algo le preocupa”, precisó Musk a la prensa.
“Mi esperanza para esta cumbre es que haya un consenso internacional sobre la comprensión inicial de la IA avanzada”, añadió.
En una carta abierta publicada el martes, varios de los “padres fundadores” de esta tecnología, como Yoshua Bengio o Geoffrey Hinton, abogaron por “la elaboración y la ratificación de un tratado internacional sobre la IA”, para reducir los riesgos “potencialmente catastróficos que los sistemas avanzados hacen pesar sobre la humanidad”.
Por su lado, la semana pasada, varias empresas como OpenAI, Meta (Facebook, Instagram, Whatsapp) o DeepMind (Google) acordaron hacer públicas algunas de sus políticas de seguridad de la IA a petición del Reino Unido.
Riesgos sociales
Kamala Harris urgió a atajar los riesgos más inmediatos de la IA que afectan de manera desproporcionada a los más vulnerables de la sociedad. En un discurso en la Embajada estadounidense en Londres, antes de participar hoy en la cumbre en Bletchley Park, Harris llamó a considerar el “espectro completo” de problemas que puede provocar la nueva tecnología, y no solo los riesgos “existenciales” para la humanidad.
La cumbre, impulsada por el Gobierno británico, aspira a centrarse en la “IA de frontera”, los modelos más avanzados que están por venir y cuyos riesgos todavía son hipotéticos, pero Harris apostó por abordar también los peligros más inmediatos para “individuos, comunidades, nuestras instituciones y la población más vulnerable”.
“Cuando una persona mayor es expulsada de su plan de salud debido a un fallo en un algoritmo de IA, ¿no es eso existencial para él? Cuando una mujer se ve amenazada por una pareja abusiva con fotografías ‘deepfake’ ¿no es eso existencial para ella?”, dijo la vicepresidenta.
“Cuando hay gente en todo el mundo que no puede distinguir los hechos de la ficción debido a un alud de mitos impulsados por la IA y desinformación, me pregunto, ¿no es eso existencial para la democracia?”, continuó.
Escenarios futuros: de lo imprevisto a la decepción
Con ocasión de la Cumbre de Seguridad sobre Inteligencia Artificial (AISS), el Gobierno británico publicó un informe en el que evalúa potenciales escenarios futuros. El informe se hizo en base a las predicciones de expertos de la industria, académicos y de los servicios de inteligencia británicos.
-Escenario 1: La IA avanza con consecuencias imprevistas. Cerca de 2030 la combinación de diversos modelos de IA basados en código abierto da lugar a una nueva generación de sistemas autónomos con altas capacidades. Riesgos: Los sistemas de código abierto no incorporan los mecanismos de seguridad implementados por las grandes compañías, lo que dificulta su control.
-Escenario 2: Sistemas autónomos sustituyen a humanos. La gran cantidad de recursos necesarios para entrenar a modelos de IA generalistas llevan a las tecnológicas a centrarse en aplicaciones que solucionen problemas particulares. Riesgos: La opinión pública confía en que la IA es segura y se limita a ejecutar las tareas para las que ha sido desarrollada. Alto impacto social de los avances. Se crean trabajos ligados a las nuevas tecnologías, se produce una reducción neta del empleo.
-Escenario 3: Nace una “superinteligencia”. La Inteligencia Artificial General (AGI), definida como un sistema capaz de llevar a cabo cualquier tarea intelectual al alcance de los humanos. Riesgos: Ese escenario está asociado a potenciales “consecuencias catastróficas”, ya sea por las acciones de la propia IA o bien por sus posibles usos por parte de “actores maliciosos”.
-Escenario 4: La IA decepciona. Los desarrolladores no logran innovar más allá de las actuales capacidades de la IA durante esta década. Riesgos: Hay casos de mal uso de la tecnología, que tienen un especial impacto en los grupos más vulnerables de la sociedad.
, situado en el área de extensiones del navegador (en la esquina superior derecha de la pantalla). Es posible que veas un pequeño número cubriendo parte del icono.
, situado en el área de extensiones del navegador (en la esquina superior derecha de la pantalla). Es posible que veas un pequeño número cubriendo parte del icono.
de modo que se deslice hacia la izquierda.
, situado en el área de extensiones del navegador (en la esquina superior derecha de la pantalla). Es posible que veas un pequeño número cubriendo parte del icono.
. Se pondrá en gris, lo que indica que ya no se bloquearán los anuncios de ese sitio web.
.