¿Mark Zuckerberg es o se hace?

El CEO de Meta, Mark Zuckerberg, publicó esta semana un manifiesto de más de 6.000 palabras sobre el futuro de la inteligencia artificial. Su tesis es que la superinteligencia será una fuerza positiva si en vez de estar concentrada en unas pocas instituciones, se pone en manos de todos. Dice que la apuesta debe ser por una IA basada en el “empoderamiento individual como fuente de prosperidad” y en distribuir la superinteligencia para “dar a cada persona la capacidad de dirigirla”.

El problema es que cuesta no ver un enorme cinismo cuando esa especie de llamado viene de una empresa que concentra una enorme parte del poder sobre infraestructura, modelos, datos y condiciones de acceso a la tecnología.

Zuckerberg sostiene que si una sola persona tuviera una superinteligencia capaz de vulnerar sistemas informáticos, el mundo sería menos seguro, pero si todos la tuvieran los sistemas terminarían siendo más seguros. El mismo razonamiento aplica a abogados, empresas y gobiernos porque repartir esas capacidades extraordinarias generaría controles y contrapesos.
Pero el problema es tan obvio que otra vez a quien escribe esto le cuesta mucho creer que un tipo brillante como Zuckerberg no lo vea. Distribuir una herramienta no implica distribuir el poder que produce. Si hay una empresa que eso lo tiene más que claro es Meta.

Sus aplicaciones llegan diariamente a miles de millones de personas y está invirtiendo miles de millones de dólares en infraestructura para desarrollar IA. Meta está ampliando su capacidad de cómputo a una escala que está al alcance de empresas que se cuentan con los dedos de una mano, tal vez dos. Entonces esa historia que nos cuenta sobre una superinteligencia que llega a la gente omite, deliberadamente, si me preguntan, quién construye la infraestructura y fija las condiciones de acceso.
Zuckerberg convierte una cuestión política en arquitectura tecnológica. Si los modelos son abiertos y los agentes están ampliamente disponibles aparecerá un equilibrio de poder. Pero acceso no es lo mismo que poder. Miles de millones de personas pueden usar Instagram y eso no las convierte en contrapesos de Meta.

No es que esta conclusión sea una idea nueva ni de la autora de este texto. Dario Amodei, CEO de Anthropic, no es un santo, pero al menos esquiva esos niveles de cinismo. Ha escrito extensamente sobre los enormes beneficios posibles de la IA pero advierte que esos beneficios pueden convivir con desplazamiento laboral, concentración extrema de riqueza, vigilancia y sistemas difíciles de controlar. Su preocupación no es solo que la IA quede en pocas manos, sino que amplifique el poder de quienes ya lo tienen.
La diferencia se vuelve especialmente clara cuando ambos hablan de agentes personales. Zuckerberg imagina uno que conozca nuestros objetivos, relaciones, salud, carrera y finanzas y trabaje para nosotros las 24 horas. Amodei advierte, en cambio, que un agente que conoce a una persona durante años podría modelar sus preferencias e influir sobre sus opiniones con una capacidad muy superior a la de las redes sociales actuales. ¿Existe la más remota posibilidad de que Zuckerberg no sepa esto? ¿No lleva años haciéndose más y más rico a caballo de este modelo?

Foto: AFP

Eso vuelve llamativa la seguridad con la que Zuckerberg pasa de “tendremos agentes superinteligentes” a “estarán alineados con nuestros objetivos”, protegerán nuestra privacidad, crearán empleos y se controlarán entre ellos. Entre una cosa y la otra hay problemas técnicos, económicos y políticos que no desaparecen porque el acceso sea amplio.
Entonces, ¿Zuckerberg es o se hace?

No tenemos cómo saberlo. Lo que sí está claro es la coincidencia entre esta supuesta filosofía y los intereses de Meta. Su futuro ideal necesita enormes cantidades de infraestructura, modelos distribuidos masivamente, menos obstáculos para desarrollar IA y miles de millones de personas utilizando agentes personales. Tal vez se crea este "futuro para todos", pero lo que es seguro es que es el futuro que él necesita para seguir haciendo lo que desea.