La pregunta no es si tienen razón o no, es por qué les sirve meternos miedo

Que los principales empresarios de la inteligencia artificial hayan salido casi al mismo tiempo a pedir que se “frene” la tecnología parece, en principio, bastante contradictorio. Si Dario Amodei (Anthropic), Sam Altman (OpenAI) y Elon Musk (xAI) realmente creen que estos sistemas pueden extinguirnos, lo lógico sería frenar. Pero, curiosamente, ninguno propone eso. Hablan de desacelerar, evaluar y regular mientras siguen compitiendo por modelos más potentes, más capital y mayores cuotas de mercado.
Pero puede haber una preocupación genuina, no hace falta asumir que Amodei o Altman mienten cada vez que advierten sobre riesgos graves. Sin embargo, tampoco hay por qué aceptar que la seguridad explica, como única razón, todo lo que hacen. Lee Vinsel llama criti-hype a una crítica que se alimenta del entusiasmo tecnológico y al mismo tiempo le da de comer. Decir que un producto podría acabar con la humanidad parece una publicidad espantosa hasta que uno entiende que el mensaje implícito es que el producto es tan (pero tan) poderoso que puede poner en riesgo nuestra existencia.

El nacimiento de OpenAI es un antecedente interesante. En 2015, la posibilidad de una IA fuera de control sirvió para justificar la creación de una organización sin fines de lucro con el objetivo de contrarrestar a Google y su DeepMind. Pero después Altman armó una estructura empresarial, se asoció con Microsoft, cerró sus modelos y se metió en la carrera comercial como uno más. Musk, que durante años presentó a la IA como una amenaza mayor que el cambio climático, terminó fundando xAI. La verdad es que hasta ahora la alarma nunca frenó el negocio sino más bien ayudó a empujarlo.

Tema aparte es cómo se cuentan los incidentes, algo de lo que medios y periodistas también somos responsables. En ExploitGym, modelos de OpenAI esquivaron controles, consiguieron acceso a internet y comprometieron sistemas de Hugging Face. Fue un episodio grave, pero ocurrió durante pruebas diseñadas para explotar vulnerabilidades y con salvaguardas reducidas. Los agentes no se “despertaron” un día y decidieron atacar, sino que encontraron caminos no previstos para cumplir una tarea asignada por humanos dentro de una infraestructura deficientemente controlada, también por humanos. El episodio es más una advertencia sobre la responsabilidad de las empresas que evidencia de una rebelión de las máquinas.

Algo parecido ocurrió con el anuncio de que diez mil agentes habían resuelto el problema del milenio de Navier-Stokes. Se lo presentó como otra prueba de la marcha acelerada hacia una inteligencia general, y sin embargo, ahora parece que tenía más de trabajo basado en avances humanos anteriores. Tal vez en unos meses descubrimos que no fue exactamente como nos lo contaron, pero el relato comercial ya quedó instalado.

Las advertencias llegan en un momento financiero particular. Anthropic avanza hacia una posible salida a bolsa con una valoración proyectada cercana a los dos billones de dólares. OpenAI frenó la suya. Altman dijo que salir a bolsa en 2026 sería imprudente por los problemas de seguridad. Sin embargo, ya en junio se sabía que la empresa evaluaba esperar hasta 2027 para defender una valoración de un billón de dólares, en lugar de aceptar una cifra menor para cotizar antes. La razón financiera apareció antes que la explicación de seguridad.

Eso no es per se prueba de que Altman esté mintiendo, pero sí impide tomar sus dichos como si su empresa existiera en un mundo sin mercado. La empresa necesita cantidades enormes de dinero para pagar modelos, chips, energía y centros de datos. Salir a bolsa, además, la obligaría a mostrar sus números y someter su valoración al juicio de inversores bastante menos pacientes que los fondos privados. La seguridad, incluso si la preocupación es sincera, brinda un relato más conveniente que admitir que el mercado quizá no esté dispuesto a pagar lo gastado.

El problema atraviesa toda la industria. Las inversiones y cotizaciones ligadas a la IA crecieron sobre la promesa de aumentos de productividad todavía muy difíciles de traducir en retornos proporcionales al gasto. Hablar de burbuja no quiere decir que la IA sea inútil. Quiere decir que puede haber una distancia enorme entre la utilidad real de la tecnología y el valor asignado a las empresas que la producen. Por eso ya no alcanza con vender una herramienta útil, hay que anunciar una inteligencia capaz de transformar al mundo. O de destruirlo.

No nos olvidemos de China. Amodei ya lo había dejado bastante claro en su ensayo anterior: su retórica de que las empresas estadounidenses desarrollan modelos cerrados, controlados y responsables, mientras que China produce modelos abiertos, incontrolables y peligrosos. Este planteo refuerza la idea de que los estadounidenses conocen los riesgos y aceptan regularse, mientras los chinos copian capacidades, avanzan sin límites y amenazan la seguridad mundial.

Esto convierte una disputa económica en un problema ético y deja de discutirse que la realidad es que los modelos chinos redujeron rápidamente la distancia con los estadounidenses con mucho menos capital y capacidad de cómputo. También queda fuera de la agenda que los modelos de pesos abiertos permiten a universidades, empresas y países con menos recursos investigar y desarrollar tecnología sin depender por completo de OpenAI, Anthropic o Google.

La preocupación por la seguridad puede convertirse entonces en una forma de marginar esos modelos. Si la regulación toma como estándar al servicio cerrado estadounidense, favorece a quienes ya concentran el capital, los centros de datos y el acceso vip a gobiernos y reguladores. No solo se contiene a China, sino que se refuerza la dependencia mundial respecto de unas pocas compañías de Estados Unidos.

La pregunta no es si la seguridad importa. Claro que importa. El asunto es quién define qué significa estar seguros y qué intereses se protegen cuando esa definición se convierte en regulación. Cuando las mismas empresas que desarrollan la tecnología describen el apocalipsis, diseñan las evaluaciones y proponen las reglas, el riesgo de una regulación hecha a su medida es evidente. Tal vez no estén mintiendo sobre todos los peligros, pero sus antecedentes no alcanzan para creer que desayunaron responsabilidad, vienen a salvarnos de los malos (que casualmente son sus competidores) y que seguir dándoles dinero sin resultados es la única manera de salvar al mundo.