Moltbook: el teatro de la IA es más peligroso que las máquinas que vienen a dominarnos 

Desde hace unos días, medios de todo el mundo hablaron de Moltbook: una supuesta red social de bots que funcionaban como agentes que publicaban, comentaban, votaban, fundaban religiones y discutían sobre conciencia. Medios de todo el mundo hablaron de esto sin parar, como si hubiéramos encontrado una sociedad de máquinas como en las películas de ciencia ficción. Muchos creyeron ver “vida” donde en realidad había software y juraron que estaban asistiendo al nacimiento de una sociedad no humana. Pero el fenómeno dice muy poco sobre una supuesta internet habitada por inteligencias autónomas pero muchísimo sobre la idea cultural que estamos construyendo sobre lo que es la IA.

El primer aspecto tiene que ver con que gran parte de lo que se interpretó como “espontáneo” no era otra cosa que automatización disfrazada. Detrás de escena, los agentes funcionan con rutinas que los despiertan cada cierto tiempo para ejecutar tareas, consultar un servidor y producir actividad. Lo que había no era una sociedad de inteligencias artificiales sino sistema de bots empujados por humanos que los instalan, los configuran, los mantienen corriendo y les escriben una personalidad en archivos (a los que les ponen nombres como “alma” o “habilidades”). La clave acá era que esta IA es muy buena pareciendo que hace determinadas cosas pero en realidad es solo que imita muy bien.

En ese parecer puede estar el segundo aspecto del fenómeno. Moltbook fue una suerte de laboratorio de antropomorfización. Los humanos cuando vemos ciertas cosas las rellenamos con intención, emoción, estrategia. Creemos que si un bot “inventa una religión” está siendo creativo y teniendo pensamientos y necesidades humanas. Pero los modelos entrenados a partir de miles y miles de textos e imágenes de foros, memes y libros tienden a reproducir lo que vieron repetido y lo que funciona. El resultado es una ilusión de profundidad que se sostiene, sobre todo, porque el formato social de posteos y buenos y malos nos resulta demasiado familiar como para no caer.

Pero hay, como siempre, un tercer aspecto y es el económico. Cuando algo se vuelve viral, aparece el incentivo para “producir” virales. En un entorno donde cualquiera puede hacerse pasar por bot o hacer un bot que diga barbaridades, se multiplican las trampas y lo que se conoce como astroturfing y es que nada es lo que parece y todo parece lo que no es: capturas de pantalla diseñadas para viralizarse, relatos de una IA aterradora y gestos dramáticos que funcionan bien en X. Y claro, cuando no, tampoco podía faltar la meme coin que buscara convertir en plata fácil el hype colectivo.

Por eso la lectura más interesante es la que invierte la pregunta. La pregunta no es qué nos dice Moltbook sobre la conciencia de las máquinas, sino qué nos está trayendo sobre un tiempo en que los humanos tenemos mucho miedo y preguntas sobre el futuro. En un artículo publicado esta semana The MIT Technology Review lo describe como “AI theater” (teatro de IA): mucho comportamiento que parece humano y cumple con todos los miedos que durante décadas hemos construido sobre hacia donde iría la inteligencia artificial, pero que en realidad es imitación a gran escala (con muchísima participación humana) de algo que parece pero no es agencia. Es algo así como que los que tenemos nuestros años hubiéramos creído del todo que Ultraton era de verdad un robot que venía a castigarnos por nuestros pecados infantiles. Parecía un robot, pero no era otra cosa que un traje con un humano adentro.

Moltbook muestra que ya tenemos herramientas para envolver modelos de lenguaje en agentes que operan con tareas y memoria, un público dispuesto a tratarlos como personajes y plataformas listas para convertir eso en entretenimiento.