El ingeniero que dijo que la IA puede "matarnos a todos" dio entrevistas y explicó los escenarios posibles

Tras dar una advertencia sobre la inteligencia artificial (IA) en la red social X que replicó en todo el mundo, el ingeniero Jacob Coxon, ex desarrollador en Anthropic —empresa detrás de Claude— y OpenAI —la creadora de ChatGPT— dio varias entrevistas para brindar las respuestas pendientes.

Coxon había escrito este martes que renunció a ambas empresas porque "no están actuando con responsabilidad" y están "jugando con nuestras vidas". Aseguró además que las personas que están tras el desarrollo exponencial de la IA "creen que podrá matarnos a todos al final de esta década", porque "no hay otra actividad humana que suponga este nivel de amenaza".

Evan Hubinger, investigador de Anthropic, respondió a Coxon en X: "Jacob tiene razón aquí, realmente creemos con sinceridad que la IA podría matar a todos los humanos. Personalmente, pienso que es más del 10 % dentro de la próxima década".

Al otro día, en diálogo con CNN, el ingeniero dijo entender que su mensaje suena a “ciencia ficción”, pero que se trata de algo “aterradoramente real”. En ese sentido, recordó lo ocurrido hace dos meses, cuando OpenAI informó que sus modelos avanzados se descontrolaron durante una prueba de seguridad y hackearon por su cuenta Hugging Face, una biblioteca de código en línea.

“Creo que si extrapolamos hacia el futuro el nivel de capacidades de estas IA, manteniendo esa misma voluntad independiente, podrían causar un caos extremo”, alertó. A su entender, los modelos “podrían hackear infraestructura crítica o construir armas biológicas capaces de provocar una extinción”, como algunos de los escenarios posibles.

Foto: Archivo El País.

Consultado sobre cuándo cambió su percepción sobre la IA, Coxon dijo que en parte fue al observar la velocidad del progreso, especialmente en áreas de programación y matemáticas. “Hace un par de años, estas IA apenas ayudaban un poco a los seres humanos. Podían hacer sugerencias. Ahora están cerca de reemplazarlos”, sostuvo.

Aunque aún no sea así, pronosticó que dentro de un año ya no se necesite de intervención humana para realizar investigaciones en muchas áreas. Por ejemplo, el mismo día que realizó su hilo en X, OpenAI anunció que su sistema, utilizando agentes autónomos, resolvió uno de los siete “Problemas del Milenio” matemático (ecuaciones de Navier-Stokes).

“Lo más aterrador es si la IA se utiliza para hacerse a sí misma más inteligente. Puedes tomar una IA y darle el problema de investigar sobre IA. (...) Y entonces se produce lo que se conoce como una “explosión de inteligencia”. La IA se vuelve cada vez más inteligente sin que sea necesaria la participación humana, hasta llegar a tener algo que sea enormemente más inteligente que los seres humanos. Y esto podría ocurrir muy pronto”, sentenció.

Más adelante proyectó que esta especie de mejora recursiva e independiente podría suceder en el 2027 o 2028.

No obstante, Coxon dijo estar “completamente de acuerdo” con las puntualizaciones de algunos de sus colegas sobre que al momento el nivel de riesgo de los modelos es bajo. La preocupación, sin embargo, está en la velocidad con la que están mejorando.

Foto: AFP

“Ahora mismo no existe un riesgo de extinción. Con los modelos actuales, lo peor que pueden hacer es quizás hackear algo y potencialmente causar muchos daños en infraestructura, pero no son lo suficientemente inteligentes como para superarnos de una manera que conduzca a la extinción” aclaró.

El problema es cuando la IA entre en la mencionada fase “recursiva”: ahí es donde “todos podemos morir”.

Ante la pregunta de si cree que los directores ejecutivos de las principales empresas desarrolladoras de IA dicen la verdad cuando mencionan que están a favor de una regulación global, el ingeniero dijo que son expresiones “completamente sinceras”.

“Estas personas también son completamente sinceras cuando piden a gritos que las regulen. Y se encuentran en una situación en la que se ven obligadas a competir para desarrollar una tecnología potencialmente mortal, y les encantaría que algún organismo internacional les permitiera avanzar a un ritmo razonable”, comentó.