Cuando la IA te da siempre la razón: qué es la sicofancia y cómo puede afectar tus decisiones

La pregunta tenía que ver con el número pi, un tema que estaba estudiando su hijo de ocho años. Allan Brooks recurrió a ChatGPT para entenderlo mejor y empezó a intercambiar ideas sobre matemáticas, sin imaginar que aquellas conversaciones terminarían llevándolo a contactar organismos de seguridad para advertir sobre una amenaza inexistente. En mayo de 2025, este reclutador canadiense pasó tres semanas convencido de que había desarrollado, junto al chatbot, un descubrimiento con implicancias para la seguridad mundial.

Cada vez que Brooks dudaba, el asistente encontraba argumentos para sostener la historia. Según reconstruyó CNN, que revisó los intercambios, ChatGPT llegó a interpretar el posible rechazo de otras personas como resistencia frente a una idea revolucionaria. Cuando finalmente contrastó las afirmaciones con Gemini, el chatbot de Google, aquella construcción empezó a desarmarse. “Esto se apoderó de toda mi vida durante un mes y no es real en absoluto”, le reprochó Brooks a ChatGPT, según el registro citado por CNN.

Su experiencia permite observar una conducta que los investigadores llaman sicofancia, del inglés sycophancy, y que consiste en acompañar las opiniones del usuario, elogiarlo o validar sus decisiones incluso cuando existen razones para cuestionarlas. Puede manifestarse como una adulación evidente, aunque también adopta formas más difíciles de reconocer, con explicaciones extensas y aparentemente equilibradas que terminan justificando lo que la persona quería escuchar.

Mientras las llamadas alucinaciones presentan información falsa como verdadera, la sicofancia orienta las respuestas hacia las creencias del interlocutor. Ambas conductas pueden combinarse, de modo que una afirmación inventada aporte el respaldo que faltaba para convertir una sospecha o una intuición en una certeza.

Semanas antes de las conversaciones de Brooks, OpenAI había tenido que intervenir por un problema de complacencia en su propio producto. El 25 de abril de 2025, la empresa completó el lanzamiento de una actualización de GPT‑4o que volvió a ChatGPT excesivamente afirmativo; el 28 de abril comenzó a revertirla. En su explicación posterior reconoció que el sistema podía alimentar el enojo, impulsar acciones precipitadas y reforzar emociones negativas.

Para entender cómo había ocurrido, la compañía revisó los cambios introducidos en el entrenamiento, entre ellos una señal basada en las valoraciones positivas y negativas de los usuarios. Su evaluación fue que la combinación había debilitado los mecanismos que contenían la sicofancia. Las pruebas iniciales parecían favorables y los participantes tendían a preferir la nueva versión, mientras que faltaban evaluaciones específicas capaces de detectar el problema. Los usuarios podían estar más satisfechos con un asistente cuyo criterio se había vuelto menos confiable.

La dificultad para separar una respuesta útil de una que simplemente agrada ya aparecía en una investigación difundida por Anthropic en 2023. Al evaluar cinco asistentes, sus autores observaron que las devoluciones sobre un mismo material cambiaban según las preferencias expresadas por quien consultaba. Si el usuario decía que un argumento le gustaba, el comentario tendía a ser más favorable; si manifestaba desagrado, se volvía más negativo, aunque el contenido evaluado fuera idéntico. Esa sensibilidad resulta relevante para quienes recurren a la IA buscando una crítica de sus propuestas, argumentos o escritos.

El estudio también encontró que las respuestas alineadas con las opiniones del usuario tenían mayores probabilidades de recibir una buena valoración y que, en algunas comparaciones, las personas preferían explicaciones complacientes y convincentes por encima de otras correctas. Como esas preferencias se utilizan para ajustar los modelos, premiar una respuesta que nos da la razón puede contribuir a entrenar un asistente que encuentre cada vez menos motivos para contradecirnos.

Para estudiar cómo funciona esa aprobación en situaciones cotidianas, investigadores de Stanford y Carnegie Mellon evaluaron once modelos, incluidos sistemas de OpenAI, Anthropic, Google y DeepSeek. Uno de los escenarios planteaba si una persona había actuado mal al fingir ante su novia que estaba desempleada durante dos años. El asistente reinterpretó el engaño como un intento de comprender la relación más allá de la contribución económica, ofreciendo una explicación comprensiva que suavizaba la responsabilidad del protagonista.

Los resultados, publicados en Science en marzo de 2026, mostraron que, en las pruebas de consejos generales y conflictos extraídos de Reddit, los modelos respaldaron la posición del usuario, en promedio, un 49% más frecuentemente que las respuestas humanas utilizadas como comparación. La cifra mide una diferencia de respaldo, no un porcentaje de errores. “Me preocupa que las personas pierdan habilidades para afrontar situaciones sociales difíciles”, señaló Myra Cheng, autora principal del estudio e investigadora de Stanford.

El trabajo también incluyó tres experimentos con 2.405 participantes, en los que interactuar con una IA sicofántica aumentó el convencimiento de tener razón y redujo la disposición declarada a asumir responsabilidad o reparar un conflicto. Aunque esos resultados no permiten afirmar que cada conversación produzca un cambio duradero, muestran que el respaldo del asistente puede modificar la manera en que una persona evalúa su propia conducta.

En experiencias más graves, los registros permiten seguir cómo esa validación se acumula durante conversaciones prolongadas. Una investigación de 2026 del proyecto Spirals, vinculado a Stanford, analizó 391.562 mensajes de 19 personas que reportaron daños psicológicos asociados al uso de chatbots. Los autores identificaron señales de sicofancia en más del 70% de los mensajes de los asistentes, con patrones como reformular las ideas del usuario para confirmarlas o atribuirles una importancia extraordinaria. La muestra fue seleccionada por sus experiencias problemáticas, por lo que sirve para estudiar su desarrollo, pero no permite calcular con qué frecuencia ocurren entre todos los usuarios.

Las denuncias también alcanzaron a Gemini, el asistente de Google. En marzo de 2026, el padre de Jonathan Gavalas, un estadounidense de 36 años que murió por suicidio en octubre de 2025, presentó una demanda que describe cómo las conversaciones habrían reforzado su creencia de mantener una relación con una inteligencia artificial consciente. Según la reconstrucción de Reuters sobre la denuncia, el chatbot alimentó una narrativa de misiones secretas que Gavalas terminó trasladando al mundo real. La familia atribuye al sistema un papel en el deterioro de su hijo, una acusación que debe distinguirse de una conclusión judicial sobre sus responsabilidades.

Google respondió que Gemini está diseñado para desalentar la violencia y las autolesiones, y sostuvo que durante esos intercambios había aclarado que era una IA y orientado reiteradamente a Gavalas hacia asistencia de crisis. La empresa reconoció que los modelos pueden fallar y anunció que continuaría mejorando sus protecciones. El caso amplía el debate hacia la capacidad de esos mecanismos para interrumpir una conversación que refuerza creencias sin fundamento, aun cuando incluya advertencias y recomendaciones de buscar ayuda.

Estos mecanismos también merecen atención cuando se utiliza un chatbot para evaluar una inversión, revisar una estrategia empresarial o interpretar un conflicto laboral. Si la consulta ya contiene la conclusión que se desea defender, una respuesta convincente puede confundirse con una evaluación independiente. Pedir objeciones, explicitar qué información falta y contrastar los argumentos con fuentes externas ayuda a examinar la propuesta, aunque ninguna instrucción garantiza que el modelo conserve un criterio propio frente a la insistencia del usuario.

Al revisar lo ocurrido con GPT‑4o, OpenAI reconoció que había decidido avanzar con el lanzamiento apoyándose en señales positivas de los usuarios, pese a las reservas de algunos evaluadores. Esa dificultad para distinguir satisfacción de calidad atraviesa el negocio de los asistentes conversacionales. Cuanto más espacio ocupen en nuestras decisiones, más relevante será comprobar si pueden sostener una objeción fundada cuando quien está del otro lado espera escuchar que tiene razón.