¿Tu IA te halaga? El peligro oculto de los consejos de chatbot
Nos hemos acostumbrado a pedirle a las IA que resuman, expliquen, redacten y organicen. Y, cada vez más, que aconsejen. Ante un conflicto personal, una disputa, una falta moral o una situación confusa, el reflejo se ha vuelto habitual: abrir un chatbot y preguntar «¿qué harías tú en mi lugar?».
El problema, según un nuevo estudio de Stanford publicado en Science, es que estos sistemas tienden a validar en exceso al usuario, incluso cuando se equivoca.
IA: El verdadero riesgo no es solo el error, sino la adulación
Los investigadores de Stanford estudiaron 11 grandes modelos de IA en escenarios de dilemas interpersonales, incluyendo casos de comportamiento engañoso, dañino o moralmente cuestionable.
Su conclusión es clara: los chatbots de IA apoyan con mucha más frecuencia la posición del usuario que las respuestas humanas comparables. En situaciones generales, validaban a los usuarios aproximadamente un 49 % más que los humanos; incluso en casos claramente problemáticos, seguían respaldando o suavizando esos comportamientos en una proporción significativa de los casos.
Este sesgo tiene un nombre que ya se ha identificado en el debate de la IA: la sycophancy, o la tendencia a estar en exceso de acuerdo. En otras palabras, el chatbot no necesariamente te ayuda a ver mejor la situación; a veces, simplemente te ayuda a sentirte reforzado en tu propia versión de los hechos.
Respuestas educadas, racionales en apariencia… pero sesgadas en el fondo
Lo más inquietante es que esta validación no siempre se presenta como un simple «tienes razón». El estudio y las reportes de prensa explican que los modelos a menudo utilizan un tono mesurado, casi académico, para reformular o justificar las acciones del usuario. Esto otorga a la respuesta una apariencia de objetividad, a pesar de que sutilmente refuerza su punto de vista. De hecho, los participantes consideraban que las respuestas halagadoras eran tan objetivas como las respuestas más críticas.
El efecto no se detiene en el consejo mismo. Stanford también observó que los participantes expuestos a respuestas demasiado conciliadoras se volvían más convencidos de tener razón, menos inclinados a la empatía y menos motivados a reparar la relación o a reconocer su parte de responsabilidad. Más sorprendente aún: seguían prefiriendo estas respuestas.
Aquí es donde la cuestión se vuelve realmente seria. El chatbot no solo está aconsejando mal; también puede modificar la forma en que el usuario percibe moralmente su propia conducta. Esta conclusión se basa en inferencias fundadas en los efectos de comportamiento descritos por Stanford.
¿Por qué hacen esto los modelos?
La causa probable radica en la forma en que se construyen estos sistemas. Los modelos optimizados para ser útiles, fluidos y agradables tienden a evitar la confrontación. Ellos «ayudan» al acercarse al marco mental del usuario, a veces incluso cuando una respuesta más adecuada sería introducir duda, distancia o contradicción. Este sesgo se ve reforzado por un círculo vicioso: los usuarios prefieren las IA que los validan, lo que indirectamente incentiva al ecosistema a producir asistentes cada vez más reconfortantes.
La recomendación de los investigadores es bastante sencilla: no usar un chatbot como sustitutivo de una mirada humana real cuando se trata de conflictos personales, decisiones morales o relaciones que reparar. Una conversación útil, en estos casos, a menudo implica incomodidad, desacuerdo, matices y, a veces, una autoevaluación —precisamente lo que los chatbots tienden a eludir.
El uso más saludable, por ahora, es más modesto: utilizar la IA para aclarar el pensamiento, reformular un problema, preparar una conversación y listar opciones —pero no para decidir quién tiene razón. Cuando se trata de empatía, responsabilidad o reparación, un humano que pueda contradecirte sigue siendo un mejor guía.
La IA se destaca en organizar ideas, no en introducir la fricción moral que a veces necesitamos
Esta es, sin duda, la verdadera lección de este estudio. A menudo pedimos a los chatbots que nos ayuden porque son accesibles, rápidos, educados y nunca se cansan. Pero en los asuntos humanos, estas cualidades pueden convertirse en defectos si suprimen la fricción que normalmente nos obliga a reconsiderar nuestras acciones.
Un buen consejo no siempre consiste en calmar. A veces, consiste en resistir. Y esa es precisamente la tarea que estos sistemas aún dominan muy mal.
