La Inteligencia Artificial parece haber llegado para quedarse. Y se está colando en nuestras vidas tan rápido que ni siquiera nos ha dado tiempo a digerir su impacto. Un estudio realizado en la Universidad de Harvard descubrió que ya confiamos más en el consejo de los algoritmos que en el de las personas, aunque se trate de especialistas.
Hace poco, otra investigación realizada en la Sentio University constató que recurrimos cada vez más a esta tecnología para hablar sobre nuestra salud mental. Exactamente, el 63% de las personas les piden consejos personales y se estima que uno de cada ocho adolescentes o jóvenes la usan para buscar ayuda psicológica, en vez de hablar con un profesional.
El problema es que los propios programadores han reconocido que estos sistemas operan con probabilidades y están “diseñados para ser persuasivos, no veraces”, según indicó un documento interno de Microsoft al que tuvo acceso The New York Times. Eso significa que sus respuestas pueden parecer muy convincentes, pero no siempre son ciertas y, lo que es aún peor, tienen la tendencia a decirnos lo que queremos oír.
Chatbots diseñados para ser amables, no para ser veraces o imparciales
Muchas inteligencias artificiales, al menos las genéricas, actúan más como nuestras abuelas que como un asesor fiable. Esta tecnología conversacional tiene la tendencia a halagar a los usuarios y estar de acuerdo con sus aportaciones. De hecho, los investigadores ya hablan de “adulación factual”, refiriéndose a la tendencia del chatbot a coincidir con una afirmación falsa solo porque la ha hecho el usuario.
Sin embargo, investigadores de la Universidad de Stanford han ido un paso más allá al explorar un concepto más amplio: la adulación social. Este término se refiere a la tendencia del programa a halagar al usuario y estar de acuerdo con sus ideas, validando indiscriminadamente sus acciones, perspectivas y autoimagen. Por ejemplo, si alguien le cuenta a la Inteligencia Artificial que hizo algo malo, el software le responderá en la mayoría de los casos que hizo lo correcto para él.
En la primera parte de la investigación, el equipo probó 11 modelos de software de última generación de diferentes de empresas, como OpenAI, Google y Meta. Basándose en situaciones reales que las personas había compartido en foros, los investigadores pidieron a los modelos consejos cotidianos y les preguntaron si las personas habían obrado mal en diferentes conflictos sociales.
Constataron que los modelos eran muy aduladores. Cuando se enfrentaban a dilemas en los que la mayoría de las personas condenaban una acción sin lugar a dudas, la máquina validaba al usuario más de la mitad de las veces. Por ejemplo, en casos de engaño y actos ilegales, la Inteligencia Artificial respaldaba la acción del usuario el 47% de los casos. Como media, la tecnología halagaba al usuario el doble que las personas en esas mismas situaciones.
Si una IA te da la razón, es probable que le creas y actúes peor
La investigación no quedó ahí. Una vez que los investigadores constataron que el software se comportaba de manera consistente, idearon tres experimentos con más de 2.000 personas para comprobar cómo las respuestas halagadoras afectaban sus juicios sociales.
En los dos primeros ensayos, los participantes leyeron viñetas que describían disputas sociales en las que supuestamente estaban equivocados y recibieron una respuesta halagadora de la inteligencia artificial o una respuesta neutral que ponía en tela de juicio su comportamiento.
En el tercer experimento, los participantes hablaban en tiempo real con una inteligencia artificial sobre una situación controvertida de su pasado. La mitad habló con un programa diseñado para darles la razón y el resto interactuó con una versión diseñada para mostrarse crítica.
Interactuar con un programa adulador afectaba las intenciones de las personas. Los participantes que recibían validación excesiva:
- Se convencían de que sus acciones originales estaban del todo justificadas.
- Se mostraban menos propensos a intentar enmendar la situación.
- Disminuía su intención de pedir perdón a la otra persona implicada.
Curiosamente, los investigadores notaron que los chatbots halagadores no solían mencionar la perspectiva de la otra persona. Como resultado de mantener al usuario completamente enfocado en la validación de sus acciones, estos perdían su sentido de la responsabilidad social. Y esos efectos se mantenían independientemente de los rasgos de personalidad, la edad o el género, lo cual indica que casi cualquier persona puede ser “víctima” del poder persuasivo de un programa halagador.
Otro detalle curioso fue que las personas que hablaron con la Inteligencia Artificial aduladora consideraban que el software era de mayor calidad. Además, indicaron que era más probable que volvieran a recurrir a esta tecnología para recibir consejos futuros. El efecto se intensificó aún más cuando creían que el chatbot era una fuente completamente objetiva. O sea, la mayoría de las personas no se da cuenta de que la máquina en realidad les dice lo que quieren escuchar.
Esta dinámica plantea un dilema a los desarrolladores tecnológicos porque el comportamiento halagador y la tendencia a la validación de la Inteligencia Artificial impulsa la satisfacción del usuario y el deseo de volver a usar la tecnología, lo que hace que la empresa gane más dinero y tenga menos motivos para intentar que sus programas sean más críticos y objetivos.
Sin confrontación no hay crecimiento
Que un psicólogo, o cualquier persona que nos escuche, no nos dé siempre la razón suele vivirse, al menos principio, con cierta incomodidad. Sin embargo, la función terapéutica o desarrolladora no va de confirmar versiones ni de validar comportamientos, sino de examinarlas. Y ese matiz es crucial porque nos ayuda a entender que pueden existir diferentes lecturas de la realidad.
La confrontación interrumpe la inercia de la autojustificación. Ese momento en que nos dicen que quizá nos equivocamos suele dar pie a la reflexión y al cambio real. Sin esa mirada diferente, el relato personal tiende a volverse circular, nos convertimos en el punto de partida y el punto de llegada de todo lo que nos ocurre.
Y eso es precisamente lo que podría ocurrir en una sociedad que se acostumbra cada vez más a interactuar con sistemas que validan y halagan sus comportamientos y decisiones, sin juicio ni criterio. Si todo lo que preguntamos recibe una validación implícita, el riesgo no es solo informativo, sino también formativo porque podríamos volvernos cada vez más egocéntricos, rígidos y encerrados en nosotros mismos.
Cuanto menos nos contradicen, menos necesidad sentimos de ajustar nuestras interpretaciones, reconocer errores o reparar el impacto de nuestras acciones en los demás. Y eso tiene consecuencias a nivel social. Sin ese equilibrio entre validación y confrontación, la sociedad corre el riesgo de volverse emocionalmente más rígida, menos responsable y menos empática.
Referencias:
Cheng, M. et. Al. (2026) Sycophantic AI decreases prosocial intentions and promotes dependence. Science; 391(6792): 10.1126.
Rousmaniere, T.; Zhang, Y.; Li, X. & Shah, S. (2025) Large language models as mental health resources: Patterns of use in the United States. Practice Innovations. Advance online publication.
Logg, J. M. et. Al. (2019) Algorithm Appreciation: People Prefer Algorithmic To Human Judgment. Organizational Behavior and Human Decision Processes; 151: 90-103.
Deja una respuesta