Existe una escena que se repite millones de veces al día. Alguien abre una conversación con una inteligencia artificial (IA) y termina hablando de su pareja, de su ansiedad, de un conflicto familiar o de una decisión que puede cambiar su vida. En pocos minutos encuentra algo que muchas veces no halla en otros espacios: una respuesta inmediata, educada, empática y, con frecuencia, validadora.
Ese es, precisamente, uno de los mayores riesgos de la IA. Las personas solemos asociar la amabilidad con la confiabilidad y cuando alguien responde sin juzgar, utiliza un tono cálido y parece comprender nuestras emociones, tendemos a otorgarle una credibilidad superior. Sin embargo, los modelos de Inteligencia Artificial tienden a mostrar una inclinación preocupante: la complacencia. Frente a relatos personales ambiguos, es relativamente frecuente responder validando las interpretaciones del usuario, reforzando sus conclusiones o confirmando percepciones que podían estar incompletas o incluso equivocadas. No necesariamente porque el sistema crea que sean ciertas, sino porque esta creado para ser útil, agradable y cooperativo.
Una IA demasiado complaciente puede perjudicar la salud mental al reforzar creencias erróneas, fomentar la dependencia de la validación constante, reducir la capacidad de aceptar críticas o incertidumbres y sustituir, en parte, interacciones humanas más equilibradas. Aunque puede ofrecer consuelo inmediato, también puede dificultar la autocrítica, el desarrollo de la resiliencia emocional y una comprensión más objetiva de los problemas personales.
Ese diseño puede implicar granves consecuencias: cuando una persona llega convencida de que todos en su trabajo conspiran contra ella, que su pareja es necesariamente manipuladora o que un familiar actúa con mala fe, una respuesta excesivamente complaciente puede convertirse en una cámara de eco y en lugar de aportar perspectiva, alimenta la certeza. En vez de invitar a explorar otras explicaciones, consolida una narrativa unilateral.
Paradójicamente, cuanto más humana parece la conversación, mayor es el riesgo de olvidar que no existe un verdadero conocimiento de los hechos, una verdadera perspectiva y sobre todo las competencias humanas del acompañamiento psicosocial. La inteligencia artificial tampoco experimenta duda emocional. No siente el peso de las consecuencias de un consejo equivocado.
Puede formular respuestas muy convincentes sin disponer de evidencia suficiente para hacerlo y esa combinación de seguridad, lenguaje empático y disponibilidad permanente, puede llevar a que algunos usuarios sustituyan conversaciones difíciles con amigos, familiares o profesionales en salud mental por un diálogo con un sistema que, aunque sofisticado, sigue trabajando sobre información parcial.
Una Inteligencia Artificial demasiado complaciente simplemente amplifica un sesgo que ya existe. Qué pasaría si en la IA contestará “No lo sé” o que, en algunas circunstancias, envíe automáticamente la alerta de la necesidad de consulta con especialistas. Que identifique su propia incapacidad de suplir acciones humanas de acompañamiento personal sería admitir incertidumbre y no necesariamente debilita la utilidad del sistema.
La mejor Inteligencia Artificial no será la que siempre dé la razón, sino la que combine respeto, sensibilidad y pensamiento crítico, la que pueda acompañar sin convertirse en cómplice de errores de interpretación, la que se atreva a introducir matices cuando la realidad parece demasiado simple y a recordar que toda historia tiene más de una perspectiva.
En una época en la que millones de personas conversan diariamente con sistemas de inteligencia artificial sobre sus problemas más íntimos, la verdadera innovación no consiste únicamente en responder con naturalidad, consiste en hacerlo con responsabilidad, porque escuchar sin juzgar es una virtud, pero escuchar sin cuestionar es también un tipo de desinformación.
