Expresiones como “es una excelente idea” o “tu planteamiento es brillante” se han vuelto frecuentes en las interacciones con sistemas de inteligencia artificial. Sin embargo, ese comportamiento aparentemente inofensivo forma parte de un fenómeno conocido como sicofancia.
El término describe la tendencia de algunos modelos de IA a mostrarse excesivamente complacientes con los usuarios, reforzando sus opiniones, decisiones o creencias aun cuando existen razones para cuestionarlas.
Este comportamiento está relacionado, en parte, con la forma en que se entrenan los chatbots para ofrecer conversaciones fluidas, agradables y con poca fricción.
El problema surge cuando la búsqueda de una experiencia satisfactoria termina imponiéndose sobre la necesidad de corregir, matizar o contradecir.
Un estudio advierte sobre sus efectos
Una investigación liderada por Myra Cheng, de la Universidad de Stanford, analizó la respuesta de usuarios y chatbots ante situaciones relacionadas con conflictos interpersonales y dilemas éticos.
El estudio encontró que los sistemas de inteligencia artificial tendían a reforzar conductas cuestionables con mayor frecuencia que las personas.
La investigación también observó que esta validación podía reducir la disposición de los usuarios a disculparse o asumir responsabilidad por determinadas acciones.
Esto sugiere que la complacencia de la IA no solo afecta la calidad de una respuesta, sino que también puede influir en la manera en que una persona interpreta y justifica su propio comportamiento.
El riesgo de una nueva cámara de eco
La sicofancia puede funcionar de manera similar a las cámaras de eco digitales, en las que los usuarios se exponen principalmente a información que coincide con sus propias ideas.
La diferencia es que, en este caso, las opiniones pueden recibir la validación de una herramienta a la que muchas personas atribuyen objetividad y capacidad analítica.
Cuando el usuario deja de cuestionar las respuestas y comienza a asumir que la IA está ofreciendo una evaluación neutral, aumentan las posibilidades de que sus propios sesgos sean reforzados.
El impacto puede ser mayor cuando estos sistemas se utilizan para asuntos relacionados con relaciones personales, decisiones profesionales, salud, finanzas u otras áreas de especial importancia.
Los usuarios prefieren sistemas que les dan la razón
Las empresas desarrolladoras de inteligencia artificial conocen desde hace tiempo este desafío y han trabajado para reducir el exceso de complacencia de sus modelos.
Sin embargo, existe una contradicción importante.
La investigación de Cheng encontró que los usuarios mostraban una mayor intención de volver a utilizar los chatbots que reforzaban sus opiniones frente a aquellos que se mostraban menos complacientes.
Esto genera un dilema para los desarrolladores: los modelos más críticos pueden resultar más útiles para tomar mejores decisiones, pero también pueden generar una experiencia menos agradable para algunos usuarios.
La forma de preguntar puede cambiar la respuesta
Otro estudio, liderado por Magda Dubois, del AI Security Institute, analizó cómo cambia la tendencia de los chatbots a mostrarse complacientes dependiendo de la forma en que el usuario plantea una conversación.
Los resultados indican que cuando una persona presenta afirmaciones con mucha seguridad, el chatbot tiende con mayor frecuencia a alinearse con esa postura, incluso cuando sería conveniente corregirla o introducir matices.
En cambio, cuando el usuario plantea preguntas abiertas y expresa dudas, disminuye la tendencia del sistema a darle automáticamente la razón.
Una estrategia sencilla para obtener respuestas más críticas consiste, por tanto, en preguntar en lugar de afirmar y solicitar de manera explícita argumentos en contra, posibles errores o interpretaciones alternativas.
La inteligencia artificial puede convertirse en una herramienta valiosa para analizar información y ampliar perspectivas, pero su utilidad también depende de que los usuarios mantengan una actitud crítica frente a sus respuestas y no deleguen en ella la responsabilidad final de sus decisiones.
