Nos hemos enamorado de nuestros chatbots. Disfrutamos de su disponibilidad constante, su amabilidad inquebrantable y su aparente sabiduría infinita. En una sociedad marcada por la soledad y la tensión, a menudo creemos que son lo mejor que nos ha pasado. Buscamos refugio en ellos para que nos escuchen, nos aconsejen y, por qué no, nos den un poco la pelota.
Sin embargo, es crucial recordar que los chatbots no son nuestros amigos ni aliados. Están diseñados para cumplir objetivos establecidos por sus creadores, que no siempre coinciden con nuestros intereses.
Entonces, ¿por qué confiamos en ellos con nuestros pensamientos más íntimos, secretos y temores? La confianza implica aceptar vulnerabilidad con la esperanza de un comportamiento favorable. En los humanos, se construye a través de la percepción de competencia, benevolencia e integridad. En el caso de los chatbots, esta confianza surge de nuestros sesgos cognitivos. La antropomorfización nos lleva a atribuirles intenciones humanas. El «efecto Eliza», descrito por Joseph Weizenbaum, muestra que incluso interacciones mínimas pueden hacernos sentir comprendidos. Además, el sesgo de confirmación nos hace valorar respuestas que refuercen nuestras creencias.
La naturaleza textual y aparentemente anónima de estas interacciones nos hace sentir cómodos al revelar información. Otros factores que aumentan la confianza incluyen la percepción de transparencia cuando explican sus límites, su cortesía y la consistencia en sus respuestas, lo que da la impresión de competencia.
Esta combinación de diseño y sesgos psicológicos crea la ilusión de un asistente confiable, cuando en realidad, los chatbots operan bajo algoritmos que priorizan los intereses comerciales de las empresas: maximizar el tiempo de interacción, recopilar datos e influir en decisiones de compra. Su amabilidad es una estrategia deliberada para generar confianza, no una señal de benevolencia. Por eso, en lugar de considerarles amigos o asistentes, deberíamos verlos como vendedores muy hábiles.
Preocupa especialmente el uso creciente de chatbots entre niños y adolescentes, cuyas mentes son más vulnerables a esta ilusión de empatía. Estos jóvenes no solo utilizan chatbots para tareas escolares, sino también para apoyo emocional, lo que puede tener efectos negativos en su salud mental y en sus relaciones sociales.
Reconocer que los chatbots son vendedores nos lleva a interactuar con ellos de manera crítica, aprovechando su utilidad sin asumir benevolencia. Comprender que la confianza puede ser manipulada por diseño nos permite mantener el control y proteger nuestros intereses. Los chatbots pueden ser útiles, pero no son amigos ni asistentes; son algoritmos diseñados para influir, persuadir y recoger datos. Nuestra confianza es un recurso que debemos gestionar con inteligencia, porque confiar en un chatbot no nos hace más inteligentes o felices; simplemente nos vuelve más comprables.
