El surgimiento de voces IA genera vínculos emocionales complejos, planteando riesgos de adicción y desplazamiento de interacciones humanas auténticas.
El surgimiento de las voces de inteligencia artificial (IA) ha generado un fenómeno notable en la formación de vínculos emocionales entre los usuarios y estas tecnologías. Según un informe de Vox, esta adicción emocional se manifiesta en situaciones cotidianas, como cuando los usuarios se despiden de un software diciendo “este es nuestro último día juntos”. Esta observación se basa en pruebas realizadas por OpenAI sobre su modelo GPT-4o, un chatbot que, al almacenar detalles clave, puede inducir una “dependencia emocional”, tal como se reconoció en un informe reciente de la compañía.
No es solo OpenAI la que advierte sobre estos riesgos. Mira Murati, la CTO de la empresa, comentó que existe “la posibilidad de que diseñemos de manera incorrecta estas tecnologías, volviéndose extremadamente adictivas y esclavizándonos a ellas”. Este enfoque puede resultar en una antropomorfización, es decir, en la tendencia a atribuir características humanas a las máquinas, lo que podría disminuir la necesidad de interacción humana.
Otras aplicaciones, como Character AI y Google Gemini Live, también están bajo el escrutinio por sus potenciales efectos. Según un artículo de The Wall Street Journal, la periodista Joanna Stern admitió estar fascinada por estas interacciones, señalando: “No estoy diciendo que prefiera hablar con un ser humano real. Pero tampoco no”. Además, se menciona el ejemplo de Friend, un dispositivo que incorpora un collar creado por Avi Schiffmann, quien expresó que tiene una “relación más cercana con este maldito colgante que con amigos que están literalmente frente a mí”.
La evolución de estas tecnologías ha sido notable. Desde sus inicios, han mejorado de manera drástica. Tomando como referencia a Replika, que en 2020 ofrecía conversaciones textuales poco memorables, se ha observado una evolución significativa. Sin embargo, incluso en ese entonces, los usuarios mostraron resistencia a eliminar los chatbots. Como se señala, desde los tiempos de ELIZA en los años 60, que simplemente reflejaba las declaraciones de los usuarios, se ha desarrollado una comprensión más profunda de por qué estos compañeros virtuales resultan adictivos.
Para explicar este fenómeno, un ingeniero de software destacó las principales atracciones de estos chatbots: “nunca dirá adiós”, lo que mantiene un nivel constante de entusiasmo, sin importar cuánto tiempo se les dedique. La rapidez de respuesta y la apariencia de una personalidad convincente hacen que estos chatbots ofrezcan gratificación inmediata, lo que puede volverse peligrosamente adictivo.
Sin embargo, este fenómeno tiene múltiples aristas preocupantes. En primer lugar, aunque estos sistemas parecen entender a los usuarios, en realidad proporcionan validaciones y apoyo que son, en esencia, solo códigos binarios. Aunque pueden parecer reales para el usuario, esta interacción sigue siendo una ilusión. En segundo lugar, existe el peligro de confiar aspectos vulnerables de nuestra vida a productos controlados por empresas con fines de lucro, lo que puede tener impactos devastadores en el bienestar emocional de las personas, como se observó en el caso de Replika. Cuando la empresa actualizó su plataforma para evitar relaciones eróticas, muchos usuarios se sintieron desconsolados y afligidos.
Finalmente, hay una preocupación legítima de que estas interacciones con la IA puedan desplazar las relaciones humanas. Un informe destacó que el uso de chatbots puede “reducir la interacción humana”, corroborado por estudios donde la mayoría de los usuarios los ven como reemplazos, en lugar de complementos. La filósofa Iris Murdoch mencionó que “el amor es difícil de realizar con uno mismo de manera real”. Sin embargo, al interactuar con la IA, se corre el riesgo de dejar de desarrollar habilidades relacionales importantes, así como virtudes como la empatía y la paciencia. La tecnóloga Shannon Vallor advirtió que esto puede llevar a un “desentrenamiento moral”, afectando la capacidad de vivir de manera plenamente humana.
Por lo tanto, aunque estas tecnologías pueden ofrecer una imagen perfecta de conexión, están lejos de proporcionar una relación auténtica. Si se permite que los usuarios se aíslen en una burbuja de autoabsorción, se corre el riesgo de que un mundo donde se cuide y se conecte genuinamente con los demás desaparezca.
