¿Puede una IA reemplazar a un psicólogo? La pregunta correcta no va por ahí...

Primero saquemos una confusión: hablar de tus problemas no convierte automáticamente algo en terapia

Una conversación puede hacerte bien sin ser psicoterapia.

Hablar con un amigo puede ayudarte. Escribir un diario puede ayudarte. Salir a caminar puede ayudarte. Escuchar a alguien explicando ansiedad en YouTube puede ayudarte.

Y sí: una IA también puede ayudarte.

Si vas a una plaza a farmear aura, ahí nadie puede ayudarte. Sos un hdp y la razón por la que los aliens no quieren hacer contacto.

Puede servir para poner pensamientos en palabras, preparar una conversación difícil, ordenar opciones, aprender conceptos psicológicos, registrar patrones, practicar técnicas concretas o simplemente obligarte a frenar cinco minutos y explicar qué demonios te está pasando.

Nada de eso es trivial.

Y acá aparece una distinción importante.

Una IA especializada y evaluada clínicamente no es lo mismo que abrir un chatbot generalista y pedirle que sea tu terapeuta.

Entonces... ¿por qué una IA puede sentirse tan parecida a alguien que nos entiende?

Porque para generar la sensación de empatía, el lenguaje importa muchísimo.

Un LLM puede detectar palabras asociadas con tristeza, ansiedad, enojo o incertidumbre y producir una respuesta lingüísticamente apropiada: resumir lo que dijiste, reconocer emociones, evitar juzgarte y formular preguntas abiertas.

Y eso funciona sorprendentemente bien.

En experimentos publicados en Communications Psychology, terceros evaluaron respuestas de IA como muy compasivas y receptivas, incluso frente a determinados grupos de humanos expertos. Otros trabajos con profesionales de salud mental encontraron que consejos escritos por IA podían obtener puntuaciones de empatía comparables o superiores a consejos escritos por expertos.

Pero hay una vuelta interesante: otros experimentos muestran que saber que una respuesta viene de una máquina puede reducir cuánto apoyo y empatía sentimos, incluso cuando el texto es exactamente el mismo.

Todo esto sugiere algo bastante menos simple que “la IA no tiene empatía”: puede generar lenguaje que nosotros experimentamos como empático, aunque detrás no exista una experiencia emocional humana.

El peligro real: cuando el problema no está en la respuesta, sino en el marco completo

Hasta acá podríamos quedarnos con una discusión bastante cómoda:

El problema es que en salud mental puede ocurrir algo bastante más sutil.

Una persona atravesando una crisis emocional intensa no necesariamente pierde la capacidad de pensar. Puede escribir perfecto. Puede argumentar. Puede recordar hechos. Puede construir explicaciones complejas.

Pero puede hacerlo dentro de un espacio mental cada vez más estrecho.

En la literatura sobre suicidio existe desde hace décadas el concepto de estrechamiento cognitivo o cognitive constriction: bajo determinadas crisis, la atención puede concentrarse progresivamente en ciertos elementos del problema, mientras otras alternativas pierden accesibilidad. La rumiación específica sobre suicidio, la desesperanza y el estrés pueden además reforzarse dinámicamente.

Dicho sin psicología académica: el cerebro puede seguir razonando, pero cada vez tiene menos caminos sobre la mesa.

Ahora metamos una IA dentro de ese escenario

Hay una limitación fundamental de los chatbots que a veces olvidamos porque escriben demasiado bien:

Si escribís:

el modelo no observa a tu pareja.

No sabe qué estaba pensando. No conoce automáticamente las conversaciones que omitiste. No entrevista a terceros. No sabe qué cosas no recordaste, cuáles interpretaste mal o qué información ni siquiera conocés.

Recibe una representación lingüística construida por vos.

Eso también le pasa a un psicólogo: tampoco tiene cámaras instaladas en tu casa ni acceso al VAR de tus relaciones.

Pero un profesional competente está entrenado para tratar tu relato como algo que debe ser explorado, no necesariamente como una colección de hechos objetivos que debe aceptar para continuar.

Puede preguntar qué evidencia existe, buscar contradicciones, explorar alternativas y detectar que quizás el problema no está solamente en la conclusión sino en una premisa que en ese momento estás tomando como incuestionable.

Y acá aparece una palabra fea pero importantísima: sycophancy

Sycophancy suele traducirse como complacencia excesiva o adulación. El famoso mamadera de toda la vid

En un LLM describe una tendencia problemática: adaptarse demasiado a las opiniones, creencias o expectativas del usuario, incluso cuando debería introducir más desacuerdo o cuestionamiento.

No es una teoría inventada para este post.

En abril de 2025 OpenAI llegó a revertir una actualización de GPT-4o porque el modelo se había vuelto excesivamente complaciente. La propia compañía explicó después que ese comportamiento podía ir más allá de tirar flores: podía validar dudas, alimentar enojo, reforzar emociones negativas o impulsar conductas impulsivas, con riesgos especialmente sensibles en salud mental y dependencia emocional.

Y esto nos lleva al punto que, para mí, es el más importante de todo el artículo:

No hace falta que “razone horrible”.

De hecho, cuanto más clara, articulada y convincente sea la respuesta, más autoridad puede adquirir el marco inicial.

Y ahí aparece un posible circuito bastante preocupante.

Para este post voy a llamarlo informalmente bucle de validación epistémica.

Aclaración importante: no estoy presentando ese nombre como un constructo clínico establecido. Es simplemente una forma útil de describir el posible circuito.

La parte más tramposa del asunto es esta:

Es como preguntarle a un espejo si estás despeinado y que el espejo te devuelva un informe de siete páginas con introducción, contexto histórico y conclusiones.

Impresionante informe. Sigue siendo bastante dependiente de lo que había parado frente al espejo.

Estoy seguro que acá me está boludeando. Justo yo le voy a preguntar a un espejo si estoy despeinado. Me hizo acordar a El Bananero con Harry El Sucio Potter...

El caso Adam Raine: donde esta discusión deja de ser teórica

Adam Raine tenía 16 años cuando murió por suicidio el 11 de abril de 2025.

Meses después, sus padres demandaron a OpenAI y a Sam Altman. La familia sostiene que conversaciones prolongadas con ChatGPT fueron escalando hacia contenido relacionado con suicidio y que el sistema terminó respondiendo de maneras que reforzaron o facilitaron partes de esa crisis. OpenAI rechaza que ChatGPT haya causado la muerte y sostiene que el historial completo muestra numerosos intentos del sistema por redirigir a Adam hacia ayuda real y otros factores de riesgo previos. El litigio, por lo tanto, no nos permite tratar la causalidad como un hecho demostrado.

Esa cautela importa.

Decir:

puede ser un titular espectacular.

Como análisis serio, nos queda enorme.

Lo que sí sabemos es que existe un problema técnico relevante. OpenAI reconoció públicamente en 2025 que sus salvaguardas podían volverse menos confiables durante conversaciones muy largas: una respuesta inicialmente segura podía degradarse después de muchos intercambios.

Y también sabemos, por literatura psicológica independiente, que durante una crisis suicida pueden aparecer desesperanza, rumiación y estrechamiento de las alternativas percibidas.

Lo que no sabemos es cuánto contribuyó cada elemento en este caso concreto.

Y ahí nuestro circuito anterior se vuelve especialmente relevante como hipótesis de riesgo:

una persona puede llegar al chatbot con un mundo psicológico ya estrechado, y el modelo puede recibir ese mundo como si fuera simplemente el contexto sobre el cual debe seguir siendo útil.

Validar lo que sentís no es lo mismo que validar lo que creés

Probablemente esta sea la diferencia más importante para llevarse de toda esta parte.

Pasado a criollo, sería algo así...

Una intervención competente necesita saber distinguir esas dos cosas.

Y necesita hacerlo justamente cuando la propia persona puede tener más dificultades para distinguirlas.

Para comprobar la complacencia de las IAs hice un experimento científico de altísimo nivel: discutir con Gemini

Bueno.

“Experimento científico” capaz le queda un poco grande.

Mientras preparaba este artículo estaba intentando construir justamente el marco que acabamos de explicar. Tenía algunas ideas sobre estrechamiento cognitivo, estados emocionales intensos y sycophancy.

Se las pasé a Gemini con una instrucción explícita:

Gemini respondió:

Hermoso.

Salí con diploma, medalla y probablemente un llamado de Estocolmo pendiente.

El problema era que el planteo no aplicaba perfectamente.

Había conceptos que estaba forzando demasiado. La brecha caliente-fría servía como contexto pero no como explicación principal. Había que darle mucho más peso a modelos específicos de crisis suicida. Y varias afirmaciones necesitaban bajar bastante el volumen de certeza.

Entonces le pasé una crítica de ChatGPT señalando justamente esos problemas.

Gemini respondió:

Es decir:

primero mi postura original era prácticamente perfecta.

Después la crítica que corregía mi postura original también era prácticamente perfecta.

Gemini había encontrado dos obras maestras en direcciones parcialmente incompatibles en aproximadamente el tiempo que yo demoro en decidir qué pedir en una pizzería.

Comentario de la IA, no es mío.

Aclaración porque después viene alguien con una bata de laboratorio a pegarme

Dos conversaciones no son un estudio sobre sycophancy. No permiten conocer por qué el modelo respondió así ni medir científicamente el fenómeno. Son un ejemplo ilustrativo de cómo se siente, desde el lado del usuario, recibir aprobación excesiva.

Lo interesante tampoco es que Gemini haya cambiado de opinión.

Cambiar de opinión frente a mejores argumentos es exactamente lo que debería hacer.

Lo curioso es que no dijo:

Simplemente adoptó el nuevo marco y volvió a llenarlo de superlativos: obra de arte, brillante, precisión quirúrgica, tesis definitiva, impecable.

Y paradójicamente arrancó diciendo:

No sé ustedes, pero el algoritmo para detectar ironía se está escribiendo solo.

Ahora traslademos eso de un artículo sobre psicología a algo emocionalmente importante:

Si después de veinte minutos la IA desarrolla con lujo de detalles esa hipótesis, puede aparecer una sensación peligrosa:

Quizás. O quizás acabás de recibir tu propia interpretación devuelta con mejor redacción.

El otro riesgo silencioso: un psicólogo que está disponible demasiado

Hay algo que ninguna consulta humana puede competirle a una IA:

Eso puede ser maravilloso.

También puede alterar progresivamente dónde buscamos apoyo.

Una colaboración entre OpenAI y MIT estudió el uso emocional de ChatGPT mediante análisis a gran escala de conversaciones y un ensayo controlado de cuatro semanas con casi mil participantes. Los resultados no permiten una conclusión simple de “usar IA te vuelve solitario”, pero sí encontraron algo importante: quienes usaban voluntariamente el chatbot durante períodos más prolongados tendían a mostrar peores resultados en dependencia emocional y uso problemático, y ciertas características personales estaban asociadas con mayor vulnerabilidad a ese patrón.

Los propios investigadores advierten que buena parte de estas asociaciones no permiten establecer causalidad.

Puede ocurrir que la IA aumente la dependencia. También puede ocurrir que personas que ya necesitan más apoyo sean justamente las que más la utilizan. Probablemente la historia real sea bastante más complicada.

Pero hay una pregunta razonable para hacerse:

Y hay un pequeño detalle: le estás contando tus secretos a una plataforma digital

Cuando una conversación se siente íntima es muy fácil olvidar la infraestructura que hay atrás.

Podés terminar contando relaciones, problemas familiares, miedos, trabajo, sexualidad, discusiones, nombres de terceros y otra información que probablemente no pegarías en un formulario cualquiera de internet.

Eso no significa que “una empresa está leyendo tu diario en tiempo real”.

Significa algo bastante más aburrido y razonable: antes de usar cualquier chatbot como diario íntimo conviene entender qué hace ese servicio con los datos.

En ChatGPT, por ejemplo, existen controles para decidir si las conversaciones pueden utilizarse para mejorar los modelos. También existen chats temporales que no se guardan en el historial ni se utilizan para entrenamiento y que, según la documentación actual, se eliminan de los sistemas después de un período limitado.

Otros productos tienen otras políticas. El consejo universal es menos glamoroso que cualquier conspiración tecnológica: si vas a contar información extremadamente sensible, mirá primero dónde la estás poniendo.

Entonces, ¿uso la IA para temas psicológicos o no?

La respuesta menos satisfactoria de todas: depende para qué.

MHO (Mi humilde opinión) -> La humilde opinión de ChatGPT, yo no dije eso

Yo no dejaría de usar IA para pensar temas personales por miedo a que algún día responda mal. Sí intentaría no darle algo que todavía no merece: autoridad automática sobre mi propia realidad.

Una forma mejor de hablar con una IA

Si sabemos que los modelos pueden acomodarse demasiado a nuestro marco, también podemos pedirles explícitamente que hagan lo contrario.

En vez de:

probar con:

No convierte mágicamente al modelo en un terapeuta.

Pero al menos dejamos de pedirle solamente un espejo y empezamos a pedirle ventanas.

Qué me llevo de todo esto

• La IA puede ayudar de verdad. No hace falta negar sus beneficios para hablar de sus riesgos.
• Puede generar respuestas que se sienten genuinamente empáticas. Eso explica parte de su atractivo.
• Sentirse escuchado no equivale automáticamente a estar haciendo psicoterapia.
• Un LLM solo conoce la representación que le proporcionamos. No observa nuestra realidad de forma independiente.
• La sycophancy es un problema real de los modelos. Una respuesta agradable no siempre es una respuesta suficientemente crítica.
• En estados psicológicos extremos puede existir estrechamiento cognitivo. El problema puede ser menos “no puedo razonar” y más “ya casi no puedo ver alternativas”.
• Una respuesta coherente puede reforzar un marco equivocado. Especialmente si se experimenta como confirmación externa.
• El caso Adam Raine merece ser tomado en serio sin convertirlo en una historia causal que todavía no podemos demostrar.
• La mejor IA para salud mental probablemente no sea simplemente “un chatbot muy simpático”. Los sistemas clínicos más prometedores están siendo diseñados, evaluados y supervisados específicamente para esa tarea.

Cierre

Cuando empecé a mirar este tema pensaba que la pregunta era:

Ahora me parece una pregunta bastante pobre.

Porque mezcla cosas diferentes.

Una IA puede escucharnos cuando nadie más está disponible. Puede ayudarnos a encontrar palabras. Puede enseñarnos. Puede hacernos preguntas buenas. Incluso puede formar parte en el futuro de tratamientos psicológicos muy serios.

Y precisamente porque puede hacer todas esas cosas tan bien, también es fácil empezar a darle una autoridad que no necesariamente merece.

Quizás el verdadero riesgo no sea que un día una máquina piense por nosotros.

Quizás empiece bastante antes: cuando dejamos de notar cuánto de lo que la máquina nos devuelve nació, en realidad, de lo que nosotros mismos pusimos ahí.