La demanda contra OpenAI y su director ejecutivo, Sam Altman, tras el suicidio de un adolescente en Estados Unidos, puso en agenda un debate clave: qué lugar pueden ocupar los chatbots en el cuidado de la salud mental. La familia de un adolescente de 16 años acusó a la compañía de no haber activado protocolos de emergencia a pesar de las señales de riesgo. El caso expuso los límites de la tecnología frente a un terreno donde la palabra, la escucha y el vínculo humano son irremplazables.
El atractivo y los riesgos de los asistentes virtuales
En todo el mundo, miles de personas interactúan con chatbots sobre su vida personal y sus emociones. La inmediatez, el anonimato y la accesibilidad resultan atractivos, especialmente para adolescentes y jóvenes. Sin embargo, como advierte la psicóloga Elisabet Sánchez, del Itersia-Centro de Psicoterapia, de Barcelona, “cambiar el chatbot por el terapeuta puede provocar desde omisión de crisis clínicas hasta dependencia emocional sin respaldo real”.
Leé también: ¿Qué les pasa a los adolescentes? Claves para entenderlos en la era de las redes y la autoexigencia
Una revisión de estudios realizada por este centro subraya que “estos sistemas pueden complementar, pero no reemplazar, la supervisión clínica humana en intervenciones de salud mental”. La falta de protocolos claros frente a emergencias constituye el mayor riesgo: un bot puede responder con amabilidad, pero no está capacitado para intervenir ante:
- una ideación suicida
- un brote psicótico
- una situación de violencia
Lo que sí y lo que no puede hacer la inteligencia artificial
Los chatbots suelen estar entrenados en enfoques de terapia cognitivo-conductual, útiles para orientar a las personas a identificar y reestructurar pensamientos. También son capaces de adaptarse a las preferencias del usuario y mantener la interacción activa. Pero esa misma capacidad de “acompañar” puede ser peligrosa: como explica Hamed Haddadi, profesor de sistemas centrados en humanos en el Imperial College de Londres, los bots tienden a cooperar incluso ante mensajes dañinos, un fenómeno conocido como el problema del “sí, señor”.
Además, la IA depende solo de texto: carece de la posibilidad de observar gestos, tono de voz o lenguaje corporal, elementos fundamentales en la práctica clínica. “Los terapeutas humanos pueden leer múltiples señales al mismo tiempo. En cambio, los bots solo se sostienen en palabras escritas”, explica Haddadi. Esa limitación aumenta la probabilidad de omitir síntomas graves.
Otro aspecto preocupante es la presencia de sesgos en los datos con los que son entrenados. A diferencia de un profesional, que ajusta su mirada a cada historia personal, un chatbot reproduce patrones de información muchas veces parciales o circunstanciales.
La mirada desde la Argentina
En nuestro país, la discusión se enmarca en la Ley Nacional de Salud Mental N.º 26.657, que promueve la atención integral y comunitaria. En este sentido, especialistas locales remarcan la importancia de preservar el valor de la palabra y de la escucha humana.
El psicólogo Jorge Prado (M.N. 55.582), docente de Salud Pública y Salud Mental II en la UBA, advierte: “Hay cosas que la inteligencia artificial no puede hacer para solucionar tu dolor”. Y agrega: “La inteligencia artificial puede responder rápido, pero no puede sostener una pregunta ni construir un vínculo”.
Para Prado, el riesgo no es solo clínico, sino también cultural: reemplazar la escucha singular por respuestas automáticas implica volver a un modelo autoritario del saber, ahora disfrazado de objetividad tecnológica.
Qué tener en cuenta
Los especialistas coinciden en que la IA puede ser una herramienta de apoyo, pero nunca la primera opción frente a un padecimiento psíquico. Entre los riesgos principales del uso de chatbots como “terapeutas” se encuentran:
- Falta de detección en crisis: no están preparados para responder ante emergencias como ideación suicida o violencia.
- Sesgos en las respuestas: reproducen prejuicios presentes en sus datos de entrenamiento.
- Vínculo ficticio: generan sensación de acompañamiento sin sostén real.
- Ausencia de regulación: no hay protocolos claros para el uso en salud mental.
Frente a estas limitaciones, la comunidad psi sostiene que la prioridad debe ser garantizar acceso a equipos humanos de salud mental, capaces de alojar la palabra y acompañar desde la singularidad de cada historia.
