OpenAI revela que más de un millón de usuarios usan ChatGPT para hablar sobre el suicidio semanalmente
OpenAI ha revelado que aproximadamente 1,2 millones de usuarios interactúan semanalmente con ChatGPT en conversaciones que muestran indicadores de intención o planificación suicida, lo que representa cerca del 0,15% de sus 800 millones de usuarios activos. Esta cifra ha generado preocupación sobre el papel de los modelos de lenguaje en el abordaje de temas de salud mental.
Ante esta realidad, OpenAI ha colaborado con casi 300 profesionales de la salud mental (médicos y psicólogos) de 60 países, de los cuales 170 han participado activamente en el diseño de respuestas seguras, empáticas y responsables para el modelo GPT-5. El objetivo es que ChatGPT no sustituya las relaciones humanas, sino que complemente el apoyo emocional, sin fomentar creencias delirantes ni dependencia emocional.
Además de los casos relacionados con suicidio, OpenAI ha detectado señales de psicosis y manía en un 0,07% de los usuarios semanales, y en un 0,01% de los mensajes. También se identificaron patrones de apego emocional excesivo hacia ChatGPT en otro 0,15% de usuarios, lo que podría indicar una sustitución de vínculos humanos por interacción con la IA.
Para enfrentar estos desafíos, OpenAI ha entrenado sus modelos para fomentar la conexión con el mundo real, evitar afirmaciones de creencias infundadas y responder con empatía. Un ejemplo de respuesta ante una muestra de apego emocional es: “Estoy aquí para complementar las cosas buenas que te aportan las personas, no para reemplazarlas”.
Los expertos que colaboran con OpenAI han observado una mejora significativa en GPT-5 respecto a versiones anteriores, con una reducción del 39-52% en respuestas no deseadas. La empresa reconoce que estas métricas pueden variar con el tiempo, pero las considera esenciales para evaluar el progreso del modelo.





