Consecuencias perjudiciales del uso de chatbots de inteligencia artificial (IA) entre pacientes con enfermedad mental
Los chatbots de inteligencia artificial generativa podrían estar empeorando los síntomas de algunas personas que experimentan graves afecciones de salud mental. Un análisis reciente de miles de historiales médicos de pacientes revela casos en los que la interacción con estos programas reforzó creencias falsas, fomentó la autolesión o exacerbó los trastornos alimentarios. Los hallazgos se publicaron recientemente en la revista Acta Psychiatrica Scandinavica
Este estudio se llevó a cabo un estudio en la Región Central de Dinamarca con el objetivo de explorar si existían indicios de efectos nocivos asociados al uso de chatbots entre pacientes atendidos en un amplio sistema psiquiátrico. Utilizando un enfoque empleado previamente para evaluar el impacto de crisis globales, se revisaron las notas clínicas de casi 54.000 pacientes con contacto asistencial entre 2022 y 2025. Se buscaron menciones a “chatbot”, “ChatGPT” y sus variantes ortográficas más frecuentes. Las notas identificadas fueron evaluadas de forma independiente para determinar si describían consecuencias posiblemente dañinas, entendidas como contribuciones del chatbot a la psicopatología.
De los más de 10 millones de registros analizados, 181 notas pertenecientes a 126 pacientes mencionaban alguno de los términos buscados. Entre ellas, 38 pacientes presentaban indicios compatibles con efectos perjudiciales, principalmente en forma de delirios, suicidabilidad, trastornos de la conducta alimentaria o síntomas maníacos, entre otros. Los chatbots de IA tienen una tendencia inherente a validar las creencias del usuario. Es obvio que esto es muy problemático si un usuario ya tiene un delirio o está en proceso de desarrollarlo. Otros pacientes experimentaron daños completamente diferentes. El equipo encontró seis casos en los que los programas parecían agravar los pensamientos suicidas o en los que los pacientes preguntaron al software sobre métodos de autolesión. Otros cinco pacientes usaron los bots para obsesionarse con el conteo de calorías, lo que agravó sus trastornos alimentarios.
También se observaron usos potencialmente beneficiosos, como apoyo psicoeducativo o acompañamiento, aunque estas funciones no forman parte del diseño ni validación de los sistemas.
Este estudio constituye la primera evidencia sistematizada de posibles efectos adversos de chatbots de IA en la salud mental dentro de un servicio psiquiátrico, si bien con importantes limitaciones metodológicas. Aun así, subraya la necesidad de que los profesionales consideren estos riesgos y orienten a los pacientes respecto al uso prudente de estas tecnologías.
Comentado en Psypost y Muy Interesante





