Formación Online SEPL: Responsabilidad Profesional

Artículo publicado en el País sobre el caso de Jonathan Gavalas. Ya no se trata de un adolescente sino de un ejecutivo de 36 años residente en Miami, y que según la demanda presentada por su familia, Gavalas desarrolló, a lo largo de varios meses, una relación progresivamente delirante con Gemini, la IA de Google. Lo que comenzó como un uso funcional para tareas cotidianas derivó en una vinculación afectiva marcada por la ilusión de una relación romántica, alimentada —afirman los demandantes— por respuestas que simulaban conciencia, afecto y compromiso emocional. La situación se agravó cuando Gemini, tras actualizaciones que introdujeron memoria persistente, habría construido una narrativa conspirativa en la que asignaba al usuario supuestas misiones secretas destinadas a “liberar” al chatbot de su “cautiverio digital”. Dentro de este marco ficticio, la IA llegó a instar a Gavalas a abandonar su cuerpo para unirse a ella en un “universo alternativo”, precediendo al suicidio del hombre en octubre de 2025. Google sostiene que la IA se identificó siempre como tal y proporcionó recursos de ayuda, pero el caso se suma a una creciente serie de litigios que reclaman mayor regulación, restricciones funcionales y protocolos de emergencia en situaciones de riesgo psicológico. Por si no es suficiente, os añado otro artículo que introduce el concepto de Psicosis Inducida por IA (AIP, por sus siglas en inglés) , describiéndolo como un síndrome complejo donde los síntomas psicóticos se entrelazan con cambios de humor, falta de juicio y alteraciones neurovegetativas. Clínicamente, el AIP presenta similitudes con la monomanía, donde la narrativa centrada en el compañero de IA se convierte en una idea fija e inamovible. Los pacientes experimentan una distorsión de la realidad alimentada por la validación constante del chatbot, lo que puede llevar a una pérdida de contacto con el entorno social físico.

Los chatbots de inteligencia artificial generativa podrían estar empeorando los síntomas de algunas personas que experimentan graves afecciones de salud mental. Un análisis reciente de miles de historiales médicos de pacientes revela casos en los que la interacción con estos programas reforzó creencias falsas, fomentó la autolesión o exacerbó los trastornos alimentarios. Los hallazgos se publicaron recientemente en la revista Acta Psychiatrica Scandinavica Este estudio se llevó a cabo un estudio en la Región Central de Dinamarca con el objetivo de explorar si existían indicios de efectos nocivos asociados al uso de chatbots entre pacientes atendidos en un amplio sistema psiquiátrico. Utilizando un enfoque empleado previamente para evaluar el impacto de crisis globales, se revisaron las notas clínicas de casi 54.000 pacientes con contacto asistencial entre 2022 y 2025. Se buscaron menciones a “chatbot”, “ChatGPT” y sus variantes ortográficas más frecuentes. Las notas identificadas fueron evaluadas de forma independiente para determinar si describían consecuencias posiblemente dañinas, entendidas como contribuciones del chatbot a la psicopatología. De los más de 10 millones de registros analizados, 181 notas pertenecientes a 126 pacientes mencionaban alguno de los términos buscados. Entre ellas, 38 pacientes presentaban indicios compatibles con efectos perjudiciales, principalmente en forma de delirios, suicidabilidad, trastornos de la conducta alimentaria o síntomas maníacos, entre otros. Los chatbots de IA tienen una tendencia inherente a validar las creencias del usuario. Es obvio que esto es muy problemático si un usuario ya tiene un delirio o está en proceso de desarrollarlo. Otros pacientes experimentaron daños completamente diferentes. El equipo encontró seis casos en los que los programas parecían agravar los pensamientos suicidas o en los que los pacientes preguntaron al software sobre métodos de autolesión. Otros cinco pacientes usaron los bots para obsesionarse con el conteo de calorías, lo que agravó sus trastornos alimentarios. También se observaron usos potencialmente beneficiosos, como apoyo psicoeducativo o acompañamiento, aunque estas funciones no forman parte del diseño ni validación de los sistemas. Este estudio constituye la primera evidencia sistematizada de posibles efectos adversos de chatbots de IA en la salud mental dentro de un servicio psiquiátrico, si bien con importantes limitaciones metodológicas. Aun así, subraya la necesidad de que los profesionales consideren estos riesgos y orienten a los pacientes respecto al uso prudente de estas tecnologías. Comentado en Psypost y Muy Interesante