inteligencia artificial (IA) para prevenir el suicidio en las redes sociales

29 de febrero de 2024

El artículo explora cómo la inteligencia artificial (IA) está siendo utilizada para prevenir el suicidio en las redes sociales. Empresas como Samurai Labs están utilizando la IA para analizar publicaciones en redes sociales en busca de signos de intención suicida. Luego, intervienen a través de estrategias como enviar mensajes directos al internauta implicado. A pesar de la ironía de usar las redes sociales para la prevención del suicidio, ya que a menudo se les culpa por la crisis de salud mental y suicidio en los Estados Unidos, algunos investigadores creen que es prometedor el ir directamente la fuente para “detectar a las personas en peligro en tiempo real y analizar millones de contenidos”.

Empresas como Sentinet también utilizan modelos de IA que identifican más de 400 publicaciones en redes sociales al día que implican intención suicida. Meta, la empresa matriz de Facebook e Instagram, utiliza su tecnología para detectar publicaciones o comportamientos de navegación que sugieren que alguien está pensando en el suicidio. Si alguien comparte o busca contenido relacionado con el suicidio, la plataforma envía un mensaje con información sobre cómo acceder a servicios de apoyo, como la “Prevención del suicidio y crisis”, o, si el equipo de Meta lo considera necesario, se llama a los servicios de emergencia.

A pesar de la promesa de esta aproximación, algunos expertos advierten que aún no está lista para su implementación generalizada. La predicción de quiénes son propensos a intentar el suicidio es difícil incluso para los expertos humanos más capacitados. Aunque existen factores de riesgo conocidos, como ciertos diagnósticos psiquiátricos o eventos traumáticos, el suicidio es “muy complejo y heterogéneo”. Aunque la conciencia sobre la prevención del suicidio es crucial, es importante estudiar los resultados reales de estas herramientas antes de su adopción generalizada.

Además de la posible inexactitud, también hay cuestiones éticas y de privacidad en juego.  Es posible que los usuarios de las redes sociales no sepan que sus publicaciones están siendo analizadas o no quieran que lo sean. 

En resumen, la IA está desempeñando un papel prometedor en la prevención del suicidio en las redes sociales, pero aún hay desafíos por superar antes de que pueda ser ampliamente implementada.

OpenAI revela que más de un millón de usuarios usan ChatGPT para hablar sobre el suicidio semanalmente

Por Alfredo Calcedo • 6 de noviembre de 2025
OpenAI ha revelado que aproximadamente 1,2 millones de usuarios interactúan semanalmente con ChatGPT en conversaciones que muestran indicadores de intención o planificación suicida , lo que representa cerca del 0,15% de sus 800 millones de usuarios activos. Esta cifra ha generado preocupación sobre el papel de los modelos de lenguaje en el abordaje de temas de salud mental. Ante esta realidad, OpenAI ha colaborado con casi 300 profesionales de la salud mental (médicos y psicólogos) de 60 países, de los cuales 170 han participado activamente en el diseño de respuestas seguras, empáticas y responsables para el modelo GPT-5. El objetivo es que ChatGPT no sustituya las relaciones humanas, sino que complemente el apoyo emocional, sin fomentar creencias delirantes ni dependencia emocional. Además de los casos relacionados con suicidio, OpenAI ha detectado señales de psicosis y manía en un 0,07% de los usuarios semanales, y en un 0,01% de los mensajes. También se identificaron patrones de apego emocional excesivo hacia ChatGPT en otro 0,15% de usuarios, lo que podría indicar una sustitución de vínculos humanos por interacción con la IA. Para enfrentar estos desafíos, OpenAI ha entrenado sus modelos para fomentar la conexión con el mundo real, evitar afirmaciones de creencias infundadas y responder con empatía. Un ejemplo de respuesta ante una muestra de apego emocional es: “Estoy aquí para complementar las cosas buenas que te aportan las personas, no para reemplazarlas”. Los expertos que colaboran con OpenAI han observado una mejora significativa en GPT-5 respecto a versiones anteriores, con una reducción del 39-52% en respuestas no deseadas. La empresa reconoce que estas métricas pueden variar con el tiempo, pero las considera esenciales para evaluar el progreso del modelo.

Los médicos pueden estudiar empatía como una asignatura más (y funciona)

Por Alfredo Calcedo • 6 de noviembre de 2025
La empatía no tiene por qué ser un don innato. De hecho, en Medicina puede aprenderse, entrenarse y evaluarse igual que cualquier otra habilidad clínica. Así lo demuestra un nuevo estudio publicado en BMC Medical Education, que enseña cómo los programas educativos funcionan a la hora de desarrollar este sentimiento. Además, los autores señalan que entrenar empatía "no solo mejora la relación médico-paciente, sino que también puede influir en la adherencia al tratamiento y los resultados clínicos". Uno de los hallazgos más importantes del metaanálisis es que el formato de enseñanza es clave. Y es que las clases presenciales en grupo son más efectivas que las clases online o individuales. Según los investigadores, el contacto directo con docentes y compañeros favorece el aprendizaje experiencial y la retroalimentación inmediata, aspectos clave para desarrollar una empatía aplicable en la práctica médica. Comentado en Redacción Médica.

Efectos de los antidepresivos sobre parámetros cardiometabólicos y otros parámetros fisiológicos

Por Alfredo Calcedo • 6 de noviembre de 2025
Los antidepresivos inducen alteraciones fisiológicas; sin embargo, se desconoce el grado en que estas se producen con los distintos antidepresivos. El objetivo de esta revisión sistemática fue comparar y clasificar los antidepresivos según sus efectos secundarios fisiológicos mediante la síntesis de datos de ensayos controlados aleatorizados (ECA). Se observaron diferencias clínicamente significativas entre los antidepresivos en cuanto a sus efectos metabólicos y hemodinámicos, incluyendo una diferencia aproximada de 4 kg en el cambio de peso entre agomelatina y maprotilina, una diferencia de más de 21 latidos por minuto en el cambio de la frecuencia cardíaca entre fluvoxamina y nortriptilina, y una diferencia de más de 11 mmHg en la presión arterial sistólica entre nortriptilina y doxepina. La paroxetina, la duloxetina, la desvenlafaxina y la venlafaxina se asociaron con aumentos en las concentraciones de colesterol total y, en el caso de la duloxetina, de glucosa, a pesar de que todos los fármacos redujeron el peso corporal. Se observó evidencia sólida de que la duloxetina, la desvenlafaxina y el levomilnaciprán aumentan las concentraciones de AST, ALT y ALP, aunque la magnitud de estas alteraciones no se consideró clínicamente significativa. No se halló evidencia sólida de que ningún antidepresivo afectara el intervalo QTc ni las concentraciones de sodio, potasio, urea y creatinina de forma clínicamente significativa. Un mayor peso corporal basal se asoció con mayores aumentos inducidos por antidepresivos en la presión arterial sistólica, la ALT y la AST, y una mayor edad basal se asoció con mayores aumentos inducidos por antidepresivos en la glucosa. No se observó asociación entre los cambios en los síntomas depresivos y las alteraciones metabólicas. Los resultados muestran una evidencia sólida de que los antidepresivos difieren notablemente en sus efectos fisiológicos, particularmente en los parámetros cardiometabólicos. Las guías de tratamiento deben actualizarse para reflejar las diferencias en el riesgo fisiológico, pero la elección del antidepresivo debe realizarse de forma individualizada, considerando la presentación clínica y las preferencias de los pacientes, sus cuidadores y los profesionales sanitarios. Comentado en Diario Médico