La IA de Facebook salvó la vida de una joven al alertar a la policía de que planeaba suicidarse

Cuando se habla de salud mental y redes sociales, especialmente en relación con plataformas como Facebook, suele haber una connotación negativa.

Sin embargo, en una ciudad de India, la historia es diferente, ya que la inteligencia artificial (IA) de Meta ayudó a salvar la vida de una joven que estaba a punto de suicidarse.

El incidente ocurrió en Lucknow, India, cuando una joven de 23 años, devastada tras ser abandonada por su esposo, subió un video a Facebook que rápidamente comenzó a viralizarse. En la grabación, que parecía una carta de despedida, se podía ver una soga atada a su cuello mientras hablaba, reflejando su desesperación.

Mientras esto sucedía, la IA de Meta detectó la situación. El sistema emitió una alerta automática al Centro de Medios Sociales de la oficina de la Policía de Lucknow, proporcionando información aproximada sobre la ubicación del teléfono de la joven.

De inmediato, una oficial de policía, que se encontraba cerca de su aldea, fue enviada al lugar. Al llegar, logró hablar con la joven y la convenció de quitarse la soga, evitando así que se quitara la vida

El uso de IA para monitorizar el comportamiento en redes sociales con el fin de prevenir suicidios no es exclusivo de Meta. Existen empresas, como Sentinet, que han desarrollado algoritmos capaces de identificar publicaciones que sugieren un alto riesgo de intento de suicidio. Estos sistemas pueden llegar a detectar más de 400 publicaciones al día con un nivel de urgencia que requiere intervención.

Meta utiliza su división de IA para rastrear este tipo de publicaciones. Cuando se detectan, la IA puede desencadenar varias acciones, como enviar un mensaje directo al usuario. Empresas como Samurai Labs, también dedicadas a este tipo de labores, envían mensajes como: «Hemos visto tu publicación… y parece que estás pasando por momentos difíciles». A continuación, se proporcionan recursos y testimonios de personas que han superado pensamientos suicidas, finalizando con un mensaje de apoyo, como un «abrazo virtual».

Aunque la IA es fundamental para detectar estos casos, la intervención humana sigue siendo esencial. Según reportes, un supervisor humano revisa las publicaciones señaladas por la IA y decide si el usuario debe recibir más instrucciones para buscar ayuda.

Aproximadamente el 10% de las personas que reciben estos mensajes contactan con líneas de prevención del suicidio, y en algunos casos, los equipos de respuesta logran realizar rescates en persona, como sucedió con la joven en Lucknow.