Como lo explican desde la red social, “tenemos la posibilidad de conectar a las personas que están pasando por un mal momento con aquellos que pueden contenerlo.”
“Cuando una persona expresa pensamientos suicidas, es importante brindarle ayuda tan pronto sea posible”. Así lo manifiesta Guy Rosen, vicepresidente de producción de Facebook, y por qué están dispuestos a buscar señales de alerta en las publicaciones de los usuarios.
El software se encargará de buscar indicios en las publicaciones o en videos que se transmitan por Facebook Live, y luego mandará reportes a supervisores humanos y se activarán las alertas para asistentes humanos que están capacitados para brindar ayuda.
“Este enfoque utiliza modelos tecnológicos de reconocimiento para ayudar a reconocer posts y transmisiones en vivo que posiblemente manifiesten pensamientos suicidas.” Las pistas que son particularmente vistas incluyen textos o comentarios a usuarios, así como aquellos en los que alguien pregunta si están preocupados o les pasa algo.
Facebook ya tiene herramientas para que las personas avisen sobre algo que les preocupa de sus amigos y si estos están pensando en hacerse daño. Asimismo, el software puede apresurar el proceso e incluso detectar señales que la gente no pueda ver.
“Si alguien publica algo en Facebook que te causa preocupación por su bienestar, puedes contactarnos o reportar su publicación. Contamos con equipos que trabajan 24/7 los cuales analizan los reportes y dan prioridad a los que son más graves.”
Mark Zuckerberg, creador de Facebook, afirmó en un post a principios de este año, que “han habido eventos terriblemente trágicos, como suicidios (algunos en transmisiones en vivo), que tal vez pudieron prevenirse si alguien hubiera sabido que pasaba y lo hubiera reportado rápidamente.”
La red social está incluyendo herramientas de IA fuera de Estados Unidos y piensa tenerlas disponibles en todos lados menos en la Unión Europea, ya que el uso de datos personales está prohibido por medidas de seguridad.
Facebook, desde hace 10 años, presta servicio a organizaciones de salud mental para descubrir pistas de usuarios que puedan ser suicidadas o necesiten ayuda. Esperemos que esta inteligencia artificial pueda ayudar a las personas que lo necesiten y así evitar futuros suicidios.