Agencias / InsurgentePress, Ciudad de México.- Facebook dijo el lunes que está avanzando en la utilización de inteligencia artificial para identificar a usuarios de la red social que puedan estar pensando en el suicidio.
El software buscará pistas en publicaciones o incluso en videos que se transmitan en Facebook Live, luego enviará reportes a supervisores humanos y agilizará las alertas para asistentes humanos capacitados para ayudar, según informó la red social.
“Este enfoque usa modelos tecnológicos de reconocimiento para ayudar a identificar post y transmisiones en vivo que probablemente expresen pensamientos de suicido”, dijo Guy Rosen, vicepresidente de producción de Facebook.
Las señales que son especialmente observadas incluyen textos o comentarios a usuarios, tales como aquellos en los que alguien les pregunta si están preocupados o atormentados.
Facebook ya cuenta con herramientas para que la gente reporte preocupación sobre amigos que estén considerando provocarse lesiones, pero el software puede acelerar el proceso e incluso detectar señales que la gente puede pasar por alto.
“Han habido eventos terriblemente trágicos, como suicidios, algunos en transmisiones en vivo, que quizá pudieron prevenirse si alguien hubiera sabido que pasaba y lo hubiera reportado rápido” dijo Mark Zuckerberg, director Ejecutivo de Facebook, a principios de este año en un post en la red social.
“La inteligencia artificial puede ayudar a proporcionar un mayor acercamiento”, añadió.
Facebook está implementando herramientas de inteligencia artificial fuera de Estados Unidos y planea tenerlas eventualmente disponibles en todos lados excepto en la Unión Europea, donde el uso de datos personales está restringido por las regulaciones de privacidad.
Uno de los casos en los que esa llamada a las fuerzas de seguridad se ha producido lo relataba el periódico The New York Times hace apenas unos días. “Un agente de policía en el turno de noche en una ciudad de Ohio recibió recientemente una llamada inusual de Facebook”, explica. “Ese mismo día, una mujer vecina de esa población escribió una publicación en Facebook diciendo que iba caminando a su casa y que tenía la intención de suicidarse cuando llegara allí, según un informe de la policía sobre el caso. Facebook llamó para advertir al Departamento de Policía sobre la amenaza de suicidio”.
Estos avisos por parte de la red social comandada por Mark Zuckerberg, situada en el disparadero desde hace meses por preocupantes problemas relacionados con la privacidad, han sido recibidos durante los últimos 18 meses en comisarías de policía de todo Estados Unidos. Probablemente es, dice el rotativo norteamericano refiriéndose a la tecnología que emplea Facebook en estos casos, “el programa de detección y alerta de amenazas de suicidio más grande del mundo”.
La inteligencia artificial que hace posible la prevención del suicidio en Facebook fue probada durante meses en Estados Unidos y puesta en funcionamiento en todo el mundo, excepto en la Unión Europea, en noviembre de 2017. Como contamos entonces, en los países que forman parte de la comunidad política europea la legislación que protege la privacidad de los usuarios impide los usos de información sensible personal.
La inteligencia artificial de la red social funciona analizando de una manera proactiva, sin esperar a posibles denuncias, todo el contenido que se publica Facebook. Hablamos de texto, imágenes y vídeos, además de retransmisiones en directo. Esta tecnología es capaz de detectar en estos contenidos comentarios como “¿Estás bien?” o “¿Necesitas ayuda?”, además de patrones identificados en publicaciones de posibles suicidas reportadas manualmente. Si se hallan estas señales, la tecnologia actúa y el protocolo de prevención de pone en marcha llegando a llamar a las autoridades si se encuentra adecuado.
Facebook ha estado colaborando cerca de una década con organizaciones de salud mental sobre formas de detectar señales de usuarios que puedan ser suicidas o necesiten ayuda.
