La red social Facebook ha manifestado su postura contra el odio y la violencia en redes sociales. Ha implementado medidas para bloquear y bajar contenido de ese tipo; sin embargo, aún tiene pendiente una lucha contra el contenido violento y suicida que se genera en tiempo real.
Por esa razón, anunció la implementación de Inteligencia Artificial para ayudar a las personas que expresan pensamientos suicidas, a través de Facebook Live.
“Usaremos tecnología para detectar señales suicidas en publicaciones o videos Live para poder responder a los reportes con mayor celeridad”, informa Guy Rosen. “También usamos el reconocimiento de patrones para ayudar a acelerar la respuesta a los reportes más preocupantes”.
El equipo de Community Operations, especializado en suicidio y autolesión, identificará comentarios como “¿Estás bien? y “¿Puedo ayudarte?” y procederá a analizar el contenido del video. También priorizarán el contenido reportado.
“Si alguien publica algo en Facebook que te genera preocupación por su bienestar, puedes contactarlos o reportar su publicación. Contamos con equipos que trabajan 24 horas por día, siete días por semana para analizar los reportes y priorizar aquellos de mayor seriedad”.
La compañía de Mark Zuckerberg ha desarrollado las herramientas de prevención junto con organizaciones de salud mental como Save.org, National Prevention Lifeline y Forefront Suicide Prevention. Asimismo, con el aporte de personas que han sobrevivido a intentos de suicidio o han tenido pensamientos suicidas.
Las herramientas estarán disponibles a nivel global y en todos los idiomas.