Así combate Facebook el terrorismo en Internet

Las fronteras entre el mundo físico y el virtual se están diluyendo a pasos agigantados. Por ejemplo, la escalada terrorista que estamos viviendo en los últimos meses e incluso años, se está cocinando en Internet, caldo de cultivo para la propaganda, difusión y adoctrinamiento de grupos como el ISIS. Por ello, Facebook, en la última entrada de su blog oficial, reflexiona sobre el papel de las empresas tecnológicas en la lucha contra el terrorismo online. “Estamos de acuerdo con aquellos que dicen que los medios sociales no deben ser un lugar en el que los terroristas tengan voz. Queremos dejar muy clara la seriedad con la que afrontamos este tema”, explican Monika Bickbert, directora de gestión de políticas globales y Brian Fishman, director de políticas de contraterrorismo.

Con dicha publicación, la red social refleja medidas claras y expone su posición: “No damos cabida al terrorismo. Eliminamos a los terroristas y a las publicaciones que les apoyan en cuanto las detectamos. Cuando recibimos denuncias de posibles publicaciones las revisamos de manera urgente y al detalle. Y en los pocos casos en los que descubrimos alguna prueba de daño inminente avisamos a las autoridades de inmediato”. Y para cumplir con esta idea se basan en la inteligencia artificial, el conocimiento humano y la asociación con otros grandes jugadores del sector.

La tecnológica está empeñada en desarrollar mecanismos de inteligencia artificial para detectar contenido potencialmente peligroso antes de que llegue al resto de la comunidad de usuarios. Las soluciones que emplean son capaces de emparejar imágenes, es decir, si eliminan un vídeo o fotografía, el sistema detecta si otro usuario pretende subir a la Red el mismo contenido. Además, es capaz de comprender el texto, eliminar grupos de terroristas y cuentas de usuarios reincidentes y colaborar con otras plataformas como WhatsApp.

En cualquier caso, la inteligencia artificial no supone un mecanismo de control total. Debe ir apoyada por una capa de conocimiento humano en la que colaboren los usuarios aportando denuncias y críticas y especialistas expertos en terrorismo y seguridad. Facebook cuenta ya con 150 personas que trabajan con este objetivo. “Detectar qué contenidos apoyan el terrorismo y qué contenidos no lo hacen no es fácil, y los algoritmos no son tan exactos como las personas a la hora de entender determinados contextos. Una foto de un hombre armado ondeando una bandera del ISIS puede ser propaganda pero también puede ser imagen de una noticia”, aseveran.

La tercera pata de esta estrategia es la asociación con terceros, empezando con los principales jugadores del sector, gobiernos y ONG. Asimismo, la red social plantea la formación contra la “narrativa extremista”,  y programas de socios para acentuar la lucha contra el terrorismo en Internet.