Victime de son succès (près de 2 milliards d'utilisateurs dans le monde…), Facebook est submergé de contenus publiés par la plus grande communauté au monde rassemblée autour d'un réseau social. Et il y a forcément un petit pourcentage de gens (très) mal intentionnés. Sylvain est tombé sur des vidéos très choquantes, suggérées par... Facebook lui-même! Comment est-ce arrivé, et que fait Facebook pour lutter contre ce problème ? On a mené l'enquête.
Facebook, avec son statut de réseau social N.1, a pris très au sérieux l'utilisation très malsaine de sa plateforme par des groupes terroristes, à des fins de propagande et/ou de recrutement. Il est avéré que l'Etat islamique s'est servi de Facebook (mais aussi du web en général et d'autres réseaux sociaux) pour faire passer ses messages et trouver de potentiels candidats au pseudo djihad qu'il prétend représenter.
Malgré tout, quand on compte près de 2 milliards d'utilisateurs quotidiens, il est pratiquement impossible de contrôler tout ce qui s'y passe, tout ce qui y est publié. Car les puissants algorithmes de détection de contenu offensant ne suffisent visiblement pas à empêcher des horreurs d'être publiées ou diffusées en direct sur Facebook.
Car poster ou lire une vidéo sur le web ou via des applications, en à peine deux ans, est devenu un geste de la vie quotidienne pour une bonne partie de la population.
Une vidéo humoristique, puis des suggestions qui le sont nettement moins
C'est d'ailleurs ce que faisait Sylvain dimanche passé. "Je regardais une vidéo humoristique avec mon collègue, sur mon iPhone", nous a précisé ce Liégeois de 24 ans, après avoir contacté la rédaction de RTL info via le bouton orange Alertez-nous.
Un geste banal qui peut parfois durer, car Facebook suggère désormais d'autres séquences du même genre (théoriquement) dès que vous en regardez une.
"On a fait défiler les autres vidéos présentes en dessous pendant 10 à 15 secondes", quand ils sont tombés sur du contenu qui n'avait rien de drôle.
"Après 20, 25 vidéos suggérées, on a vu ce qui ressemblait à de la propagande djihadiste. C'était affreux, des personnes dans le désert qui se faisaient buter les unes après les autres, d'autres qui se faisaient couper la tête", nous a-t-il raconté.
Ces vidéos étaient suggérées, et non recherchées par nous-mêmes
Même résultat sur le smartphone d'un enfant de 11 ans
Très étonné, Sylvain a demandé à son collègue d'essayer avec un autre smartphone. "C'était encore pire chez lui, après 10 ou 15 vignettes de vidéos proposées", ils retombaient sur même contenu pour le moins indésirables. Autre tentative "avec notamment le smartphone d'un enfant de 11 ans et le constat est le même".
Pour notre témoin, "c'est proprement scandaleux: ces vidéos ne sont-elles pas filtrées ?". Dans "les conditions actuelles", il estime que voir ces vidéos est vraiment interpellant, "d'autant plus qu'elles étaient suggérées, et non recherchées par nous-mêmes".
Nous avons passé près d'une heure sur Facebook à scruter toutes sortes de vidéos, mais nous ne sommes jamais tombés sur les cruelles propagandes dont parle Sylvain. Même des recherches ciblées sur des vidéos n'ont rien donné d'autres que des analyses de médias sur la situation de l'Etat islamique.
Sylvain n'a pas pris la peine de faire des copies d'écran, on se base donc sur sa bonne foi. Mais la réponse de Facebook laisse supposer que ce genre d'incident est monnaie-courante…
Que dit Facebook ?
Le plus grand réseau social n'est pas le roi de la communication quand il s'agit de problèmes le concernant. La porte-parole pour le Benelux n'a pas répondu à nos questions, mais nous a néanmoins transmis un document intéressant, et daté du 15 juin 2017 (à lire en anglais ici). Entre les lignes de ce document, on comprend immédiatement que Facebook est régulièrement pollué par des contenus offensants.
Et s'il est facile pour les algorithmes du réseau social d'identifier la poitrine dénudée d'une femme sur une photo ou une vidéo, c'est nettement plus complexe quand il s'agit de propagande djihadiste ou d'horribles scènes de décapitation.
"Notre position sur ce sujet ne pourrait être plus claire : le terrorisme n’a pas sa place sur Facebook", écrivent Monika Bickert, Directrice des politiques publiques de Facebook, et Brian Fishman, chargé de la lutte contre le terrorisme au sein du réseau social.
Mais concrètement, que fait Facebook pour éviter ça ? "Nous supprimons, dès que nous en prenons connaissance, les comptes terroristes ou les publications faisant l’apologie du terrorisme. Dès que nous recevons des signalements de publications à caractère potentiellement terroriste, nous les examinons scrupuleusement. Et dans les rares cas où des indices pointent vers un risque imminent, nous en informons immédiatement les autorités".
Les algorithmes ne surpassent pas encore l’esprit humain lorsqu’il s’agit de comprendre ce genre de contexte
Comment Facebook identifie les contenus terroristes ?
Pour identifier ces contenus, Facebook se montre exceptionnellement précis dans ses procédures, et détaille ses moyens.
Il y a tout d'abord, on l'a évoqué avec les algorithmes, l'intelligence artificielle développée par l'armée d'ingénieurs du groupe. On parle de correspondance d'images (une base de données de vidéos de propagande existe, et si une nouvelle est postée, elle est identifiée immédiatement), d'analyse automatique de texte, d'identification de ramification terroristes au sein des groupes, de détection des profils factices, de collaboration entre les différentes plateformes du groupe (Instagram et WhatsApp).
Mais Facebook est honnête dans son article. "L’intelligence artificielle n’est pas capable de tout détecter. Déterminer si un individu, un compte, un texte soutient ou non le terrorisme n’est pas toujours aussi simple, et les algorithmes ne surpassent pas encore l’esprit humain lorsqu’il s’agit de comprendre ce genre de contexte. La photo d’un homme armé brandissant un drapeau de Daech peut constituer du matériel de propagande ou de recrutement, tout comme elle peut illustrer un article de presse sur le sujet"
Recrutement de 3000 nouveaux employés pour vérifier les contenus
C'est pour cette raison que le réseau social encourage "les signalements des internautes", analysés par les nombreux modérateurs du groupe. "À travers le monde, nos équipes Community Operations, que nous étofferons avec 3000 recrutements supplémentaires au cours de l’année prochaine, travaillent 24 heures sur 24 dans des douzaines de langues pour vérifier les signalements et en comprendre le contexte. Il s’agit d’un travail très éprouvant et nous mettons à disposition de nos modérateurs un service d’aide psychologie sur place ainsi qu’une formation à la résilience".
Vous l'avez compris: si vous tombez sur du contenu offensant, quel qu'il soit, signalez-le (voir les différentes méthodes) d'abord à Facebook avant de prévenir qui que ce soit. Tout pourrait être effacé en quelques minutes.
Vos commentaires