Il pourrait très bien s’agir d’une mauvaise blague faite à un collègue, mais c’est bel et bien la vérité. Le profil de presque 1.000 personnes des équipes de modération a pu être révélé à des groupes faisant l’apologie du terrorisme. Une erreur due à un bug au niveau du logiciel de modération de Facebook.
Parmi ces employés, une quarantaine, basée en Irlande, est dédiée à la modération des contenus véhiculant de la propagande terroriste. Facebook pense que les profils d’au moins six d’entre eux ont pu être vus par des terroristes potentiels. Mais comment cela est-ce possible ? Les responsables du réseau social pensent qu’à cause dudit bug le profil des modérateurs apparaissait automatiquement dans les groupes Facebook qu’ils surveillaient. Ce bug a été découvert lorsque certains modérateurs au sein de Facebook se sont inquiétés quand ils ont reçu des «demandes d’amis» de la part de personnes apparentées aux organisations terroristes qu’ils étaient chargés de surveiller sur le réseau social, et ce, seulement après avoir supprimé les groupes pour non-respect des conditions d’utilisation.
Les personnes dont les profils ont été consultés ont eu peur des représailles et comme solution, Facebook a proposé aux employés concernés de leur faire installer une alarme à leur domicile, et d’assurer leur transport jusqu’à leur lieu de travail. Des mesures insuffisantes, selon un des modérateurs qui a décidé de quitter l’Irlande. En effet, le profil de cet employé a pu être consulté par des sympathisants de l’Etat islamique. C’est ainsi qu’il a quitté l’Irlande pour 5 mois en Europe de l’Est. N’ayant plus de travail, cet employé a été contraint de revenir en Irlande faute de moyens. Il craint désormais pour sa vie et a lancé une procédure auprès d’une commission d’indemnisation chargée d’étudier son cas et de savoir si son entreprise et Facebook peuvent être jugés responsables de mise en danger de la vie d’autrui. Il demande une compensation pour les dommages psychologiques provoqués par cette faille.