Facebook compterait actuellement 4 500 modérateurs pour filtrer quotidiennement les messages du réseau social. Le but est d’empêcher la propagation de contenus indésirables tels que la pornographie, le terrorisme ou encore les menaces.
Ces modérateurs, formés en deux semaines, doivent ensuite être capables en l’espace, parfois de 10 secondes, de trancher. Deux milliards d’utilisateurs, sans le savoir, envoient des messages qui seront scrutés et analysés par ces derniers. Et parfois, les règles peuvent surprendre.
Par exemple, il est interdit de menacer de mort Donald Trump, qui représente un Etat, ou encore une personnalité publique ou un journaliste, qui font partie des catégories de personnes protégées. Cependant, lorsqu’un internaute menace de mort une personne qui n’est pas d’intérêt public, le modérateur peut se montrer tolérant.
La nudité est également un sujet sensible. Récemment, Facebook avait retiré une photo emblématique de la guerre du Vietnam où l’on voit une petite fille nue sur une route, ce qui avait provoqué un tollé. Depuis, les règles ont évolué et une exception à la presse a été autorisée s’il s’agit de dénoncer la terreur de la guerre.
Modérer les contenus est un travail exténuant. Facebook a récemment annoncé l’embauche de 3 000 personnes supplémentaires pour gérer cet espace juridique parallèle qui vise surtout à éviter que sa responsabilité soit mise en cause.