Un Marocain divulgue les règles de modération de Facebook

Il s’appelle Amine Derkaoui, il est Marocain et n’a que 21 ans. Il y a quelques semaines, il a publié les documents détaillant le secret de Facebook : la modération des contenus sur les comptes, a révélé le site Gawker le 16 février.

Il y a plusieurs mois, Amine décroche un poste de modérateur dans une société du nom oDesk en Californie, une société auprès de qui Facebook et le géant Google sous-traitent une partie de leur modération. D’autres jeunes venus du Mexique, des Philippines, de Turquie ou d’Inde font le même travail qu’Amine, mais lorsqu’ils sont recrutés, ils ne savent pas qu’ils vont travailler pour le compte de Facebook.

Un dollar de l’heure

Amine travaille de chez lui, en Californie, quelques heures seulement par semaine. Sa mission : vérifier et modérer tous les contenus signalés par les utilisateurs de Facebook qui auraient un caractère choquant ou discriminatoire. Un long travail de modération devant respecter des règles strictes détaillées dans un document envoyé à tous les modérateurs dès leur embauche pour expliquer ce qu’ils peuvent tolérer ou censuré.

Le travail n’est pas cher payé. Amine et les autres modérateurs ne sont payés qu’un dollar de l’heure. Des commissions sont également prévues en proportion de la quantité de contenus modérés. Elles peuvent faire grimper le salaire à 4 dollars de l’heure. Ecoeuré par cette rémunération, Amine va quitter la société.

Pour se venger de ce qu'il considère être une exploitation, il décide de dévoiler sur le site Gawker, les documents détaillant les règles de modération de Facebook. «C’est humiliant. Ils [Facebook] ne font qu’exploiter le tiers monde», déclare le jeune homme aux journalistes de Gawker sur Skype. Sa déclaration intervient quelques semaines après l’entrée en bourse de Facebook qui a levé 5 milliards de dollars ; la plus grande entrée boursière pour une société du net.

D’autres modérateurs ont, de leur côté, quitté également leur poste non pas à cause du salaire, mais plutôt parce qu’ils en avaient assez de voir défiler devant eux des contenus horribles de type pédophile, nécrophile, des décapitations ou des suicides. Gawker a interviewé un collègue d’Amine qui, lui aussi, a démissionné, au bout de trois semaines seulement «parce qu’il tenait à sa santé mentale».

Sex and drugs

Le document envoyé par Amine est un manuel de 17 pages divisé en plusieurs chapitres comme «sexe et nudité», «contenu haineux», «moquerie et harcèlement», un manuel truffé de contradictions et de consignes détaillées assez troublantes et sordides. Par exemple, Facebook demande à ses modérateurs d’effacer tous contenus exhibant les parties intimes des individus, des contenus montrant des gens aux toilettes ou dans la salle de bain, des personnes ivres ou en train de dormir avec des choses pendues sur leur tête ou des femmes allaitant leur enfant si leurs seins sont visibles.

Par contre, Facebook autorise certains contenus de violence comme des têtes de personnes écrasées à condition de ne pas montrer l’intérieur du crâne. Les blessures graves ou l’écoulement de sang sont autorisés. Les contenus montrant des drogues douces, comme le cannabis sont autorisés à condition que l’utilisateur postant ces photos ou vidéos prouve qu’il n’est pas un dealer, qu’il n’en fasse pas pousser chez lui ou qu’il n’encourage pas ouvertement la prise de stupéfiants.

Enfin, les discours haineux sont proscrits. Par exemple, les contenus reniant l’holocauste sont interdits ainsi que ceux qui s’en prennent aux symboles des pays. Amine Derkaoui explique que les utilisateurs turcs n’ont pas le droit de poster sur leur compte des photos de drapeaux turcs brulés ou des messages insultant Ataturk, le fondateur de la Turquie contemporaine.

Aujourd'hui, Amine Derkaoui travaille à New York pour Zenoradio, en tant que responsable régional des contenus. Zenoradio développe des applications pour permettre aux utilisateurs, notamment étrangers, d'écouter de la musique provenant de leur pays d'origine sur leur téléphone portable.