Un Marocain divulgue les règles de modération de Facebook

La modération des contenus des 845 millions de comptes Facebook a toujours été un secret bien gardé jusqu’à cette semaine où un jeune Marocain, ayant travaillé pour le réseau social, comme modérateur, a dévoilé des documents internes expliquant le type de photos, vidéos ou messages tolérés et interdits par Facebook.

Facebook possède aujourd'hui une base de 845 millions de comptes d'utilisateurs

Il s’appelle Amine Derkaoui, il est Marocain et n’a que 21 ans. Il y a quelques semaines, il a publié les documents détaillant le secret de Facebook : la modération des contenus sur les comptes, a révélé le site Gawker le 16 février.

Il y a plusieurs mois, Amine décroche un poste de modérateur dans une société du nom oDesk en Californie, une société auprès de qui Facebook et le géant Google sous-traitent une partie de leur modération. D’autres jeunes venus du Mexique, des Philippines, de Turquie ou d’Inde font le même travail qu’Amine, mais lorsqu’ils sont recrutés, ils ne savent pas qu’ils vont travailler pour le compte de Facebook.

Un dollar de l’heure

Amine travaille de chez lui, en Californie, quelques heures seulement par semaine. Sa mission : vérifier et modérer tous les contenus signalés par les utilisateurs de Facebook qui auraient un caractère choquant ou discriminatoire. Un long travail de modération devant respecter des règles strictes détaillées dans un document envoyé à tous les modérateurs dès leur embauche pour expliquer ce qu’ils peuvent tolérer ou censuré.

Le travail n’est pas cher payé. Amine et les autres modérateurs ne sont payés qu’un dollar de l’heure. Des commissions sont également prévues en proportion de la quantité de contenus modérés. Elles peuvent faire grimper le salaire à 4 dollars de l’heure. Ecoeuré par cette rémunération, Amine va quitter la société.

Pour se venger de ce qu'il considère être une exploitation, il décide de dévoiler sur le site Gawker, les documents détaillant les règles de modération de Facebook. « C’est humiliant. Ils [Facebook] ne font qu’exploiter le tiers monde », déclare le jeune homme aux journalistes de Gawker sur Skype. Sa déclaration intervient quelques semaines après l’entrée en bourse de Facebook qui a levé 5 milliards de dollars ; la plus grande entrée boursière pour une société du net.

D’autres modérateurs ont, de leur côté, quitté également leur poste non pas à cause du salaire, mais plutôt parce qu’ils en avaient assez de voir défiler devant eux des contenus horribles de type pédophile, nécrophile, des décapitations ou des suicides. Gawker a interviewé un collègue d’Amine qui, lui aussi, a démissionné, au bout de trois semaines seulement « parce qu’il tenait à sa santé mentale ».

Sex and drugs

Le document envoyé par Amine est un manuel de 17 pages divisé en plusieurs chapitres comme « sexe et nudité », « contenu haineux », « moquerie et harcèlement », un manuel truffé de contradictions et de consignes détaillées assez troublantes et sordides. Par exemple, Facebook demande à ses modérateurs d’effacer tous contenus exhibant les parties intimes des individus, des contenus montrant des gens aux toilettes ou dans la salle de bain, des personnes ivres ou en train de dormir avec des choses pendues sur leur tête ou des femmes allaitant leur enfant si leurs seins sont visibles.

Par contre, Facebook autorise certains contenus de violence comme des têtes de personnes écrasées à condition de ne pas montrer l’intérieur du crâne. Les blessures graves ou l’écoulement de sang sont autorisés. Les contenus montrant des drogues douces, comme le cannabis sont autorisés à condition que l’utilisateur postant ces photos ou vidéos prouve qu’il n’est pas un dealer, qu’il n’en fasse pas pousser chez lui ou qu’il n’encourage pas ouvertement la prise de stupéfiants.

Enfin, les discours haineux sont proscrits. Par exemple, les contenus reniant l’holocauste sont interdits ainsi que ceux qui s’en prennent aux symboles des pays. Amine Derkaoui explique que les utilisateurs turcs n’ont pas le droit de poster sur leur compte des photos de drapeaux turcs brulés ou des messages insultant Ataturk, le fondateur de la Turquie contemporaine.

Aujourd'hui, Amine Derkaoui travaille à New York pour Zenoradio, en tant que responsable régional des contenus. Zenoradio développe des applications pour permettre aux utilisateurs, notamment étrangers, d'écouter de la musique provenant de leur pays d'origine sur leur téléphone portable.

Suivre Yabiladi
2 commentaires
inconscience
Auteur : Benchi
Date : le 27 février 2012 à 18h01
Comme cela est dit dans l'article, il s'agit de modérer "les contenus signalés par les utilisateurs" seulement. Les ordinateurs ne sont point capables de prendre des décisions sur de tels litiges à la place des humains à moins d’être dictateur et couper tout ce qui est signalé.

Si ce monsieur habite en Californie, il va aller en prison ou, s'il a de la chance, payer de lourds frais de justice et des dommages et intérêts pour divulgation de matériel professionnel qui ne lui appartient pas.

On ne se fait pas justice soi-même, encore moins dans un pays démocratique. Quand on n'est pas content, on démissionne et/ou on porte plainte... Etre impulsif dans la vie va finir par coûter cher.
3.500.000 ou 7.000.000 de modérateurs pour Facebook?
Auteur : Melkafr
Date : le 25 février 2012 à 14h02
Il y' a tout de même une bizarrerie dans cette affirmation.

Facebook, avec tous les flux que cela génère, confit à des modérateurs physiques de contrôler les échanges comme si il s'agissait d'un simple petit forum !

Imaginons mathématiquement le nombre de modérateurs physiques pour gérer plus de 700 millions d'échanges journalier sur le réseau?
Il faut alors :
- 7.000.000 de modérateurs pour gérer en moyen 100 échanges jours a raisin de 5 minutes par échange et en calculant large :
- 3.500.000 modérateurs pour gérer en moyenne 200 échanges a raison de 2 minutes 1/2 par contrôle.

Cela me semble peut probable et pour cause, il existe des logiciels très performants pour ce type de modération qui sont d'ailleurs utilisés par la plus part des médias et réseaux sociaux.

Facebook