La modération des contenus est un enjeu majeur pour Facebook. / RÉGIS DUVIGNAU / REUTERS

Regarder en boucle des images de meurtres, de viols, de pédophilie et autres violences, tel est le lot quotidien des milliers de personnes chargées de nettoyer Facebook des contenus interdits par la plate-forme. Vendredi 21 septembre, l’une de ces modératrices a décidé de porter plainte, affirmant souffrir, à cause de ce travail, de stress post-traumatique.

Selena Scola a modéré des contenus pour Facebook entre juin 2017 et mars 2018, peut-on lire dans le document qui a été déposé devant une cour californienne. Employée par un sous-traitant de Facebook, Pro Unlimited, elle travaillait au siège du réseau social, à Menlo Park, dans la Silicon Valley. Sa plainte vise les deux entreprises, à qui elle reproche de l’avoir « exposée à des contenus hautement toxiques, malsains et injurieux » sans les précautions qui s’imposaient selon elle, peut-on lire dans la plainte.

« Témoin de milliers d’actes d’extrême violence »

« Facebook ne forme pas suffisamment ses modérateurs et n’implémente pas les standards de sécurité qu’il a contribué à développer. » Le document fait ici référence à l’implication de Facebook dans la Technology Coalition, un regroupement de grandes entreprises du Web contre la pédopornographie qui a établi en 2015 un « guide » de bonnes pratiques pour soutenir les modérateurs. « Afin de cultiver son image, Facebook a contribué à mettre en place ces standards pour protéger les modérateurs comme M^me Scola des traumatismes au travail », souligne la plainte, avant de détailler :

« D’autres entreprises du secteur ont implémenté ces standards, qui consistent à offrir aux modérateurs une aide psychologique robuste, à altérer la résolution, le son, la taille ou la couleur des images traumatisantes, ou à former les modérateurs à reconnaître les symptômes physiques ou psychologiques du stress post-traumatique. Mais Facebook a ignoré les standards qu’il a contribué à créé. Au lieu de ça, l’entreprise multimilliardaire exige de ses modérateurs qu’ils travaillent dans des conditions connues pour causer et exacerber les blessures psychologiques. »

En cela, estime l’avocat de Selena Scola, « Facebook viole la loi californienne ». Celui-ci rappelle que sa cliente a « été témoin de milliers d’actes d’extrême violence » et affirme que ses symptômes de stress post-traumatique peuvent « être déclenchés quand elle touche une souris d’ordinateur, entre dans un bâtiment froid, regarde des images violentes à la télévision, entend des bruits forts ou quand elle sursaute ».

Des conditions de travail opaques

Les conditions de travail des modérateurs de Facebook restent très opaques. Le réseau social s’est toujours montré très discret sur le fonctionnement de ses équipes de modération. Mais les multiples scandales (Facebook est tantôt accusé de laxisme, comme lorsque l’entreprise avait laissé proliférer la propagande djihadiste, ou de censure, quand elle s’en prend à des images historiques ou des œuvres d’art) l’ont poussé à donner un peu plus d’informations sur ses forces de modération, et plusieurs fuites de documents ont aussi permis d’en savoir davantage. Mais si l’entreprise a toujours assuré que ses 7 500 modérateurs disposent d’un soutien psychologique, elle reste très vague sur la façon dont cela se concrétise.

« Nous reconnaissons que ce travail peut souvent être difficile », a commenté un porte-parole de Facebook dans les colonnes du site spécialisé Motherboard, après le dépôt de la plainte. Avant de poursuivre :

« C’est pourquoi nous prenons extrêmement sérieusement l’aide à apporter aux modérateurs, en commençant par leur formation, les avantages qu’ils reçoivent, et le fait de nous assurer que chaque personne analysant du contenu Facebook reçoive un soutien psychologique et des ressources. »

Le porte-parole affirme aussi que Facebook « exige » que ses sous-traitants appliquent les mêmes standards. La plainte déposée par Selena Scola se présente comme une class action, mais seul son nom y apparaît pour le moment. Un juge doit encore décider de la recevabilité de la plainte avant que cette action n’aille plus loin.