Modération du contenu

La modération de contenu , sur les sites web favorisant le contenu généré par les utilisateurs , est le processus systématique d'identification, de réduction ou de suppression des contributions non pertinentes, obscènes, illégales, nuisibles ou insultantes. Ce processus peut impliquer la suppression directe du contenu problématique ou l'apposition d' avertissements sur les contenus signalés. Les plateformes peuvent également permettre aux utilisateurs de bloquer et de filtrer le contenu selon leurs préférences . Cette pratique s'inscrit dans le cadre plus large des politiques de confiance et de sécurité .

Divers types de sites Internet permettent la publication de contenu généré par les utilisateurs, comme des articles, des commentaires et des vidéos. Parmi eux , on trouve les forums , les blogs et les sites d'actualités, qui utilisent des scripts tels que phpBB , les wikis ou PHP-Nuke . En fonction du contenu et du public cible du site, les administrateurs déterminent les types de commentaires appropriés et délèguent leur modération à des modérateurs . Ces derniers s'efforcent généralement d'éliminer le harcèlement , le spam et les messages injurieux , mais les pratiques varient considérablement d'un site à l'autre.

Les principales plateformes utilisent une combinaison d'outils algorithmiques, de signalements d'utilisateurs et de vérification humaine. Les réseaux sociaux peuvent également employer des modérateurs de contenu pour signaler ou supprimer manuellement les contenus signalés pour incitation à la haine , incivilité ou autres contenus répréhensibles. Parmi les autres problèmes de contenu figurent la vengeance pornographique , les contenus choquants , les contenus pédopornographiques et la propagande . Certains sites web doivent également adapter leur contenu pour qu'il soit compatible avec la publicité.

Aux États-Unis, la modération du contenu est régie par l'article 230 de la loi sur la décence des communications et a vu plusieurs affaires concernant cette question arriver devant la Cour suprême des États-Unis , comme l'actuelle affaire Moody c. NetChoice, LLC .

La modération de contenu peut donner lieu à divers résultats, notamment le blocage et la modération de la visibilité, comme le shadow banning . Le jawboning , où les gouvernements font pression sur une plateforme en la menaçant de modérer au-delà des exigences légales, peut réduire la responsabilité et le respect des procédures légales .

Également connu sous le nom de modération unilatérale, ce type de système de modération est fréquent sur les forums Internet . Un groupe de personnes est choisi par les administrateurs du site (généralement pour une longue durée) pour agir en tant que délégués et faire respecter les règles de la communauté. Ces modérateurs bénéficient de privilèges spéciaux leur permettant de supprimer ou de modifier les contributions d'autres utilisateurs et/ou d'exclure des personnes en fonction de leur adresse électronique ou de leur adresse IP . Ils s'efforcent généralement de supprimer les contributions négatives au sein de la communauté.

La modération du contenu commercial est un terme inventé par Sarah T. Roberts pour décrire la pratique consistant à « surveiller et à vérifier le contenu généré par l’utilisateur (UGC) pour les plateformes de médias sociaux de tous types, afin de s’assurer que le contenu est conforme aux exigences légales et réglementaires, aux directives du site/de la communauté, aux accords d’utilisation et qu’il respecte les normes de goût et d’acceptabilité de ce site et de son contexte culturel ».

Le marché de la modération de contenu est estimé à 9 milliards de dollars américains. Bien qu'aucun chiffre officiel ne soit disponible, on estime à 10 000 le nombre de modérateurs de contenu pour TikTok , à 15 000 pour Facebook et à 1 500 pour Twitter en 2022.

La chaîne de valeur mondiale de la modération de contenu comprend généralement les plateformes de médias sociaux, les grandes multinationales et les fournisseurs de services de modération. Les plateformes de médias sociaux (par exemple, Facebook, Google) sont principalement basées aux États-Unis, en Europe et en Chine. Les multinationales (par exemple, Accenture , Foiwe ) ont généralement leur siège social dans les pays du Nord ou en Inde, tandis que les fournisseurs de services de modération sont majoritairement situés dans les pays du Sud, comme l'Inde et les Philippines.

Si ce travail a pu être effectué autrefois par des bénévoles au sein de la communauté en ligne , les sites web commerciaux le sous -traitent aujourd'hui en grande partie à des entreprises spécialisées, souvent situées dans des régions à bas salaires comme l'Inde et les Philippines. Le recours à la modération de contenu s'est accru avec l' essor des médias sociaux . Face à la croissance exponentielle du nombre d'utilisateurs et du contenu généré par les utilisateurs (CGU), les entreprises ont eu besoin de beaucoup plus d'employés pour modérer ce contenu. À la fin des années 1980 et au début des années 1990, les entreprises technologiques ont commencé à externaliser ces tâches vers des pays étrangers disposant d'une main-d'œuvre qualifiée et disposée à travailler à bas coût.

Les étiquettes de contenu sont attribuées aux contenus générés par les utilisateurs afin d'enrichir les informations, d'aider les utilisateurs à naviguer et à utiliser certaines contributions, et de permettre aux modérateurs d'organiser et de gérer correctement les contenus jugés inappropriés. Parmi les exemples d'étiquettes de contenu, on peut citer les vérifications de faits, les mentions « Cliquez pour voir », les avertissements de sensibilité ou simplement des informations complémentaires. Si, de manière spécifique, le concept d'étiquettes de contenu est relativement récent et peu étudié, le concept d'étiquetage de l'information, au sens large, existe depuis des décennies. L'utilisation des étiquettes de contenu par les plateformes de médias sociaux soulève des débats quant à la priorité à accorder à la liberté d'expression ou aux risques pour la santé et la sécurité des autres utilisateurs.

Les employés travaillent en visionnant, évaluant et supprimant les contenus perturbateurs. Wired a rapporté en 2014 qu'ils peuvent subir des dommages psychologiques. En 2017, le Guardian a signalé l'apparition possible d'un traumatisme secondaire , avec des symptômes similaires à ceux du syndrome de stress post-traumatique (SSPT ). Certaines grandes entreprises, comme Facebook, offrent un soutien psychologique et s'appuient de plus en plus sur l' intelligence artificielle pour filtrer les contenus les plus choquants et inappropriés, mais les critiques estiment que cette méthode est insuffisante. En 2019, NPR a qualifié cette situation de risque professionnel. Les accords de confidentialité sont la norme lors de l'embauche de modérateurs de contenu. Cela les rend plus réticents à dénoncer leurs conditions de travail ou à s'organiser.

Les risques psychologiques, notamment le stress et le syndrome de stress post-traumatique , combinés à la précarité de la gestion algorithmique et aux bas salaires, rendent la modération de contenu extrêmement difficile. Le nombre de tâches accomplies, par exemple l'étiquetage de contenu comme violation du droit d'auteur, la suppression d'une publication contenant des propos haineux ou l'examen de contenu graphique, est quantifié à des fins de performance et d'assurance qualité .

En février 2019, une enquête du site The Verge a révélé de mauvaises conditions de travail au bureau de Cognizant à Phoenix, en Arizona . Des employés de Cognizant chargés de la modération des contenus pour Facebook ont ​​développé des problèmes de santé mentale , notamment un syndrome de stress post-traumatique , suite à leur exposition à des images violentes , des discours haineux et des théories du complot dans les vidéos qu'ils devaient évaluer. Des modérateurs du bureau de Phoenix ont signalé des cas de consommation de drogues et d'alcool , ainsi que des relations sexuelles sur leur lieu de travail, et craignaient des représailles de la part d' anciens employés qui les menaçaient. En réponse, un représentant de Cognizant a déclaré que l'entreprise examinerait les problèmes soulevés dans le rapport.

En juin 2019, The Verge a publié une enquête complémentaire sur le bureau de Cognizant à Tampa, en Floride . Les employés de Tampa ont décrit des conditions de travail pires que celles du bureau de Phoenix. De même, la société de modération externalisée de Meta au Kenya et au Ghana a signalé des cas de troubles mentaux, d'automutilation, de tentatives de suicide, de mauvaises conditions de travail, de bas salaires et de représailles pour avoir milité en faveur de meilleures conditions de travail.

Les modérateurs devaient signer des accords de confidentialité avec Cognizant pour obtenir leur poste, mais trois anciens employés ont enfreint ces accords pour fournir des informations à The Verge . Au bureau de Tampa, des employés ont signalé un manque de ressources en santé mentale. Suite à l'exposition à des vidéos montrant des scènes de violence extrême, de maltraitance animale et d'abus sexuels sur enfants , certains employés ont développé des traumatismes psychologiques et un syndrome de stress post-traumatique. En réponse à la couverture médiatique négative concernant ses contrats de modération de contenu, un directeur de Facebook a indiqué que l'entreprise était en train de mettre en place une « équipe mondiale de résilience » pour accompagner ses prestataires.

En 2017, Facebook a augmenté le nombre de ses modérateurs de contenu de 4 500 à 7 500 en raison d’obligations légales et de controverses . En Allemagne, Facebook était tenu de supprimer les discours haineux dans les 24 heures suivant leur publication. Fin 2018, Facebook a créé un organe de surveillance, ou « tribunal suprême » interne, chargé de décider quels contenus resteraient en ligne et lesquels seraient supprimés.

Selon Frances Haugen , le nombre d'employés de Facebook chargés de la modération du contenu était beaucoup plus faible en 2021.

Le réseau social Twitter applique une politique de suspension de comptes . Entre août 2015 et décembre 2017, il a suspendu plus de 1,2 million de comptes pour contenu terroriste afin de réduire le nombre d'abonnés et la quantité de contenu associé à l'État islamique. Suite au rachat de Twitter par Elon Musk en octobre 2022, les règles relatives au contenu ont été assouplies sur l'ensemble de la plateforme dans le but de privilégier la liberté d'expression. Cependant, les effets de cette campagne ont été remis en question.

La modération par les utilisateurs permet à chaque utilisateur de modérer les contributions des autres. Des milliards de personnes décident quotidiennement de ce qu'elles partagent, transfèrent ou mettent en avant. Sur un site important comptant une population active suffisamment nombreuse, ce système fonctionne généralement bien, car un nombre relativement restreint de perturbateurs sont écartés par les votes du reste de la communauté.

La modération par les utilisateurs peut également être caractérisée par une modération réactive. Ce type de modération repose sur la capacité des utilisateurs d'une plateforme ou d'un site à signaler les contenus inappropriés et non conformes aux normes communautaires . Dans ce processus, lorsqu'un utilisateur est confronté à une image ou une vidéo qu'il juge inappropriée, il peut cliquer sur le bouton « Signaler ». Le signalement est alors enregistré et mis en attente pour être examiné par les modérateurs.

150 modérateurs de contenu, qui travaillaient pour Meta , ByteDance et OpenAI, se sont réunis à Nairobi, au Kenya, pour lancer la première Union africaine des modérateurs de contenu le 1er mai 2023. Cette union a été lancée 4 ans après que Daniel Motaung ait été licencié et ait subi des représailles pour avoir organisé un syndicat chez Sama , qui travaille pour Facebook.

Le règlement relatif aux services numériques (DSA) est un règlement européen entré en vigueur en 2022, établissant un cadre complet pour la responsabilité des services numériques, la modération des contenus et la transparence des plateformes au sein de l'Union européenne. Les utilisateurs peuvent contester de différentes manières les décisions de modération prises par les plateformes en ligne, notamment la restriction de leurs comptes ou la sanction de leurs contenus. Ce droit s'applique également aux signalements de contenus illégaux rejetés par la plateforme. Conformément au DSA, les utilisateurs peuvent faire appel via le système interne de traitement des réclamations des plateformes. Ces dernières sont tenues de réexaminer leurs décisions dans les meilleurs délais.

En vertu de l'article 21 de la loi sur les services numériques (DSA), les utilisateurs peuvent saisir des organismes externes chargés d'examiner de manière indépendante les décisions des plateformes. ADROIT est le premier organisme de règlement extrajudiciaire des litiges numériques certifié par l'UE au titre de la DSA. Il traite les litiges relatifs à la modération de contenu sur les plateformes suivantes : plateformes d'achat et de réservation en ligne, de partage de contenu, d'échange, de places de marché et de marketing ; plateformes de jeux, de paris et de jeux d'argent ; et plateformes P2P. ADROIT propose ses services de résolution des litiges en néerlandais, anglais, français, allemand, italien, maltais, portugais et espagnol.

Un autre organisme de règlement extrajudiciaire des litiges est le Centre d'appels Europe . Il conteste les décisions des plateformes de médias sociaux et ses services sont gratuits pour les utilisateurs. Les plateformes qu'il examine actuellement sont Facebook, Instagram, TikTok, Pinterest, Threads et YouTube. Le Centre d'appels accepte les contenus rédigés dans la plupart des langues couramment parlées dans l'UE. Cependant, le litige doit lui être communiqué dans l'une des sept langues de travail du Centre d'appels : anglais, français, allemand, espagnol, italien, polonais et néerlandais. Vous devez donc utiliser l'une de ces langues pour soumettre votre litige.