Un article du groupe thématique Numérique de La France insoumise
À la sortie du Conseil de défense du vendredi 23 octobre 2020, dans le contexte de la mort de Samuel Paty, le Premier ministre Jean Castex annonce - aux côtés de Gérald Darmanin et Eric Dupond-Moretti - un renforcement de la surveillance des réseaux sociaux. Ce renforcement s’opérant par une augmentation des effectifs de PHAROS, la plate-forme publique de signalement des contenus haineux en ligne créée en 2009, ainsi que la création d’un pôle spécifique au parquet de Paris. Dans la foulée de cet événement dramatique, cette annonce masque un coup de com’ aux réponses incomplètes et des années de négligence sur la thématique de la modération et du suivi des contenus haineux en ligne.
A l’image de la CNIL dont les prérogatives ont été renforcées par la RGPD mais où les moyens logistiques, techniques, financiers et humains n’ont jamais suivi, le point de contact national PHAROS a toujours manqué de moyens. On ne dénombre que moins d’une trentaine d’agent·es de la direction centrale de la Police judiciaire et de la Gendarmerie nationale pour analyser les signalements, sans parler de la mauvaise promotion de ce service auprès de la population, du manque de traçabilité des signalements et leurs devenirs, du manque de formation des agent·es. Les carences de PHAROS s’accumulent depuis des années.
Pourtant, la plateforme occupe depuis dix ans une place de plus en plus centrale dans la chaîne de signalement des contenus haineux en ligne. Cette place s’est renforcée par différentes prises de décisions politiques récentes en Europe : la loi sur le contenu terroriste en Allemagne (début 2018), les sommets présidentiels français « Tech for Good » et « Choose France », la déclaration Macron/May (Juin 2017) souhaitant des outils de censure automatique des contenus terroristes sur les réseaux sociaux, le Forum de l’UE sur Internet (2015), les recommandations de la Commission (Sept. 2017 puis Mars 2018) invitant les grandes entreprises numériques à réfléchir sur la détection automatique, le retrait et le déréférencement de contenus illicites, la directive Terrorisme (2017/541) puis le Règlement Dalton (COM(2018)0640).
Par ailleurs, d’autres questions plus transversales que les insuffisances de la plateforme PHAROS se posent. Sans réhabiliter la défunte et liberticide loi Avia, l’insuffisance des moyens accordés à la Police, à la Gendarmerie et à la justice sur la régulation du monde numérique sont des questions centrales pour l’avenir. Le Groupe thématique Numérique, au cours de son travail de veille au Parlement européen, pointe du doigt depuis 2017 que :
- La question de la délocalisation à bas-prix du travail de modération des contenus en ligne pour compenser l’insuffisance des filtres automatisés se pose, avec toute la question des mauvaises conditions de travail et de santé psychique/psychologique de ces travailleurs (santé au travail, rémunération, droits des salariés, suivi quotidien des travailleurs). Là, encore, le numérique n’a rien de virtuel, nous externalisons tous les effets négatifs de nos pratiques vers des pays aux législations du travail plus précaires et aux indicateurs de développement plus fragiles.
- Un travail en amont d’envoi d’évaluation (et non de notification) par les autorités nationales et Europol relèverait d’une nécessité afin d’alléger la charge des travailleurs de la modération en ligne.
- Enfin, le rôle d’Europol pourrait être plus central dans la coordination des signalements continentaux (plus de 60 000 contenus signalés en 2015-2019 à 130 entreprises). En plus du rôle de consultant, de fournisseurs de services d’hébergement et de soutien aux autorités nationales, la transmission des injonctions de suppression par les autorités nationales devraient transiter par Europol dans le cas de signalements transfrontaliers.
Les déclarations du Gouvernement sont donc des « mesurettes » non-pérennes qui n’enlèvent pas l’analyse biaisée que porte la Macronie sur la modération des réseaux en ligne. Cette analyse est empreinte d’un déterminisme technologique liberticide, celle qui ne remet pas en cause un internet fondé sur le capitalisme de surveillance et la commercialisation des données personnelles. Cette vision légitime un renforcement de Pharos à la marge, afin d’éviter d’accorder des moyens supplémentaires pérennes à la Police et la Justice et favoriser réellement un internet éthique et non-lucratif.
