Les grandes plateformes sont en difficulté pour contrer l’afflux quotidien de messages à caractère raciste, antisémite ou encore homophobe qui agitent les réseaux sociaux. Malgré les capacités humaines hors normes et les outils techniques dont sont dotés les plus gros acteurs du marché, seuls 31 % des messages haineux sont supprimés en 24 heures d’après les tests du Mouvement antiraciste européen (EGAM) rendus publics en septembre 2019. Les contenus pornographiques sont aussi une autre forme de violence, qui s’affiche régulièrement aux yeux des jeunes internautes. Comme Facebook, Youtube, Twitter ou encore Yubo, toutes les plateformes ont développé des outils pour protéger leurs utilisateurs des abus auxquels ils peuvent faire face dans l’espace digital.
L’urgence d’agir face à toutes les formes de violence en ligne
En 2018, une étude réalisée par OpinionWay affirme que 59 % des Français auraient déjà subi des insultes sur les réseaux sociaux. Dans la presse, les témoignages d’adolescents ayant traversé l’épreuve du harcèlement numérique se multiplient avec parfois, des conséquences tragiques pouvant mener au suicide. Qu’elles soient circonscrites au monde virtuel ou bien ancrées dans le monde réel, les menaces et injures ont toujours des conséquences dommageables sur la santé mentale et l’état psychologique des victimes. Récemment s’est d’ailleurs tenu le procès d’un dessinateur, classé à l’extrême droite, pour avoir publiquement insulté une militante LGBTI qui se serait réjouie de la fermeture de sa page et aurait ainsi déchaîné la colère de sa communauté. Pendant le procès, les avocates de la jeune femme, absente, ont décrit des phénomènes de stress post-traumatique et même une tentative de suicide.
Amnesty International a mené, en 2017, une vaste étude portant sur le harcèlement en ligne auprès de 4 000 femmes du monde entier. L’impact psychologique est, selon l’ONG, « dévastateur ». En effet, 61 % des femmes ayant subi des violences en ligne ont ressenti une baisse d’estime de soi, plus de la moitié d’entre elles ont été victimes de stress, d’angoisse ou de crises de panique, 63 % ont connu des troubles du sommeil. Si les cas de dépressions sont heureusement marginaux, cette tendance interroge cependant sur la capacité des plateformes sociales à mobiliser l’ensemble de leurs moyens pour protéger leurs utilisateurs.
Moins documentée que le harcèlement, l’exposition à la pornographie ou aux photos choquantes en ligne est particulièrement problématique. Par exemple, sur Snapchat, la quasi-totalité des lycéennes interrogées dans le cadre d’un atelier de sensibilisation, aurait reçu au moins une fois une photo de pénis, venant d’un compte anonyme. 38 % des enfants de 11 à 18 % seraient déjà tombés sur un contenu choquant, à caractère pornographique deux fois sur trois, selon la Fondation pour l’Enfance. Particulièrement visités, les réseaux sociaux peuvent logiquement constituer des vecteurs de risque.
Comment réagissent les plateformes ?
Les plateformes sociales se mobilisent cependant pour faire face aux contenus haineux et prévenir le harcèlement. En 2018, le géant Facebook a mis en œuvre de nouvelles mesures afin de mieux protéger les internautes, en facilitant la modération des commentaires sous les publications ou en mettant en œuvre une recherche par mot-clé. Dans le même temps, Facebook avait instauré un outil de signalement par la communauté, jouant sur le rôle essentiel des témoins qui, dans la vie réelle, peuvent intervenir ou prévenir les autorités compétentes.
Mais c’est peut-être l’application française Yubo qui a développé les méthodes les plus volontaristes en s’engageant dans une véritable démarche proactive. Pour protéger les jeunes et éviter que des contacts n’aient lieu entre des mineurs et des majeurs, le système de vérification automatique peut exiger une carte d’identité pour finaliser l’inscription. « Notre démarche vise à empêcher systématiquement toute forme d’échange entre des membres de deux classes d’âge différentes et à prohiber les inscriptions qui viendraient de membres de moins de 13 ans. C’est un public fragile et à protéger. Ils n’ont pas leur place sur notre réseau social » affirme Sacha Lazimi, CEO et co fondateur de Yubo, interrogé par nos soins. A priori impossible donc, pour qui veut s’inscrire sur Yubo, de tricher sur son âge. Ce qui n’empêche pas Yubo de mettre en œuvre des moyens de modération plus classiques. Algorithmes en temps réel qui analysent en flux continu les live-stream se déroulant en direct, équipes de modération humaine engagées en permanence pour la surveillance des échanges, mise en œuvre d’une ligne directe chargée de répondre aux questions des parents, Yubo ne veut rien laisser au hasard. « L’enjeu est trop important pour laisser la moindre faille de sécurité sur notre plateforme. Personne ne peut garantir le fameux risque zéro, mais chaque plateforme a la responsabilité de tout mettre en œuvre pour y parvenir » poursuit Sacha Lazimi.
Aucune plateforme n’a été épargnée. Fin 2018, Instagram a officialisé l’implémentation d’outils de machine learning destinés à détecter toutes les formes de harcèlement postées sur une photographie. Un système étendu, via une détection par filtres sémantiques, aux commentaires des vidéos live. Derrière son image relativement policée de partages de photo, Instagram a été égratignée par une étude de l’ONG anti-harcèlement en ligne Ditch the Label, dont les résultats indiquent qu’un cinquième des adolescents se sont fait harceler sur cette plateforme. Dans la même période, Twitter a renforcé ses actions contre les tweets indésirables, permettant à un internaute de masquer les publications qu’il ne souhaite pas voir.
Les pouvoirs publics renforcent l’encadrement législatif
Face au déferlement de haine qui impacte les réseaux sociaux, la France s’est engagée dans un renforcement de ses capacités législatives destinées à contraindre plus fortement les plateformes. La proposition de loi contre les contenus haineux sur internet, dite « Loi Avia », actuellement en discussion à l’Assemblée nationale, souhaite obliger les plateformes à supprimer les messages haineux sous 24 heures. Si beaucoup d’associations critiquent la capacité d’application de cette loi, la loi Avia témoigne de l’urgence de réagir face à cette problématique, mais aussi du désarroi des pouvoirs publics face à ce phénomène. L’encadrement du web français a toujours été un sujet sensible pour l’État avec, à la clef, une avalanche législative. Entre 2005 et 2015, dix lois ont été votées pour encadrer l’espace numérique national.
Pourtant, certaines réussites peuvent être saluées. Les contenus appelant au djihadisme ou faisant la promotion de l’État Islamique ont quasiment disparu des réseaux sociaux classiques, grâce à une forte mobilisation des plateformes et aux signalements des internautes, alliés précieux de Youtube dans la traque aux contenus violents. Après une salve de critiques, Youtube a supprimé presque 10 millions de vidéos mettant en scène des enfants et susceptibles d’être visionnées par des prédateurs sexuels. 537 millions de commentaires publiés en réaction à ces vidéos et jugés inappropriés ont aussi définitivement disparu du réseau social. Pour les plateformes, l’enjeu est toujours délicat pour réussir à concilier de la meilleure des manières la libre expression des internautes et la protection des utilisateurs.