Halting the Spread of Hatred on Social Networks

<--

Après la diffusion en direct de la vidéo du massacre de Christchurch en Nouvelle-Zélande, il est urgent de responsabiliser les plates-formes du Web afin qu’elles ne servent pas de caisse de résonances aux propos haineux.

La mort en direct. C’est le spectacle nauséeux que des centaines de milliers de personnes ont partagé sur Internet, le 15 mars. Le terroriste d’extrême droite Brenton Tarrant, qui a massacré 50 personnes dans deux mosquées de Christchurch, en Nouvelle-Zélande, avait en effet pris la cynique initiative de filmer et de diffuser en temps réel son acte sur Facebook pour lui donner encore plus de résonance.

Le réseau social a mis près d’une demi-heure pour réagir, le temps qu’un premier internaute signale le contenu de la vidéo. Trop tard. Grâce à la viralité du Web, l’ignominie s’est répandue comme une traînée de poudre après avoir été partagée sur Facebook, YouTube et différentes plates-formes alternatives.

Ce scandale montre les limites du contrôle des contenus diffusés par les réseaux sociaux et les plates-formes de partage de vidéos. Le groupe de Mark Zuckerberg affirme avoir supprimé 1,5 million de copies de la vidéo de l’attaque, dont 1,2 million avant le chargement sur la plate-forme. Nécessaire, mais pas suffisant. Outre les centaines de milliers qui ont été effectivement visionnées, des sites de téléchargement à la réputation plus ou moins recommandable ont eu tout le loisir de dupliquer et de partager le contenu incriminé.

Le problème ne se limite pas à l’incitation à un voyeurisme extrêmement malsain. Il participe d’un prosélytisme des plus dangereux. Quelques heures seulement après la tuerie, sympathisants de l’alt-right américains, néonazis et extrémistes de droite partageaient massivement la vidéo pour célébrer leur nouveau « héros », certains appelant à s’inspirer de son acte.

Eradiquer l’écosystème extrémiste

Sous le couvert du respect de la liberté d’expression, principe fondateur du Web et valeur cardinale aux Etats-Unis, d’où sont issues la plupart de ces grandes plates-formes, celles-ci contribuent, à leur corps défendant, à la diffusion des discours de haine.

Après des années d’irresponsabilité, les géants de l’Internet se sont attelés au renforcement de la modération avec plus ou moins de succès. Le filtrage automatique pour lutter contre la pédophilie en ligne fonctionne globalement bien. Depuis 2016, ce procédé a été adapté aux contenus terroristes. Le drame de Christchurch montre qu’on est encore loin du compte.

La difficulté est que cette dérive est intrinsèque du fonctionnement de ces grandes plates-formes. Il s’agit de faire appel à l’émotion, à l’indignation permanente pour augmenter sa visibilité, susciter le plus de réactions possible, pour le meilleur, mais trop souvent pour le pire. Les communautés, organisées en silo, deviennent le royaume de l’entre-soi, ce qui incite à échanger avec ceux qui vous ressemblent et finit par lever les inhibitions en encourageant une parole libérée de toute contradiction. Force est de constater que ces outils de viralité sont plus efficaces pour diffuser les idées extrémistes que les positions modérées.

Il sera très compliqué d’éradiquer l’écosystème extrémiste en ligne qui prospère sur les forums ou les messageries cryptées où islamistes radicaux et militants d’extrême droite ont tout loisir de disséminer leur paranoïa mortifère au nom d’un choc des civilisations. L’urgence consiste à empêcher que les grandes plates-formes ne leur servent de caisse de résonance. Celles-ci doivent consacrer leur puissance technologique à endiguer le phénomène. Quant aux dirigeants politiques, ils doivent les responsabiliser au travers d’une législation suffisamment dissuasive pour qu’un drame comme Christchurch ne soit jamais plus utilisé ni instrumentalisé.

About this publication