Haine sur le Net : les réseaux sociaux sont inefficaces en termes de modération

Update 15/05/16 à 15h00 : selon Le JDD, l’Union des étudiants juifs de France (UEJF), SOS Racisme et SOS Homophobie sont prêts à engager une procédure en référé relatif aux défaillances présumées des systèmes de modération de contenus haineux sur Twitter, YouTube et Facebook.

————-

Trois associations de lutte contre les discriminations (SOS Racisme, SOS Homophobie et l’Union des étudiants juifs de France) viennent de publier une étude à travers laquelle elles dénoncent « l’inefficacité des systèmes de modération des contenus haineux » sur les réseaux sociaux.

Les trois principales plateformes communautaires sont concernées : Facebook, Twitter et YouTube (Google).

En fait, l’étude retranscrit les résultats d’une campagne de « testing » des systèmes de modération mis en place par les réseaux sociaux. Et elle révèle des défaillances.

Pendant deux semaines, des militants de ces associations ont signalé 586 contenus à caractère raciste, antisémite, négationniste ou homophobe.

Les trois réseaux sociaux analysés ont réagi de manière différente aux contenus indésirables signalés.

En résumé, Facebook a supprimé 34% des 156 contenus signalés mais YouTube n’a retiré que 4% des 205 contenus signalés.

Quant à Twitter, la mobilisation demeure faible avec une suppression de 4% des tweets ou comptes signalés. Les trois associations considèrent du coup que la plateforme de microblogging demeure la plus laxiste vis-à-vis de ses obligations légales et à ses propres conditions générales d’utilisation.

Une tension récurrente entre Twitter et l’UEJF, qui avait porté ce dossier devant la justice (au pénal) en 2013 et alerté les pouvoirs publics de cette nuisance des contenus haineux.

L’étude a été dévoilée alors que le CEO Jack Dorsey était présent en France pour l’inauguration des nouveaux locaux parisiens de la société Internet californienne.

Au-delà de l’effet de propagation des messages appelant à la haine, les trois associations fustigent le manque de réactivité des réseaux sociaux quand des alertes des internautes leur sont transmises.

Cette semaine, un fait divers a suscité l’effroi dans l’Essone avec une jeune femme de 19 ans qui avait annoncé ses intentions d’en finir avec la vie dans plusieurs vidéos diffusées sur l’application de streaming vidéo Periscope (propriété de Twitter) et qui s’est finalement suicidé en se jetant sous un RER dans une session diffusée en direct.

La question de gérer les urgences se pose : comment porter secours au plus vite dès qu’une alerte est émise via les réseaux sociaux ?

Sous pression en raison de la menace terroriste en France, des membres du gouvernement, Manuel Valls (Premier ministre) et Bernard Cazeneuve (ministre de l’Intérieur), ont plusieurs fois rencontré des représentants des groupes Internet concernés sur Paris et même en Californie pour évoquer le sujet du filtrage des contenus générés par les utilisateurs les plus virulents.

De leur côté, les groupes Internet concernés ont mis en place des algorithmes pour détecter les contenus les plus incendiaires et des équipes dédiées à la modération. Mais cela ne suffit pas à endiguer ce fléau.

Inévitablement, le sujet sera au centre des débats à l’occasion des « Assises de la lutte contre la haine sur Internet » qui se déroulent dimanche à Paris.