Haine sur le Net : Twitter ne comptera pas que sur le machine learning

« Le machine learning seul ne résoudra pas nos problèmes. »

Cofondateur et principal dirigeant de Twitter, Jack Dorsey a tenu ce propos en réponse à un internaute qui réagissait aux engagements pris par la plate-forme de microblogage en matière de lutte contre la haine, la violence et le harcèlement.

Les engagements en question, annoncés la semaine passée, s’inscrivent dans la lignée du mouvement #WomenBoycottTwitter, consécutif à la suspension, pendant plus d’une demi-journée, du compte de l’actrice Rose McGowan, qui s’était exprimée* sur l’affaire Harvey Weinstein.

Reconnaissant que des voix sont encore « réduites au silence » malgré les initiatives prises ces dernières années, Jack Dorsey promet une posture « plus agressive » sur la définition de règles et leur mise en application face aux « avances sexuelles indésirables », aux « symboles de haine » ou encore à « l’apologie de la violence ».

Des changements sont à prévoir dans les prochaines semaines, assure le CEO, sans fournir davantage de détails.

Les réponses qu’il a apportées par après à quelques twittos permettent de déterminer des axes de travail parmi lesquels un système plus performant de signalement par les utilisateurs et la possibilité de ne plus recevoir d’alertes associées à un compte qu’on a bloqué.

Trouver l’équilibre

La propagation de propos haineux n’est pas un phénomène nouveau sur la plate-forme, comme en témoigne, entre autres nombreux exemples, ce combat qu’un internaute avait mené voilà près de dix ans, en lien avec l’interprétation des conditions générales d’alors.

Pour Twitter, il est d’autant plus délicat de placer le curseur que le droit à la liberté d’expression doit être pris en compte.

Si le machine learning n’est pas la panacée selon Jack Dorsey, il porte plusieurs outils inaugurés ces derniers mois, dont le masquage de certains tweets dans des conversations et la sécurisation du moteur de recherche interne pour éviter l’apparition de contenus sensibles.

D’autres fonctions ont, au contraire, été abandonnées, à l’instar du blocage des notifications associées aux listes signalées comme non pertinentes ou problématiques par suffisamment d’utilisateurs.

En toile de fond, la pression des pouvoirs publics. Notamment de la Commission européenne, qui privilégiait initialement une approche d’autorégulation entérinée par la signature d’un « code de conduite » avec les principaux exploitants de plates-formes, mais qui commence à évoquer l’idée de légiférer pour accentuer la responsabilisation de Twitter et consorts.

* Twitter dit avoir bloqué le compte le temps que Rose McGowan supprime des données personnelles qu’elle avait publiées.