Médias : Google Jigsaw donne une Perspective face aux commentaires nocifs

Né sur la base du think tank Google Ideas en février 2016, l’incubateur Jigsaw de Google explore des pistes pour aider les cinq prochains milliards d’individus à accéder aux ressources du Web.

Nouvelle illustration avec l’outil Perspective du nom d’une API (connecteur logiciel) destinée aux éditeurs de contenus destinée à éliminer le harcèlement et les commentaires haineux sur Internet.

L’initiative avait été annoncée dès septembre 2016 en collaboration avec Wikipedia et  The New York Times qui a pu expérimenter la technologie d’intelligence artificielle (machine learning), explique Google dans un billet de blog. Elle est désormais mise à disposition des médias ayant intégré le programme Digital News Initiative (piloté par Google) mais aussi des autres plateformes intéressées.

Jusqu’à présent, le NYT faisait appel à une équipe de 14 modérateurs humains pour vérifier les commentaires déposés sous les articles.

Google qualifient de  « commentaires toxiques » les contributions qui viennent polluer le fil d’une discussion sur n’importe quels types de sujets.

Ils ne perturbent pas seulement les éditeurs qui aimeraient voir des discussions constructives autour de leurs sujets, mais également les lecteurs. Selon une étude du CIPHR (Center for Innovative Public Health Research), 72 % des internautes américains ont été témoins de harcèlement en ligne et près de la moitié d’entre eux en ont été victimes.

Selon le même rapport, le harcèlement en ligne a affecté les vies de 140 millions de personnes outre-Atlantique.

En raison de ces comportements irrespectueux voire ignobles, les éditeurs n’ont souvent pas d’autre choix que de fermer les espaces de commentaires en ligne.

La plateforme Perspective devrait donc laisser une marge de manoeuvre aux éditeurs de médias en ligne. Elle utilise le machine learning (« apprentissage automatique ») pour identifier les réactions jugées toxiques. Comment ? Des rapprochements sont effectués avec une base de données remplie de commentaires pré-façonnés. Ce qui permet d’évaluer le degré de nocivité.

Machine learning oblige, Perspective affine progressivement sa compréhension en se nourrissant des débats et des corrections effectuées par les utilisateurs. Les lecteurs sont mis à contribution avec la possibilité d’associer un flag aux commentaires pour faciliter le travail des modérateurs.

L’outil de Google est à mi-chemin entre un outil de modération des contenus et une plateforme anti-harcèlement en ligne. des réseaux sociaux comme Facebook et Twitter mènent des combats similaires.

(crédit photo : Shutterstock.com)