En septembre dernier, le projet Jigsaw de Google a déclaré la guerre aux trolls, lançant une initiative pour vaincre le harcèlement en ligne via l’apprentissage machine (machine learning). L’équipe vient de rendre public ce système de lutte contre les trolls.
Jigsaw et ses partenaires de l’Équipe de Technologie Counter Abuse de Google ont donné libre accès à Perspective, une API qui donne à tout développeur accès aux outils anti-harcèlement que Jigsaw a mis au point pendant plus d’un an. Perspective utilise notamment l’apprentissage machine pour détecter automatiquement les insultes, le harcèlement et les propos injurieux en ligne. Saisissez une phrase dans son interface, et Jigsaw peut immédiatement faire une évaluation de la «toxicité» de la phrase plus précisément que n’importe quelle liste noire de mots clés, et plus rapidement que n’importe quel modérateur humain.
