L. Bardon . – Je me suis récemment intéressé au mode de fonctionnement des réseaux sociaux. D’après ma compréhension, ils sont conçus de telle sorte qu’ils favorisent la propagation de fakes news, volontairement ou pas ? Notre cerveau a plus de mal à accepter une information qui va à l’encontre de nos croyances (biais de confirmation). Des chercheurs ont découvert que les chemins de diffusion des fake news étaient légèrement différents. Des algorithmes de détection automatique, basés sur ce constat, sont conçus voir implémentés (chez Facebook par exemple) pour tenter d’enrayer ce phénomène. Mais n’est-ce pas prendre le problème à l’envers comme le ferait un pompier pyromane ?
Depuis le début de la pandémie de coronavirus, il y a eu une avalanche de prépublications et de documents pertinents, produits par des personnes ayant des degrés d’expertise différents et soumis à des des degrés divers d’examens par leurs pairs. Il est donc difficile pour les chercheurs qui tentent de faire progresser leur compréhension vis-à-vis du virus de faire le tri entre la réalité scientifique et la fiction.
L’outil SciFact, développé par l’Institut Allen pour l’Intelligence Artificielle (AI2), organisme de recherche sans but lucratif basé à Seattle, est conçu pour faciliter ce processus. Le système est construit sur un réseau neuronal appelé VeriSci. Il a été formé à partir d’un ensemble de données de vérification des faits existants compilés à partir de Wikipedia et affiné sur un nouvel ensemble de données de vérification des faits scientifiques contenant 1 409 revendications scientifiques, accompagnées de 5 183 résumés. Lorsque les chercheurs ont testé VeriSci sur les allégations scientifiques relatives au covid-19, ils ont constaté qu’il récupérait les documents pertinents et les étiquettait avec précision 23 fois sur 36. Malgré cette performance imparfaite, le résultat est encore plus performant que le même réseau neuronal formé sur d’autres bases de données de vérification des faits existantes. Il s’agit donc de la première preuve de concept connue sur la façon dont un système basé sur l’IA pourrait faciliter la vérification des faits scientifiques.
SciFact est destiné à aider les scientifiques qui font des recherches sur covid-19 à vérifier rapidement leurs hypothèses ou leurs nouvelles affirmations par rapport à la littérature scientifique existante. Compte tenu de la nature expérimentale de l’outil, les experts devraient quand même s’assurer de lire les résumés plutôt que de se fier uniquement aux étiquettes “soutenir” et “réfuter”. Les chercheurs notent également que l’outil ne vérifie pas la légitimité des articles récupérés, les experts doivent donc faire preuve de jugement.
