Technologie sans conscience n’est que ruine de l’Homme.
Pourquoi cet article est intéressant ? L. Bardon . – Un nombre croissant de pays ont expérimenté la mise en place de campagnes coordonnées de manipulation des médias sociaux. Selon un rapport de chercheurs de l’Université d’Oxford, le nombre est passé de 28 en 2017 à 48 en 2018, et 70 en 2019. L’étude inclut les partis politiques ou les organismes gouvernementaux qui utilisent les médias sociaux pour façonner les perceptions du public. Elle inclut également les régimes autoritaires qui suppriment les droits de l’homme ou étouffent les opinions dissidentes. La tendance est claire : les campagnes de désinformation, où les fausses informations sont diffusées délibérément pour tromper, se multiplient.
Les capacités cybernétiques s’étendent et transforment le vieux jeu de la géopolitique. Les Russes jouent aux côtés des Américains, des Chinois, des Iraniens, des Nord-Coréens et d’autres pays en utilisant des pirates informatiques pour façonner l’histoire et tenter de plier la géopolitique à leur volonté.
La Finlande dispose d’une arme efficace pour lutter contre les fake news : l’éducation. La nation nordique arrive en tête de liste des pays européens jugés les plus résistants à la désinformation, selon l’indice d’éducation aux médias, compilé par l’Open Society Institute à Sofia. Alors que certains pays, dont l’Allemagne et la France, légifèrent pour tenter de lutter contre les fausses nouvelles, d’autres affirment que cela pourrait compromettre la liberté d’expression et que l’éducation et la sensibilisation sont de meilleures solutions. Sur des sujets aussi variés que le changement climatique et la sécurité des vaccins, nous sommes exposés à des vagues de désinformation sur tous les médias sociaux. La confiance dans les sources d’information conventionnelles peut sembler plus faible que jamais, mais les chercheurs travaillent sur des moyens d’y remédier. Ils ont testé des outils d’intelligence artificielle (IA) qui pourraient aider à filtrer les informations légitimes. Mais dans quelle mesure l’IA est-elle fiable lorsqu’il s’agit d’arrêter la diffusion de fausses informations ? Des chercheurs du Rensselaer Polytechnic Institute (RPI) et de l’université du Tennessee ont collaboré pour étudier le rôle de l’IA dans l’aide apportée aux personnes pour déterminer si les informations qu’elles lisent sont légitimes ou non. L’étude a révélé que l’IA ne parvenait à repérer les fake news que si le lecteur n’avait pas déjà une opinion sur le sujet. Lorsque les sujets de l’étude étaient déjà fixés dans leurs convictions, le biais de confirmation les empêchait de réévaluer leurs opinions.
Le présent est la bêta version du futur.
Synthèse
Dans une série de tweets publiés en avril 2020, un compte Twitter anonyme @Aarthisharma08, prétendant être celui d’un employé mécontent de la cellule informatique du Bharatiya Janata Party (BJP), a allégué l’existence d’une application secrète très sophistiquée appelée « Tek Fog ». Selon ce compte, cette application est utilisée par des agents politiques affiliés au parti au pouvoir pour gonfler artificiellement la popularité du parti, harceler ses détracteurs et manipuler les perceptions du public à grande échelle sur les principales plateformes de médias sociaux. The Wire enquête sur les allégations concernant l’utilisation de « Tek Fog », une application très sophistiquée utilisée par des agents en ligne pour détourner les principaux médias sociaux et les plateformes de messagerie cryptées et amplifier la propagande de droite auprès d’un public national. Les screencasts et les captures d’écran de Tek Fog fournis par la source ont mis en évidence les différentes fonctionnalités de l’application et ont permis à l’équipe de mieux comprendre la structure opérationnelle du réseau de cyber troupes qui l’utilise quotidiennement pour manipuler le discours public, harceler et intimider les voix indépendantes.
L’une des principales fonctions de l’application est de détourner les sections « trending » de Twitter et « trend » sur Facebook. Ce processus utilise les fonctions d’automatisation intégrées à l’application pour « auto-retweeter » ou « auto-partager » les tweets et les messages d’individus ou de groupes et spammer les hashtags existants via des comptes contrôlés par les agents de l’application. Cette fonction est également utilisée pour amplifier la propagande de droite, en exposant ce contenu à un public plus diversifié sur la plateforme. De fait les récits et les campagnes politiques extrémistes semblent plus populaires qu’ils ne le sont en réalité.
L’application permet aussi à des agents individuels de détourner des comptes WhatsApp « inactifs » de particuliers et d’utiliser leur numéro de téléphone pour envoyer des messages à leurs « contacts fréquents » ou à « tous les contacts ». Les opérateurs utilisent également cette fonctionnalité pour hameçonner les informations personnelles d’utilisateurs ciblés afin de les ajouter à une base de données politiques hébergée dans un cloud. L’ajout de citoyens privés dans cette base de données les identifie comme autant de cibles potentielles pour de futures campagnes de harcèlement et de trolling.
Les captures d’écran et les screencasts de l’application montrent également l’existence d’une base de données importante et dynamique, hébergée dans le cloud, répertoriant des citoyens classés en fonction de leur profession, de leur religion, de leur langue, de leur âge, de leur sexe, de leur tendance politique et même de leurs attributs physiques. Les captures d’écran indiquent également que cette base de données permet aux opérateurs de l’application de répondre automatiquement à des individus ou à des groupes en connectant une feuille Google ou en générant automatiquement des mots-clés et des phrases, dont la grande majorité sont abusifs ou désobligeants.
Enfin, les agents de l’application peuvent supprimer ou modifier tous les comptes existants à tout moment. Cette fonction leur permet théoriquement de détruire toutes les preuves de leur activité passée.
L’échelle potentielle, la sophistication et la nature omniprésente de l’opération Tek Fog fournissent une preuve sans précédent de l’engagement d’acteurs privés dans l’application de pratiques numériques douteuses dans la plus grande démocratie du monde. Dans des articles ultérieurs faisant partie de l’enquête Tek Fog, The Wire explorera la technologie derrière l’application secrète et la manière dont les agents politiques du parti au pouvoir ont utilisé les campagnes de manipulation des médias sociaux organisées par l’application autour d’événements nationaux importants tels que les manifestations contre la loi sur la citoyenneté (amendement), la violence communautaire de Delhi et la pandémie de COVID-19 dans le pays.
La suite ici (Ayushman Kaul and Devesh Kumar)
