Technologie sans conscience n’est que ruine de l’Homme.
Pourquoi cet article est intéressant ? L. Bardon . – D’après les articles et les reportages diffusés sur les principaux médias depuis quelques années, le gouvernement central de la Chine utiliserait un algorithme futuriste pour compiler les connexions des gens aux médias sociaux, leurs historiques d’achat, leurs données de localisation… pour aboutir à un score unique dictant leurs droits et libertés. Le gouvernement pourrait analyser, en temps réel, les images de centaines de millions de caméras de surveillance équipées d’un système de reconnaissance faciale, puis vous attribuer des points pour mauvaise conduite, comme le fait de marcher en dehors des clous ou de trop jouer aux jeux vidéo. En réalité, il n’y a pas de score unique, tout puissant, attribué à chaque individu en Chine, du moins pas encore. Le système tel qu’il existe aujourd’hui est plutôt un patchwork de projets pilotes et expérimentaux à l’échelle régionale, avec peu d’indications sur ce qui pourrait être mis en œuvre à l’échelle nationale. Malgré l’équipement standardisé, le projet Bouclier d’or a été entravé par les silos de données et les guerres de territoire au sein du gouvernement chinois. Au fil du temps, la recherche d’un système unique et unifié par le ministère s’est traduite par deux opérations distinctes : un système de surveillance et de base de données, consacré à la collecte et au stockage d’informations, et le système de crédit social, auquel participent une quarantaine de ministères. Cela ne veut pas dire que les craintes concernant le crédit social sont totalement infondées.
En 1955, l’écrivain de science-fiction Isaac Asimov publiait un court récit sur une expérience de “démocratie numérique”, où un seul citoyen, choisi pour représenter une population entière, répondait à des questions générées par un ordinateur nommé Multivac. La machine prenait ces données et calculait les résultats d’une élection qui n’était donc plus nécessaire. L’histoire d’Asimov se déroule à Bloomington, Indiana, mais aujourd’hui, le “grand père” de Multivac est en cours de construction en Chine. Internet y est censuré. Le numéro de téléphone portable et les activités en ligne de chaque personne se voient attribuer un numéro d’identification unique lié à leur vrai nom. La technologie de reconnaissance faciale est également de plus en plus répandue. Il existe peu de restrictions sur la manière dont cette technologie peut être utilisée pour suivre et surveiller les citoyens. Les abus les plus troublants sont perpétrés dans la province occidentale du Xinjiang, où, selon des groupes de défense des droits de l’homme et des journalistes, le gouvernement chinois détient et surveille des millions de personnes appartenant à la minorité musulmane ouïghoure.
Et si la Chine faisait tout haut ce que d’autres gouvernements font tout bas ? Aux États-Unis par exemple, où le gouvernement est régulièrement renouvelé, la classe dirigeante est composée de personnes qui définissent ce qui est acceptable par le biais des institutions qu’elles contrôlent. La population est scannée et des citoyens sont régulièrement censurés. Mais ce mécanisme d’application est géré par des entreprises et des universités plutôt que par l’Etat. Les plus grandes entreprises de technologie américaines sont déjà aux prises avec la censure, la dé-plateformisation ou le dé-ranking de faux contenus ou de contenus infammant.
Le présent est la bêta version du futur.
Synthèse
Selon un nouveau rapport d’IPVM, un groupe de recherche sur la surveillance, une entreprise chinoise vendrait sa technologie de surveillance aux Gardiens de la révolution, à la police et à l’armée iraniennes. Ce nouveau rapport est l’une des rares preuves tangibles de ce que les experts soupçonnent depuis longtemps : l’Iran tente de mettre en place un système de contrôle numérique de ses citoyens, en suivant le modèle de la Chine et en utilisant des outils chinois. La censure et la surveillance sont les principes fondamentaux de ce modèle, explique Saeid Golkar, spécialiste de la sécurité iranienne et professeur à l’université du Tennessee, à Chattanooga. “La République islamique tente de créer un Internet comme celui de la Chine, en créant une connectivité massive et en la contrôlant ensuite”, explique-t-il.
L’entreprise chinoise, appelée Tiandy, est l’une des plus grandes sociétés de vidéosurveillance au monde (avec un chiffre d’affaires de près de 700 millions de dollars en 2020). L’entreprise vend des caméras et des logiciels d’accompagnement compatibles avec des systèmes d’IA, y compris avec un logiciel de reconnaissance faciale, qui, selon elle, peut détecter la race d’une personne. L’outil de “suivi de l’ethnicité” de Tiandy, largement décrié par les experts comme étant à la fois biaisé et contraire à l’éthique, est considéré comme l’un des nombreux systèmes basés sur l’IA que le gouvernement chinois utilise pour réprimer la minorité ouïghoure dans la province du Xinjiang.
La suite ici (Tate Ryan-Mosley)
