Pourquoi cet article est intéressant ? L. Bardon . –Il n’existe pas de score social, unique, tout puissant, qui ouvrirait ou fermerait les portes et les droits de chaque individu vivant en Chine. Il s’agit plutôt d’un patchwork d’expérimentations locales s’appuyant sur des systèmes low-tech créés à partir de bases de données et de formulaires en ligne. L’ironie de ce sujet étant que les pays qui dénoncent un système qui n’existe pas réellement aujourd’hui utilisent des algorithmes pour automatiser certaines décisions relatives à l’accès au logement, aux emplois ou à certains services de base. Par exemple, les autorités d’Amsterdam ont utilisé un algorithme pour classer les jeunes des quartiers défavorisés en fonction de leur probabilité de devenir des criminels.
Le gouvernement chinois utilise les nouvelles technologies pour contrôler ses citoyens de manière effrayante. Internet est censuré. Le numéro de téléphone portable et les activités en ligne de chaque personne se voient attribuer un numéro d’identification unique lié à leur vrai nom. La technologie de reconnaissance faciale est également de plus en plus répandue en Chine, et il existe peu de restrictions sur la manière dont elle peut être utilisée pour suivre et surveiller les citoyens.
La Chine achemine de grandes quantités de données publiques et privées vers d’énormes bases de données pour renforcer son contrôle sur ses quelque 1,4 milliard d’habitants. Mais le monde des affaires est devenu sa cible la plus importante. Pékin accumule de plus en plus d’informations, aujourd’hui réparties entre divers organismes gouvernementaux et associations industrielles (y compris les décisions des tribunaux, les données sur les salaires, les dossiers environnementaux, les violations des droits d’auteur et même le nombre d’employés membres du Parti communiste) et les utilise pour évaluer les entreprises et leurs dirigeants, selon les médias, documents gouvernementaux et experts des États.
Le présent est la bêta version du futur.
Synthèse
Le projet de loi introduit en novembre sur le crédit social de la Chine offre une image plus précise de la réalité. Le système sur lequel le gouvernement central a lentement travaillé est un mélange de tentatives pour réguler le secteur du crédit financier, permettre aux agences gouvernementales de partager des données entre elles et promouvoir des valeurs morales approuvées par l’État. Il n’y a pas encore de preuve que ce système ait été utilisé pour un contrôle social généralisé.
Qu’est-ce que le crédit social ? En Chine, il existe deux types de crédit : la solvabilité financière traditionnelle et la solvabilité sociale. La première est un concept familier en Occident : elle documente les antécédents financiers des individus ou des entreprises et prédit leur capacité à rembourser de futurs prêts. La solvabilité sociale s’appuie sur des données provenant d’une plus grande variété de secteurs et est souvent assimilée à la notation financière.
Le gouvernement a-t-il mis en place un système qui réglemente activement ces deux types de crédit ? Non. À ce jour, le gouvernement national n’a construit qu’un système centré sur les entreprises, et non sur les individus, qui regroupe des données sur le respect de la réglementation des entreprises provenant de différentes agences gouvernementales. Le résultat est consultable par tout citoyen chinois sur un site Web récemment créé, appelé Credit China, qui sert de portail central pour plus de trois douzaines de bases de données (parfois très spécifiques).
Pourquoi cette mesure est-elle si controversée en Occident ? Le gouvernement central ne donne guère d’indications sur la manière de mettre en place un système de crédit social. Ce qui a ouvert la porte aux villes et aux petits villages pour expérimenter leurs propres solutions. Rongcheng, une petite ville de Chine, a mis en place un système de crédit personnel de 1 000 points. Diffuser des informations nuisibles sur WeChat, les forums et les blogs fait perdre 50 points. Remporter une compétition sportive ou culturelle de niveau national fait gagner 40 points. Dans un cas extrême, un habitant a perdu 950 points pour avoir distribué à plusieurs reprises des lettres en ligne au sujet d’un litige médical.
Comment savons-nous que ces programmes pilotes ne deviendront pas des règles officielles pour l’ensemble du pays ? Le gouvernement central chinois s’est en fait opposé aux actions malhonnêtes des gouvernements locaux en matière de réglementation du crédit social. En décembre 2020, le conseil d’État chinois a publié une directive politique répondant aux rapports selon lesquels les gouvernements locaux utilisaient le système de crédit social pour justifier la punition d’actions aussi insignifiantes que le passage en dehors des clous, le recyclage incorrect et le non-port de masques.
Le système fait-il appel à des technologies avancées, comme l’IA ? L’infrastructure générale s’appuie étonnament sur des technologies peu avancées. Si Pékin veut permettre à chaque agence gouvernementale de prendre des décisions d’application de la loi sur la base des données collectées par d’autres agences gouvernementales, il faudrait construire une infrastructure massive pour stocker, échanger et traiter les données.
Comment les entreprises technologiques chinoises sont-elles impliquées dans ce système ? Les petites entreprises sous contrat avec les gouvernements municipaux ou provinciaux ont largement construit l’infrastructure technologique du système. Les grandes entreprises technologiques, notamment les plateformes sociales, ont aidé le système à diffuser son message. Alibaba aide les tribunaux à rendre des décisions de justice grâce aux adresses de livraison qu’elle collecte via son énorme plateforme de commerce électronique. Douyin, la version chinoise de TikTok, s’associe à un tribunal local pour couvrir de honte les personnes qui ne respectent pas les décisions de justice.
Faut-il s’inquiéter ? Même s’il n’y a pas d’algorithme qui note chaque citoyen, le système de crédit social peut s’avérer problématique. Le gouvernement chinois insiste sur le fait que toutes les sanctions liées au crédit social doivent respecter les lois existantes, mais les lois elles-mêmes peuvent être injustes en premier lieu. Lorsque des questions morales comme l’honnêteté sont transformées en questions juridiques, l’État finit par être le seul à pouvoir décider de qui est digne de confiance. Est-ce que vous rendez la société plus digne de confiance en dénonçant votre voisin ? Ou construisez-vous la méfiance dans votre communauté locale ?
