Pourquoi cet article est intéressant ? L. Bardon . – Le RGPD, le règlement de l’UE sur la protection des données, a été “copié” partout, de la Californie à l’Inde. Va-t-il en être de même concernant la nouvelle loi sur l’IA ? Cette nouvelle approche de l’IA adoptée par l’UE cible les systèmes considérés comme les plus “à risque” c’est-à-dire de nuire aux personnes en : notant des examens, recrutant des employés, assistant la prise de décision des juges dans le domaine de la justice.
Le gouvernement chinois utilise les nouvelles technologies pour contrôler ses citoyens de manière effrayante. Internet est censuré. Le numéro de téléphone portable et les activités en ligne de chaque personne se voient attribuer un numéro d’identification unique lié à leur vrai nom. La technologie de reconnaissance faciale est également de plus en plus répandue en Chine, et il existe peu de restrictions sur la manière dont elle peut être utilisée pour suivre et surveiller les citoyens.
La première version du projet de loi prévoit d’interdire les utilisations de l’IA jugées “inacceptables”, telles que la notation des personnes sur la base de leur fiabilité perçue. Le projet de loi limiterait également l’utilisation par les forces de l’ordre de la reconnaissance faciale dans les lieux publics. Un groupe d’acteurs puissants, dont des membres du Parlement européen et des pays comme l’Allemagne, souhaite une interdiction totale ou un moratoire sur l’utilisation de la reconnaissance faciale dans les lieux publics par les forces de l’ordre et les entreprises privées, arguant que cette technologie permet la surveillance de masse. Mais certaines des exigences du projet de loi sont techniquement impossibles à respecter à l’heure actuelle. La première version du projet de loi exige que les ensembles de données soient exempts d’erreurs et que les humains soient capables de “comprendre pleinement” le fonctionnement des systèmes d’IA.
Le présent est la bêta version du futur.
Synthèse
Si les États-Unis et l’Union européenne ne s’entendent pas sur la manière de réglementer les technologies, leurs législateurs semblent d’accord sur un point : l’Occident doit interdire le crédit social alimenté par l’IA.
Selon ces législateurs, le crédit social est un système via lequel les gouvernements autoritaires (en particulier la Chine) notent la fiabilité des personnes et les punissent pour des comportements indésirables, comme le vol ou le non-remboursement de prêts. Il s’agirait essentiellement d’une “super-note” dystopique attribuée à chaque citoyen.
L’UE négocie actuellement une nouvelle loi appelée AI Act, qui interdira aux États membres, et peut-être même aux entreprises privées, de mettre en œuvre un tel système.
Qu’est-ce que le crédit social ? En 2014, la Chine a annoncé un plan de six ans pour mettre en place un système récompensant les actions qui renforcent la confiance dans la société et pénalisant le contraire. Huit ans plus tard, elle vient tout juste de publier un projet de loi qui tente de codifier les projets pilotes de crédit social et de guider leur mise en œuvre future. Il y a eu quelques expériences locales controversées, comme celle de la petite ville de Rongcheng en 2013, qui a donné à chaque résident un score de crédit personnel de départ de 1 000 points. Ce dernier augmente ou diminue en fonction de la façon dont leurs actions sont jugées. Depuis, les citoyens ont maintenant la possibilité de se retirer du programme et le gouvernement local a supprimé certains critères controversés. Par ailleurs, ces critères n’ont pas été adoptés ailleurs et ne s’appliquent pas à l’ensemble de la population chinoise.
Par ailleurs, ce qui a été mis en œuvre est pour l’essentiel assez peu technologique. Il s’agit d’un “mélange de tentatives visant à réguler le secteur du crédit financier, à permettre aux agences gouvernementales de partager des données entre elles et à promouvoir des valeurs morales sanctionnées par l’État”. Le mythe du crédit social trouve son origine dans un programme pilote appelé Sesame Credit, développé par la société technologique chinoise Alibaba. Il s’agissait d’une tentative d’évaluation de la solvabilité des personnes à l’aide des données des clients, à une époque où la majorité des Chinois ne possédaient pas de carte de crédit.
L’ironie du sort veut que, tandis que les politiciens américains et européens décrivent ce problème comme provenant de régimes autoritaires, les systèmes qui classent et pénalisent les gens sont déjà en place en Occident. Des algorithmes conçus pour automatiser les décisions sont déployés en masse et utilisés pour refuser des logements, des emplois et des services de base. À Amsterdam, par exemple, les autorités ont utilisé un algorithme pour classer les jeunes des quartiers défavorisés en fonction de leur probabilité de devenir des criminels. Elles affirment que l’objectif est de prévenir la criminalité et d’offrir un soutien plus efficace et plus ciblé.
Dans ce contexte, il est indispensable que les gouvernements procèdent à des audits honnêtes et approfondis de la manière dont les autorités et les entreprises utilisent déjà l’IA pour prendre des décisions concernant nos vies.
La suite ici (Melissa Heikkilä)
