Entre le nouveau projet de « profilage par la donnée » testé par le gouvernement australien pour les bénéficiaires d’allocations testant des médicaments, l’utilisation par les États-Unis de la technologie de reconnaissance faciale et le déploiement de logiciels propriétaires judiciaire au sein de nombreux tribunaux américains … ; la technologie transforme la façon dont nous sommes surveillés, classés en tant que citoyens et, pourrait changer peut-être un jour, la façon dont nous sommes gouvernés.
Nous n’en sommes qu’aux premiers stades de la régulation des machines « intelligentes », des algorithmes d’apprentissage machine et des systèmes d’intelligence artificielle (IA) utilisés pour réguler le comportement humain et faire respecter les lois. Pourtant les implications sont déjà profondes pour la relation entre les citoyens privés et les Etats.
D’autant plus que l’émergence de ces technologies se produit exactement au moment où la confiance envers les gouvernements, dans une grande partie du monde occidental, a chuté à un niveau record. Les électeurs perçoivent de plus en plus les politiciens et ceux qui les entourent comme vivant hors de la réalité ; ils manifestent leur mécontentement dans les urnes.
L’utilisation d’algorithmes par les gouvernements pose 5 problèmes majeurs :
1) Des biais auto-renforcés
2) Une vulnérabilité à l’attaque
3) Qui est propriétaire ?
4) Les gouvernements sont-ils à la hauteur ?
5) Les algorithmes ne font pas dans la nuance
