Alors que le monde devient de plus en plus compliqué et interconnecté, les décisions des gouvernements, des entreprises et des grandes institutions sont devenues moins accessibles pour le citoyen moyen. Qu’il s’agisse de la confidentialité des données, du changement climatique, de l’automatisation ou de la quatrième révolution industrielle, on demande aux citoyens d’accepter des décisions prises par des experts dont ils ne peuvent ni égaler ni évaluer les connaissances. Le citoyen moyen, dont la voix et le consentement ont déjà été proclamés essentiels au fonctionnement de la démocratie et à la légitimation du pouvoir politique, est maintenant appelé à céder davantage de pouvoir aux experts. Et les gouvernés n’en sont pas ravis.
L’IA accélère l’aliénation
L’IA guidera la prise de décisions politiques futures. Soutenue par des machines complexes qui étudient des phénomènes sociaux complexes, l’action gouvernementale deviendra encore plus impénétrable et incompréhensible pour les personnes les plus touchées par un monde en mutation. Comment réagira le citoyen moyen face aux décisions de santé prises par les algorithmes d’IA ou à la fermeture d’usines à partir de simulations informatiques ? L’éclatement des rébellions contre la classe d’experts qui a caractérisé la politique américaine et européenne va probablement s’accélérer.
Comment la gouvernance actuelle peut-elle fonctionner avec et pour les gouvernés, quand la complexité et l’innovation ont mis la compréhension hors de portée de tant de gens ?
L’innovation technologique exige l’innovation sociale
Un avenir politique harmonieux exige de nouvelles approches de l’utilisation de la technologie dont l’IA, non seulement pour innover, mais aussi pour expliquer et impliquer les citoyens dans le processus de gouvernance, ce qui redonnerait aux gouvernés un sentiment de fierté et d’investissement dans leurs systèmes de gouvernance. Alors même que nous sommes confrontés à des défis de plus en plus importants, nous devons reconnaître le droit des gouvernés de se sentir « considérés » par les systèmes qui exercent un pouvoir sur eux.
Socialisation des systèmes d’IA
Au-delà de l’exploration de nouveaux modèles, de nouveaux outils d’élaboration des politiques nécessiteront également de repenser la participation de la population à la prise de décision. Une forte cohésion sociale et un consentement démocratique significatif exigeront un engagement ferme des dirigeants en faveur de la transparence et de l’engagement, car la technologie et l’IA jouent un rôle de plus en plus important dans les décisions économiques, d’emploi, de santé et de justice.
Plus précisément, ces systèmes devraient s’efforcer de :
– L’apport continu des électeurs, du début à la fin, de sorte que leur participation soit considérée comme constitutive des systèmes eux-mêmes
– Un engagement à expliquer l’IA à l’origine de ces décisions – ce qui constitue un défi avec la technologie actuelle
– Un cadre de droits revigoré pour établir les limites et les limites de tout système automatisé ou de toute décision
La suite ici (Michael Mayernick)
