L. Bardon . – Les organismes publics responsables de domaines tels que la justice pénale, la santé et le bien-être s’appuient de plus en plus sur des systèmes de notation et des logiciels pour orienter ou prendre des décisions comme la libération sous caution, la condamnation, l’exécution et la hiérarchisation des services. Selon le rapport d’AI Now, un institut de recherche à NYU qui étudie les implications sociales de l’intelligence artificielle, un trop grand nombre de ces systèmes sont opaques pour les citoyens qui en dépendent. Pour répondre aux préoccupations croissantes relatives au manque de transparence du fonctionnement interne de l’IA, les ingénieurs en logiciel et les scientifiques responsables d’un grand nombre d’algorithmes impliqués dans nos activités quotidiennes en ligne ont de plus en plus utilisé des structures algorithmiques plus “socialement conscientes”. Par exemple, les data scientists utilisent maintenant une technique connue sous le nom de “confidentialité différentielle” pour ajouter du “bruit” aléatoire aux ensembles de données, préservant la structure globale tout en masquant les données individuelles. Cette technique aide à anonymiser les données et protège ainsi la vie privée des utilisateurs. D’autres techniques comprennent l’ajout de critères d’équité, de sorte que la production des modèles prédictifs (de la solvabilité aux décisions liées à l’assurance) minimise le biais autant qeu possible.
Amsterdam et Helsinki sont devenues les premières villes au monde à lancer des registres d’IA ouverts permettant de suivre la manière dont les algorithmes sont utilisés dans les municipalités. Dans un communiqué de presse, les villes ont déclaré que ces registres contribueraient à garantir que l’IA utilisée dans les services publics fonctionne selon les mêmes principes de responsabilité, de transparence et de sécurité que les autres activités des collectivités locales.
Les deux registres ont été développés par Saidot, une société finlandaise qui développe des outils aidant les agences publiques à rendre leurs initiatives d’IA plus explicites. Les deux registres ne contiennent actuellement qu’une sélection limitée d’applications. Les deux registres fournissent une vue d’ensemble de chaque système, ainsi que des détails supplémentaires sur les données qu’ils utilisent, leur logique de fonctionnement et la gouvernance des applications. Les villes prévoient d’ajouter d’autres applications au registre au cours de l’automne.
La suite ici (Thomas Macaulay)
