Au cours des 6 dernières années, le service de police de la ville de New York a établi une vaste base de données contenant les noms et les détails personnels d’au moins 17 500 personnes susceptibles d’être impliquées dans des gangs criminels. Les avocats, les militants et les chercheurs insistent sur la nécessité d’intégrer les notions d’éthique et de responsabilité dans la conception et la mise en œuvre de systèmes d’intelligence artificielle (IA). Mais cette invective ignore souvent quelques questions délicates : qui est légitime pour définir ce cadre éthique et qui doit le faire respecter ? Non seulement la reconnaissance faciale est imparfaite, mais des études ont aussi démontré que les logiciels de pointe sont moins précis pour les femmes et les personnes dont la peau est foncée. Or, selon l’estimation de l’Ifill, la base de données de la police est constituée entre 95 et 99 % d’Afro-Américains, de Latino-Américains et d’Américains d’origine asiatique.
Pour tenter de mettre en évidence les divergences de principes entre les gens, les chercheurs du MIT ont créé une plateforme appelée la Machine Morale pour recueillir l’opinion humaine sur les décisions morales qui devraient être prises par les automobilistes au volant d’une voiture. Ils ont demandé à des millions de personnes du monde entier de peser le pour et le contre et de choisir qui une voiture devrait essayer de prioriser en cas d’accident. Les résultats montrent d’énormes variations d’une culture à l’autre.
Philip Alston, juriste international à la faculté de droit de l’Université de New York, propose une solution à la nature ambiguë et irresponsable de l’éthique : redonner un cadre sur les conséquences de l’IA en termes de droits humains. « Les droits de l’Homme sont dans la Constitution « , a déclaré M. Alston lors de la même conférence. « Ils figurent dans la déclaration des droits ; ils ont été interprétées par les tribunaux, a-t-il dit. Si un système d’IA prive les gens de leurs droits fondamentaux, alors ce système ne devrait pas être autorisé, a-t-il dit.
