Une Tesla s’est écrasé alors que le pilote automatique était enclenché, tuant le conducteur, et un Uber s’est aussi écrasé en mode pilote automatique, tuant un piéton. Les systèmes commerciaux de reconnaissance faciale ont donné de très mauvais résultats sur des personnes à la peau foncée lors d’audits, mais les géants de la technologie ont continué à les vendre de toute façon, y compris aux forces de l’ordre.
Malgré tous les discours sur les questions éthiques liées l’IA, les directives éthiques de nombreuses organisations restent vagues et difficiles à mettre en œuvre. Peu d’entreprises peuvent montrer des changements tangibles dans la façon dont les produits et services d’IA sont évalués et approuvés. Nous tombons dans le piège du lavage éthique, où l’action réelle est remplacée par des promesses superficielles. Dans l’exemple le plus grave, Google a formé un comité d’éthique nominal pour l’IA sans pouvoir de veto réel sur les projets douteux, et avec quelques membres dont l’inclusion a provoqué la controverse. Une réaction brutale a immédiatement conduit à sa dissolution.
Entre-temps, le besoin d’une plus grande responsabilité éthique n’a fait que s’accentuer. Les mêmes progrès réalisés dans les GANs en 2018 ont conduit à la prolifération de deepfakes hyperréalistes, qui sont maintenant utilisés pour cibler les femmes et éroder la croyance des gens dans la documentation et les preuves.
Mais tout n’est pas sombre et morose : 2019 a été l’année du plus grand repli contre l’IA nuisible de la part des groupes communautaires, des décideurs et des employés des technologies eux-mêmes. Plusieurs villes, dont San Francisco et Oakland (Californie) et Somerville (Massachusetts), ont interdit l’utilisation publique de la reconnaissance faciale, et une proposition de loi fédérale pourrait bientôt l’interdire également dans les logements sociaux américains. Les employés de géants de la technologie comme Microsoft, Google et Salesforce se sont également de plus en plus prononcés contre l’utilisation de l’IA par leurs entreprises pour le suivi des migrants et la surveillance des drones.
