L. Bardon . – Sundar Pichai, PDG de Google, a fait de “AI first” un slogan, mais la méfiance de l’entreprise à l’égard de la puissance de l’IA a parfois laissé ses concurrents prendre la tête. Par exemple, fin octobre, Google a annoncé la mise en place d’un service de reconnaissance faciale sur mesure qui identifie les célébrités. (Microsoft et Amazon ont lancé des services similaires en 2017.) En plus d’être en retard sur le marché, le détecteur de célébrités de Google intègre des restrictions strictes quant à qui peut l’utiliser. Google a décidé d’imposer certaines limites à la technologie après avoir examiné sa conformité aux principes d’éthique que l’entreprise a introduit l’an dernier. Google a commencé à s’attaquer publiquement à la tension entre les promesses et les inconvénients potentiels de l’IA l’an dernier, en partie parce qu’il y était forcé. Et si cela devenait maintenant un nouvel avantage concurrentiel ?
La division “cloud” de Google va bientôt inviter ses clients à externaliser quelque chose de moins tangible que les processeurs et les lecteurs de disque – les plus et les moins liés à l’utilisation de l’intelligence artificielle (IA). La société prévoit de lancer de nouveaux services d’éthique en matière d’intelligence artificielle avant la fin de l’année. Dans un premier temps, Google offrira à d’autres entreprises des conseils sur des tâches telles que la détection de préjugés raciaux dans les systèmes de vision par ordinateur, ou l’élaboration de directives éthiques régissant les projets d’IA. À plus long terme, la société pourrait proposer d’auditer les systèmes d’IA de ses clients pour vérifier leur intégrité éthique, et de facturer les conseils en matière d’éthique…”.
Google a appris à ses dépens quelques leçons d’éthique en matière d’IA, à travers ses propres controverses. En 2015, Google s’est excusé et a empêché son application Photos de détecter les gorilles après qu’un utilisateur ait signalé que le service avait appliqué cette étiquette à des photos de lui avec un ami noir. En 2018, des milliers d’employés de Google ont protesté contre un contrat du Pentagone appelé Maven qui utilisait la technologie de l’entreprise pour analyser les images de surveillance provenant de drones. Peu de temps après, la société a publié un ensemble de principes éthiques pour l’utilisation de sa technologie d’IA et a déclaré qu’elle ne serait plus en compétition pour des projets similaires, mais n’a pas exclu tout travail de défense. La même année, Google a reconnu avoir testé une version de son moteur de recherche conçue pour se conformer à la censure autoritaire de la Chine, et a déclaré qu’elle ne proposerait pas de technologie de reconnaissance faciale, comme ses rivales Microsoft et Amazon l’ont fait pendant des années, en raison des risques d’abus.
Les luttes de Google s’inscrivent dans une prise de conscience plus large des experts en technologies selon laquelle l’IA peut aussi bien nuire qu’aider le monde. Les systèmes de reconnaissance faciale, par exemple, sont souvent moins précis pour les personnes dont la peau est noire et les logiciels de texte peuvent renforcer les stéréotypes. Dans le même temps, les régulateurs, les législateurs et les citoyens se méfient de plus en plus de l’influence de la technologie sur la société.
Google a déjà aidé certains clients, comme le géant bancaire mondial HSBC, à y réfléchir. Si Google allait plus loin, pour aider les clients à définir leurs limites éthiques en matière d’IA, cela pourrait soulever de nouvelles questions éthiques. Le processus d’examen et de conception éthique a duré 18 mois, incluant des consultations avec les responsables des droits civils et la résolution d’un problème de données de formation qui a entraîné une diminution de la précision de certains acteurs masculins noirs.
