Les utilisateurs postant des photos sur Ever, une application mobile et de bureau similaire à Flickr et Photobucket, avaient le choix. S’ils optaient pour la reconnaissance faciale, le logiciel de l’application pouvait analyser les visages des sujets photographiés, et ainsi regrouper les photos, permettre aux utilisateurs de rechercher des photos par les personnes qui les composent, de suggérer des balises et de faciliter la recherche d’amis et de parents en utilisant l’application. Pour les utilisateurs, c’est très pratique et simple d’utilisation. Pour Ever, c’est lucratif : NBC News a récemment rapporté qu’ Ever concèdait sous licence son système de reconnaissance faciale, conçu en l’entraînant avec les photos des utilisateurs, aux forces de l’ordre et à l’armée américaine. De nombreux produits d’intelligence artificielle (IA), de la reconnaissance faciale aux haut-parleurs Alexa d’Amazon, suivent le même concept.
Nous générons de nouvelles données à mesure que nous utilisons les produits, tandis qu’un réseau mondial d’employés contractuels dans des pays comme l’Inde et la Roumanie étiquettent et affinent ces données, rendant le logiciel plus intelligent et plus fiable. Le modèle de la Silicon Valley pour améliorer l’IA repose sur le flou autour du nombre d’humains impliqués dans ce processus et sur le fait qu’ils ne savent pas comment ces données seront utilisées à l’avenir.
Parce que les données brutes fournies par les utilisateurs et affinées par des travailleurs de l’ombre sont si variables, les deux parties sont tenues dans l’ignorance de ce qu’elles font, explique Mary Gray, chercheuse principale chez Microsoft Research et boursière au Berkman Klein Center for Internet and Society de l’Université Harvard. La première étape de l’IA éthique, selon M. Gray, consiste donc à exposer les modalités d’intégration de cet obscurantisme à la chaîne d’approvisionnement.
