Les algorithmes et l’intelligence artificielle dirigent de plus en plus de choses dans nos vies. La question de leurs neutralités est donc de plus en plus prépondérante. Ne vont-ils pas refléter de toute évidence la partialité humaine ? Première chose, la majorité des développeurs, et plus spécifiquement les experts en machine-learning, sont des hommes. La question n’est pas nouvelle. Des études ont démontré des biais dans la publicité en ligne, le recrutement, et les stratégies de prix en ligne à la main d’algorithmes supposés neutres. Un professeur de Harvard, Latanya Sweeney, a étudié les résultats remontés par Google AdSense pendant des recherches associées à des noms de bébés statistiquement plutôt donnés à des bébés blancs (Geoffrey, Jill, Emma) et noirs (DeShawn, Darnell, Jermaine). Elle a découvert que les annonces contenant le mot « arrestation » avaient été présentées à côté de plus de 80% des recherches associées aux prénoms « noirs » et moins de 30% aux autres.
1 commentaire