Au cours des cinq dernières années, les grandes entreprises de technologie n’ont fait qu’accélérer leurs investissements et leurs recherches en intelligence artificielle (IA), après qu’une théorie vieille de plusieurs décennies ait finalement fonctionné en 2012. Inspiré du cerveau humain, un réseau neuronal artificiel reposait sur des milliers de minuscules connexions, entre « neurones » . Mais cette architecture logicielle s’accompagne d’un compromis : comme les changements au cours de ces millions de connexions sont si complexes et infimes, les chercheurs ne sont pas en mesure de déterminer exactement ce qui se passe. Ils obtiennent juste un résultat.
Comme ces réseaux de neurones artificiels commencent à être utilisés dans l’application de la loi, les soins de santé, la recherche scientifique et pour déterminer quelles informations vous seront proposées sur Facebook, les chercheurs estiment que le côté « boîte noire » est devenu un problème majeur. D’autre part, des recherches ont démontré que les algorithmes amplifiaient les biais dans les données à partir desquelles ils apprennent et établissaient des liens involontaires (et pas toujours appropriés) entre les idées.