Au fur et à mesure que nous entrons dans l’ère de l’intelligence artificielle (IA) et qu’elle prendra des décisions de la vie ou de mort – repérer des cellules cancéreuses ou nous conduire au travail – la confiance en les machines deviendra une question de plus en plus importante. La difficulté est qu’il nous est presque impossible de comprendre le fonctionnement interne de nombreux systèmes modernes d’IA qui effectuent des tâches humaines, telles que la reconnaissance des objets ou la compréhension de la parole. Les modèles produits par les systèmes d’apprentissage en profondeur qui ont généré des percées récentes en IA sont largement opaques, fonctionnant comme des boîtes noires qui « crachent » un résultat dont l’opération reste mystérieuse. Cette inscrutabilité découle de la complexité des grands réseaux de neurones qui sous-tendent les systèmes d’apprentissage en profondeur. Les géants de la technologie tels que Google, Facebook, Microsoft et Amazon ont présenté une vision du futur où les agents d’IA aideront les gens dans leur vie quotidienne, à la fois au travail et à domicile : organiser notre journée, conduire nos voitures, livrer nos produits.
