DeepMind, la filiale de Google travaillant sur l’intelligence artificielle, est devenue célèbre après qu’AlphaGo ait écrasé le champion du monde humain de jeu de Go dix ans avant ce que prévoyaient les experts. Mais DeepMind ne compte pas s’arrêter là. Les algorithmes d’intelligence artificielle ont été développés pour servir un objectif beaucoup plus ambitieux : concevoir la première véritable intelligence artificielle générale, utilisable dans n’importe quel domaine et capable d’apprendre seule. Ce qui soulève bien sûr de gigantesques questions éthiques autour de son contrôle. Dans un document récent, co-rédigé par des chercheurs de DeepMind et de l’Oxford University’s Future of Humanity Institute, les scientifiques indiquent que les systèmes d’intelligence artificielle ne se comporteront probablement pas toujours de façon optimale, et qu’un opérateur humain pourrait juger nécessaire d'”appuyer sur un grand rouge bouton “pour empêcher un tel système de causer des dommages.
