Imaginez que vous ayez la chance d’intervenir auprès de 50 des politiciens les plus puissants des Etats-Unis pour les alerter sur un problème qui, selon vous, nécessite une action rapide du gouvernement. Elon Musk a eu cette chance le week-end dernier au cours de la réunion d’été de l’Association des gouverneurs nationaux à Rhode Island. Il a choisi de recommander à l’assemblée des gouverneurs de s’intéresser très sérieusement à l’intelligence artificielle (IA) pour prévenir le risque d’éradication de l’humanité.
« L’IA est un risque existentiel fondamental pour la civilisation humaine et je ne pense pas que les gens l’apprécient pleinement », a déclaré Musk. Il a demandé aux gouverneurs de considérer un scénario hypothétique dans lequel un programme de stock-trading aurait orchestré le lancement de missiles en 2014 pour abattre un avion de ligne malaisien au-dessus de l’Ukraine, juste pour augmenter la valorisation de son portefeuille. Puis Elon Musk a appelé à la création d’un nouveau régulateur gouvernemental qui obligerait les entreprises créant des technologies IA de ralentir leurs recherches.
Certains chercheurs en IA dont Rahwan s’offusque de la posture d’Elon Musk. Si Rahwan ne nie pas que les scénarios de cauchemar dépeints par Musk pourraient éventuellement se produire, il estime qu’il faudrait d’abord s’attaquer aux défis actuels posés par l’IA de façon pragmatique. « En nous concentrant sur les questions à court terme, nous pouvons élaborer une architecture réglementaire qui pourrait permettre de commencer à adresser les scénarios les plus imprévisibles, comme celui d’une superintelligence ».
