Elon Musk, le fondateur de Tesla et OpenAI, a récemment suggéré que l’humanité pourrait se protéger contre l’émergence de machines cognitives de plus en plus « intelligentes » en fusionnant avec elles. La thèse de Musk est simple : des interfaces suffisamment avancées entre cerveau et ordinateur permettront aux humains d’augmenter massivement leurs capacités cognitives. Le cerveau humain tirerait ainsi parti des technologies telles que l’apprentissage machine (machine learning) et l’apprentissage profond (deep learning). Mais l’échange s’opérerait dans les deux sens. Les interfaces cerveau-machine pourraient aussi booster la performance des algorithmes d’apprentissage machine. Le cerveau pourrait en retour « combler les lacunes » des algorithmes sur des tâches sur lesquelles ils sont actuellement peu performants, comme la prise de décision contextuelle nuancée. En supposant que le défi matériel soit finalement résolu, il resterait d’autres problèmes encore plus importants à régler.
Et si la fusion du cerveau et de la machine nous transformait en surhumains de l’arithmétique ? Ainsi, plutôt que d’utiliser une calculatrice ou un smartphone, nous pourrions penser au calcul et recevoir instantanément la réponse. Là où les choses se compliquent, c’est si nous devions brancher des fonctions plus avancées. Certes les technologies d’apprentissage machine ne disposent pas d’émotions, mais elles souffrent bien de partialité, de la même manière que les humains. Elles peuvent même présenter un comportement raciste. Cette imprévisibilité a des implications majeures sur la façon dont un être humain pourrait se brancher à une machine, et plus important encore, avoir confiance dans cette machine.
Protéger l’humanité d’une potentielle obsolescence cognitive en fusionnant cerveau humain et artificiel est une idée attrayante. Il reste à déterminer le niveau de contribution du cerveau humain à long terme, d’autant plus quand certaines capacités cognitives des machines seront 1 million de fois plus importantes que celle de l’humain. La confiance aussi fonctionne dans les 2 sens. La pensée humaine est une activité complexe, extrêmement dynamique. En prenant l’hypothèse qu’une interface cerveau-machine soit suffisamment avancée, comment la machine saura-t-elle ignorer les préjugés humains ? Après tout, les biais inconscients constituent un défi auquel tout le monde doit faire face.
