Think&Do Tank virtuel pour que la 4ème révolution "industrielle" / singularité impulsée par les NBIC soit éthique & sociale

Machines cognitives : et si la fusion cerveau-machine ne nous protégeait pas longtemps

Elon Musk, le fondateur de Tesla et OpenAI, a récemment suggéré que l’humanité pourrait se protéger contre l’émergence de machines cognitives de plus en plus « intelligentes » en fusionnant avec elles. La thèse de Musk est simple : des interfaces suffisamment avancées entre cerveau et ordinateur permettront aux humains d’augmenter massivement leurs capacités cognitives. Le cerveau humain tirerait ainsi parti des technologies telles que l’apprentissage machine (machine learning) et l’apprentissage profond (deep learning). Mais l’échange s’opérerait dans les deux sens. Les interfaces cerveau-machine pourraient aussi booster la performance des algorithmes d’apprentissage machine. Le cerveau pourrait en retour « combler les lacunes » des algorithmes sur des tâches sur lesquelles ils sont actuellement peu performants, comme la prise de décision contextuelle nuancée. En supposant que le défi matériel soit finalement résolu, il resterait d’autres problèmes encore plus importants à régler.

Et si la fusion du cerveau et de la machine nous transformait en surhumains de l’arithmétique ? Ainsi, plutôt que d’utiliser une calculatrice ou un smartphone, nous pourrions penser au calcul et recevoir instantanément la réponse. Là où les choses se compliquent, c’est si nous devions brancher des fonctions plus avancées. Certes les technologies d’apprentissage machine ne disposent pas d’émotions, mais elles souffrent bien de partialité, de la même manière que les humains. Elles peuvent même présenter un comportement raciste. Cette imprévisibilité a des implications majeures sur la façon dont un être humain pourrait se brancher à une machine, et plus important encore, avoir confiance dans cette machine.

Protéger l’humanité d’une potentielle obsolescence cognitive en fusionnant cerveau humain et artificiel est une idée attrayante. Il reste à déterminer le niveau de contribution du cerveau humain à long terme, d’autant plus quand certaines capacités cognitives des machines seront 1 million de fois plus importantes que celle de l’humain. La confiance aussi fonctionne dans les 2 sens. La pensée humaine est une activité complexe, extrêmement dynamique. En prenant l’hypothèse qu’une interface cerveau-machine soit suffisamment avancée, comment la machine saura-t-elle ignorer les préjugés humains ? Après tout, les biais inconscients constituent un défi auquel tout le monde doit faire face.

source

Partager cet article: Share on FacebookTweet about this on TwitterShare on LinkedInShare on Google+Pin on PinterestEmail this to someoneShare on RedditShare on Tumblr
Loïc Bardon
A propos Loïc Bardon

Futurologue passionné par les NBIC, la singularité et le transhumanisme - Co-fondateur du think&do tank virtuel Paris Singularity - Membre actif de l'institut de recherche technologique virtuel envisioning.io

Contact: Twitter | Plus d'articles

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée.


*