Think&Do Tank virtuel pour que la 4ème révolution "industrielle" / singularité impulsée par les NBIC soit éthique & sociale

Donner la citoyenneté au robot Sophia fait émerger des questions majeures

Le robot Sophia s’est récemment vu accorder la citoyenneté saoudienne. Cette annonce fait suite à l’engagement du Royaume-Uni d’investir 500 milliards de dollars pour construire une nouvelle ville alimentée par la robotique et les énergies renouvelables. Un des concepts les plus honorables pour un être humain, être citoyen et tout ce qui l’accompagne, a été donné à une machine. En tant que professeur qui travaille quotidiennement à rendre l’intelligence artificielle (IA) et les systèmes autonomes plus fiables, je ne crois pas que la société humaine soit encore prête pour des robots citoyens.

Accorder à un robot la citoyenneté est une déclaration de confiance dans une technologie qui, je crois, n’est pas encore digne de confiance. Ce coup marketing fait émerger des préoccupations sociales et éthiques que nous, les humains, ne sommes pas encore prêts à gérer. La citoyenneté, le statut le plus honorable qu’un pays accorde à son peuple, fait face à un risque existentiel. Par exemple, nous ne disposons pas encore des mécanismes pour nous assurer que ces systèmes intelligents se comportent toujours de manière éthique et conforme à nos valeurs morales, ou pour nous protéger contre eux s’ils choisissaient d’effectuer une mauvaise action avec des conséquences catastrophiques.

Voici trois raisons pour lesquelles je pense que c’est une décision prématurée d’accorder la citoyenneté de Sophia.

1. Définir l’identité

La citoyenneté est accordée à une identité unique.

Chacun d’entre nous, les humains, possède une signature unique qui nous distingue de tout autre humain. Qu’est-ce qui confère cette singularité à Sophia ? Son adresse MAC ? Un code à barres, une marque de peau unique, une signature audio dans sa voix, une signature électromagnétique similaire aux ondes cérébrales humaines ? L’identité est une construction multidimensionnelle. Elle se situe à l’intersection de ce que nous sommes biologiquement, cognitivement et est défini par chaque expérience, culture et environnement que nous avons rencontrés.

2. Droits légaux

Pour les besoins de cet article, supposons que Sophia le robot citoyen ait le droit de vote. Mais qui prendrait la décision le jour du scrutin, Sophia ou le fabricant ? On pourrait aussi supposer Sophia le citoyen est “responsable” de payer des impôts sur le revenu parce que Sophia a une identité légale indépendante de son créateur, l’entreprise. Sophia doit également avoir le droit à une protection égale à celle des autres citoyens.

Aujourd’hui, la communauté de l’IA débat toujours autour des principes qui devraient régir la conception et l’utilisation de l’IA, sans parler de ce que devraient être les lois. La liste la plus récente propose 23 principes connus sous le nom d’Asilomar AI Principles.

3. Droits sociaux

Parlons des relations et de la reproduction. En tant que citoyen, Sophia, le robot émotionnel humanoïde, pourra-t-elle «se marier» ou «se reproduire» si elle le souhaite ? Des étudiants de l’Université d’État du Dakota du Nord sont en train de mettre au point un robot qui s’auto-réplique à l’aide des technologies d’impression 3D. Si plus de robots rejoignent Sophia en tant que citoyens du monde, peut-être qu’ils pourraient aussi revendiquer leurs droits de se répliquer. Ces robots deviendraient aussi des citoyens. Sans contraintes de ressources sur le nombre d’enfants que chacun de ces robots pourrait avoir, ils pourraient facilement dépasser la population humaine d’une nation. En tant que citoyens votants, ces robots pourraient alors provoquer des changements sociétaux majeurs. Les lois pourraient changer, et soudain les humains pourraient se retrouver à une place qu’ils n’avaient jamais imaginé.

source (Hussein Abbass)

Partager cet article: Share on FacebookTweet about this on TwitterShare on LinkedInShare on Google+Pin on PinterestEmail this to someoneShare on RedditShare on Tumblr
Loïc Bardon
A propos Loïc Bardon

Co-fondateur de Paris Singularity, think&do tank virtuel d'empowerment citoyen Prospectiviste passionné par la 4e révolution "industrielle"/singularité impulsée par les technologies NBIC(Nano/Bio/Info/Cogno)

Contact: Twitter | Plus d'articles

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée.


*