Think&Do Tank virtuel pour que la 4ème révolution "industrielle" / singularité impulsée par les NBIC soit éthique & sociale

Pouvons-nous nous permettre de contrôler l’IA, et inversement ?

Certaines personnes sont effrayées que des robots artificiellement et lourdement armés ne puissent prendre le contrôle du monde, asservir l’humanité, ou peut-être nous exterminer. En tant que chercheur sur la façon dont fonctionne l’intelligence artificielle (IA) dans la prise de décision robotique, les drones et les véhicules autonomes, j’ai vu à quel point cela pouvait être bénéfique. J’ai développé un logiciel d’IA qui permet aux robots travaillant en équipe de prendre des décisions individuelles, dans le cadre d’efforts collectifs pour explorer et résoudre des problèmes. Les chercheurs sont déjà soumis à des règles, règlements et lois en vigueur visant à protéger la sécurité publique. Imposer d’autres limites risque de réduire le potentiel d’innovation des systèmes d’IA.

Si le terme IA évoque des images de robots humanoïdes alimentées par des films de science fiction, la plupart des gens utilisent déjà l’IA. Ces systèmes nous aident à trouver des produits similaires lors d’achats, proposent des recommandations de films et de télévision et nous aident à trouver des sites Web. Ils évaluent la rédaction des étudiants, offrent un tutorat personnalisé et reconnaissent même les objets transportés par les scanners d’aéroport. Dans chaque cas, l’IA facilitent les tâches aux humains.

Dans ces domaines et dans bien d’autres, l’IA a le potentiel de faire beaucoup plus de bien que de mal ; si elle est utilisée correctement. Il existe déjà des lois à l’échelle des nations, des États et des villes régissant les responsabilités civiles et pénales pour les actions nuisibles. NLe drones, par exemple, doivent obéir à la réglementation de la FAA, tandis que la voiture autonome doit obéir aux lois de la circulation pour circuler sur les voies publiques.

Les lois existantes couvrent également le cas d’un robot qui blesserait ou tuerait une personne, même si la blessure est accidentelle et que le programmeur ou l’opérateur du robot n’est pas pénalement responsable.

Musk et Hawking, entre autres, craignent que les systèmes d’IA les plus performants, ne se limitant plus à un seul ensemble de tâches comme le contrôle d’une voiture autonome, puissent décider de ne plus avoir besoin d’humains. Isaac Asimov, auteur de science fiction, a déjà tenté d’endiguer cette menace en proposant trois lois limitant la prise de décision des robots : les robots ne peuvent pas blesser les humains ou ne sont pas autorisés de leur “nuire”. Ils doivent aussi obéir aux humains, à moins que cela ne nuise aux humains, et se protéger eux-mêmes. Plutôt que de réglementer ce que les systèmes d’IA peuvent et ne peuvent pas faire, il serait préférable de leur enseigner l’éthique et les valeurs humaines ; comme les parents le font avec les enfants humains.

Les gens bénéficient déjà de l’IA tous les jours, mais ce n’est que le début. Les robots intelligents peuvent aussi aider les humains d’autres façons. Ils peuvent effectuer des tâches répétitives  où l’ennui humain peut causer des erreurs. Pour concrétiser ces opportunités, il faudra beaucoup plus de recherche et de développement. Les règlements qui rendent plus coûteux le développement d’IA ou la prévention de certaines utilisations peuvent retarder voir empêcher ces travaux d’aboutir.

L’humanité a fait face à un ensemble de problèmes similaires dans les premiers jours d’Internet. Mais les Etats-Unis ont activement évité de réguler Internet pour ne pas retarder sa montée en puissance. Les systèmes d’iIAe ont le potentiel de changer la façon dont les humains font à peu près tout. Les scientifiques, les ingénieurs, les programmeurs et les entrepreneurs ont besoin de temps pour développer les technologies et ainsi en délivrer les bénéfices. Leur travail devrait être exempt de toute crainte que certaines IA puissent être interdites, ainsi que des retards et des coûts associés aux nouvelles réglementations spécifiques à l’IA.

La suite ici (Jeremy Straub)

Partager cet article: Share on FacebookTweet about this on TwitterShare on LinkedInShare on Google+Pin on PinterestEmail this to someoneShare on RedditShare on Tumblr
Loïc Bardon
A propos Loïc Bardon

Co-fondateur de Paris Singularity, think&do tank virtuel d'empowerment citoyen Prospectiviste passionné par la 4e révolution "industrielle"/singularité impulsée par les technologies NBIC(Nano/Bio/Info/Cogno)

Contact: Twitter | Plus d'articles

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée.


*