Think&Do Tank virtuel pour que la 4ème révolution "industrielle" / singularité impulsée par les NBIC soit éthique & sociale

Quels principes adopter pour empêcher la guerre homme-machines/IA ?

robot photo

Photo by gaudiramone

Une intelligence artificielle (IA) pourrait écrire de « fausses nouvelles » plus convaincantes que ne le ferait un humain, lancer des cyberattaques plus sophistiquées, diriger des armes autonomes mortelles et mettre en compétition de plus en plus de personnes se battre pour un nombre décroissant d’emplois. Ces possibilités semblent encore relativement éloignées, et font dire à beaucoup qu’il est encore prématuré d’y accorder une attention sérieuse.

Stuart Russell fait parti des pionniers qui étudient le potentiel de l’IA et la relation qui devrait se former entre l’IA et l’humanité à long terme. Il est également une autorité de premier plan dans les domaines de la robotique et de la bioinformatique. Russell estime que les actions que nous prenons aujourd’hui auront une grande influence sur la capacité de la société à faire face à des défis tels que la désinformation, les logiciels malveillants, les armes autonomes et le chômage. En ne s’y préparant pas dès maintenant, il estime que ces défis pourraient vite devenir insurmontables.

Considérer par défaut que l’IA ne menacera jamais l’humain n’est pas judicieux répète Russell. Des technologies vont être capables de lire du texte et le comprendre pour en extraire des informations de manière utile. Très peu de temps après, les machines auront lu tout ce que la race humaine a jamais écrit. L’IA d’aujourd’hui ne menace pas notre avenir à court terme, mais cette menace augmentera certainement à mesure que l’IA progresse. Il existe déjà aujourd’hui des systèmes capables de percevoir/prédire le futur proche. Ils commencent à en savoir plus que nous sur le monde et pourront combiner 2 capacités, connaissance et prévoyance, pour prendre de meilleures décisions que les humains dans un large éventail d’activités.

Il existe une version d’IA dite « compatible » avec l’humain qui n’est envisageable qu’en concevant  les systèmes d’IA totalement différemment. Pour effectuer ce virage et les rendre obligatoirement bénéfiques pour l’homme, il faudrait changer la définition même de l’IA et la façon dont sont menées les recherches. La notion de « bénéfique » reste vague. Selon Russel,  elle doit se baser sur 2 principes clés de conception :

  1. L’objectif principal de l’IA devrait être de maximiser la réalisation des valeurs humaines qui nous rendent singuliers
  2. Et l’IA ne doit jamais avoir accès à la liste de ces valeurs

source

Partager cet article: Share on FacebookTweet about this on TwitterShare on LinkedInShare on Google+Pin on PinterestEmail this to someoneShare on RedditShare on Tumblr
Loïc Bardon
A propos Loïc Bardon

Futurologue passionné par la 4e révolution "industrielle" impulsée par les NBIC, et par la singularité - Co-fondateur du think&do tank virtuel Paris Singularity - Membre actif de l'institut de recherche technologique virtuel envisioning.io

Contact: Twitter | Plus d'articles

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée.


*