Think&Do Tank virtuel pour que la 4ème révolution "industrielle" / singularité impulsée par les NBIC soit éthique & sociale

Quand Google DeepMind fait se confronter plusieurs systèmes d’IA

Les chercheurs de la filiale de Google, DeepMind, ont décidé de tester comment interagiraient différents systèmes d’IA lorsqu’ils sont confrontés à des « dilemmes sociaux ». Il s’agit d’un terme générique désignant les situations au sain desquelles les individus peuvent individuellement profiter d’agir égoïstement, mais où tout le monde perd si tout le monde est égoïste. L’exemple le plus célèbre est celui du dilemme du prisonnier : 2 individus peuvent choisir de se trahir pour obtenir une récompense, mais perdent si les deux choisissent cette option.

Pour tester cela, les chercheurs de DeepMind, les chercheurs ont « lâché » les agents IA dans quelques jeux vidéos basiques. Ce qu’ils ont trouvé s’avère intéressant, mais surprenant: les IA ont modifié leur comportement, devenant plus coopératifs ou antagonistes, selon le contexte. Les résultats de l’étude montrent donc que le comportement des IA varie en fonction du cadre défini. Si les règles récompensent le comportement agressif («Zap ce joueur pour obtenir plus de pommes») l’IA sera plus agressive ; si elles récompensent le comportement coopératif («Travaillez ensemble et vous obtenez tous deux des points!), elles seront plus coopératives. Pourquoi c’est important ? Parce que cela signifie qu’une partie du défi que représente la maîtrise de l’IA dans le futur consiste à définir et mettre en place les bonnes règles.

La suite ici

Partager cet article: Share on FacebookTweet about this on TwitterShare on LinkedInShare on Google+Pin on PinterestEmail this to someoneShare on RedditShare on Tumblr
Loïc Bardon
A propos Loïc Bardon

Futurologue passionné par les NBIC, la singularité et le transhumanisme - Co-fondateur du think&do tank virtuel Paris Singularity - Membre actif de l'institut de recherche technologique virtuel envisioning.io

Contact: Twitter | Plus d'articles

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée.


*