Think&Do Tank virtuel pour que la 4ème révolution "industrielle" / singularité impulsée par les NBIC soit éthique & sociale

DARPA : l’intelligence artificielle doit savoir justifier ses décisions

2

Si le Pentagone veut que davantage de systèmes intègrent de l’intelligence artificielle, il doit d’abord s’assurer que ses employés en comprennent la mécanique. La DARPA recherche donc des chercheurs pour concevoir des prototypes de systèmes d’intelligence artificielle capable de présenter la logique et justifier chaque décision, ce que la DARPA appelle “Explanaible AI” ou “XAI”. L’agence veut aussi créer des équipes qui étudient la psychologique derrière ces explications – une machine devrait-elle plutôt décrire ses actions en utilisant des analogies ou des exemples ? – et d’évaluer si la confiance d’un utilisateur dans un système d’intelligence artificielle est plus importante si elle sait expliquer ses résultats. N’importe quel utilisateur devra pouvoir comprendre les réponses à des questions telles que “pourquoi tu as fait ça ?”, “quand puis-je te faire confiance ?”.

La suite ici

(Visited 155 times, 1 visits today)

Loïc Bardon
A propos Loïc Bardon

Co-fondateur de Paris Singularity, think&do tank virtuel d'empowerment citoyen Prospectiviste passionné par la 4e révolution "industrielle"/singularité impulsée par les technologies NBIC(Nano/Bio/Info/Cogno)

Contact: Twitter | Plus d'articles

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée.


*