Think&Do Tank virtuel pour que la 4ème révolution "industrielle" / singularité impulsée par les NBIC soit éthique & sociale

L’IA à la recherche d’une conscience éthique

Les chercheurs à la pointe de l’intelligence artificielle (IA) se sont réunis récemment pour la prestigieuse conférence NIPS (Neural Information Processing Systems). Ils ont mis à l’ordre du jour un nouveau sujet, en sus des échanges habituels autour de la recherche en pointe et des discussions de groupe : la préoccupation au sujet du pouvoir de l’IA.

La question a été cristallisée lors d’un discours de la chercheuse de Microsoft, Kate Crawford. La prise de parole de Crawford ne comportait aucune équation et prenait la forme d’un appel à l’éveil éthique. Elle a exhorté les participants à commencer à réfléchir et à trouver des moyens d’atténuer les dommages accidentels ou intentionnels causés par leurs créations.

Certains chercheurs présentent des techniques qui pourraient contraindre ou auditer les logiciels d’IA. Victoria Krakovna, une chercheuse du groupe de recherche Alphabet DeepMind, a présenté un exposé sur la “sécurité de l’IA”, un travail relativement nouveau visant à empêcher les logiciels de développer des comportements indésirables ou surprenants, par exemple éviter d’être éteint. Les chercheurs de l’Université d’Oxford ont même organisé un déjeuner sur le thème de la sécurité de l’IA plus tôt dans la journée.

La suite ici (Tom Simonite)

(Visited 119 times, 1 visits today)

Loïc Bardon
A propos Loïc Bardon

Co-fondateur de Paris Singularity, think&do tank virtuel d'empowerment citoyen Prospectiviste passionné par la 4e révolution "industrielle"/singularité impulsée par les technologies NBIC(Nano/Bio/Info/Cogno)

Contact: Twitter | Plus d'articles

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée.


*