Les chercheurs à la pointe de l’intelligence artificielle (IA) se sont réunis récemment pour la prestigieuse conférence NIPS (Neural Information Processing Systems). Ils ont mis à l’ordre du jour un nouveau sujet, en sus des échanges habituels autour de la recherche en pointe et des discussions de groupe : la préoccupation au sujet du pouvoir de l’IA.
La question a été cristallisée lors d’un discours de la chercheuse de Microsoft, Kate Crawford. La prise de parole de Crawford ne comportait aucune équation et prenait la forme d’un appel à l’éveil éthique. Elle a exhorté les participants à commencer à réfléchir et à trouver des moyens d’atténuer les dommages accidentels ou intentionnels causés par leurs créations.
Certains chercheurs présentent des techniques qui pourraient contraindre ou auditer les logiciels d’IA. Victoria Krakovna, une chercheuse du groupe de recherche Alphabet DeepMind, a présenté un exposé sur la « sécurité de l’IA », un travail relativement nouveau visant à empêcher les logiciels de développer des comportements indésirables ou surprenants, par exemple éviter d’être éteint. Les chercheurs de l’Université d’Oxford ont même organisé un déjeuner sur le thème de la sécurité de l’IA plus tôt dans la journée.
