L. Bardon . – Nous allons assister à l’émergence de systèmes d’intelligence artificielle qui joueront le rôle de coach artificiel d’éducation personnelle. Connaissez-vous le projet SimSensei financé par la DARPA ? Des chercheurs travaillent sur la mise au point d’une nouvelle génération d’intelligence artificielle : des agents virtuels disposant d’un niveau élevé d’intelligence émotionnelle artificielle. Ellie en est le fer de lance. Ellie est 1 thérapeute virtuelle, qui, obtient dans certaines études de meilleurs résultats que ses collègues humains. Ellie utilise langage naturel et l’écoute active. Ellie est équipée d’yeux et d’oreilles via une webcam, Microsoft Kinect et un micro pour suivre l’expression du visage, la pose de la tête, le geste et la posture du corps. Ellie c’est la grand-mère de votre coach artificiel d’éducation personnelle. Ce dernier aura un accès illimité et direct à toute information dans un cloud. Surtout, votre coach d’éducation observera constamment le moindre signe de frustration ou d’ennui, de curiosité ou d’intérêt, de plaisir ou de maitrise du sujet pour adapter à la fois le mode et la vitesse d’apprentissage.
Les algorithmes peuvent changer le cours de la vie des enfants. Les enfants interagissent avec des Alexas qui sont en mesure d’enregistrer leurs données vocales et d’influencer leur discours et leur développement social. Ils diffusent des vidéos sur TikTok et YouTube, poussés par des systèmes de recommandation qui finissent par façonner leur vision du monde.
Les algorithmes sont également de plus en plus utilisés pour déterminer à quoi ressemble leur éducation, s’ils recevront des soins de santé, et même si leurs parents sont jugés aptes à s’occuper d’eux. Cela peut parfois avoir des effets dévastateurs : l’été dernier, par exemple, des milliers d’étudiants ont perdu leur admission à l’université après que des algorithmes – utilisés à la place des tests standardisés annulés en cas de pandémie – aient prédit de façon inexacte leurs résultats scolaires.
Vosloo a dirigé la rédaction d’un nouvel ensemble de lignes directrices issues de l’Unicef et destinées à aider les gouvernements et les entreprises à développer des politiques d’IA tenant compte des besoins des enfants. Publiées le 16 septembre, les neuf nouvelles lignes directrices sont l’aboutissement de plusieurs consultations menées auprès de décideurs politiques, de chercheurs en développement de l’enfant, de praticiens de l’IA et d’enfants du monde entier. Elles prennent également en considération la Convention des Nations unies relative aux droits de l’enfant, un traité sur les droits de l’homme ratifié en 1989. En plus d’atténuer les effets néfastes de l’IA, l’objectif des principes est d’encourager le développement de systèmes d’IA qui pourraient améliorer la croissance et le bien-être des enfants.
L’Unicef n’est pas seule à réfléchir à la question. La veille de la publication de ce projet de lignes directrices, l’Académie d’intelligence artificielle de Pékin (BAAI), une organisation soutenue par le ministère chinois des sciences et des technologies et le gouvernement municipal de Pékin, a publié un ensemble de principes d’IA pour les enfants également.
