Les GAN, ou réseaux antagonistes génératifs, sont les starlettes des médias sociaux des algorithmes d’intelligence artificielle (IA). Ils sont derrière la création du premier tableau créé par une IA jamais vendu aux enchères, mais aussi de la superposition de visages de célébrités sur les corps de stars du porno. Les chercheurs y sont parvenus en se faisant s’opposer deux réseaux de neurones. Les chercheurs du laboratoire d’IA Watson du MIT-IBM ont réalisé que les GAN sont aussi un outil puissant : parce qu’ils peignent ce qu’ils « pensent. Ils pourraient donc donner aux humains un aperçu de la façon dont les réseaux neuronaux apprennent et raisonnent.
Les chercheurs ont donc commencé à sonder les mécanismes d’apprentissage d’un GAN en lui fournissant diverses photos de paysages (arbres, herbe, bâtiments et ciel). Ils voulaient identifier s’il allait apprendre à organiser les pixels en groupes thématiques sans qu’on leur dise explicitement comment. En allumant et éteignant divers « neurones » et en demandant au GAN de peindre ce qu’il pensait, les chercheurs ont trouvé des amas neuronaux distincts qui avaient appris à représenter un arbre, par exemple ; seul. Des groupes représentaient l’herbe, tandis que d’autres encore représentaient des murs ou des portes. En d’autres termes, le GAN avait réussi à regrouper les pixels de l’arbre avec les pixels de l’arbre et les pixels de la porte avec les pixels de la porte indépendamment de la façon dont ces objets changeaient de couleur de photo en photo dans le jeu de formation.
Etre capable d’identifier quels clusters correspondent à quels concepts permet de contrôler la sortie du réseau neuronal. Le groupe de Bau peut activer uniquement les neurones de l’arbre, par exemple, pour peindre les arbres GAN, ou activer uniquement les neurones des portes pour peindre les portes. De même, les réseaux de langues peuvent être manipulés pour modifier leurs résultats.
1 commentaire