L. Bardon . – Pour l’instant, OpenAI souhaite que des développeurs externes l’aident à explorer les possibilités de GPT-3, mais elle prévoit de transformer l’outil en un produit commercial dans le courant de l’année, en proposant aux entreprises un abonnement payant à l’IA via le cloud. GPT-3 est le modèle de langage le plus puissant qui ait jamais existé. Son prédécesseur, GPT-2, sorti l’année dernière, était déjà capable de générer des flux de texte convaincants dans une série de styles différents lorsqu’il était sollicité par une phrase d’introduction. Mais GPT-3 fait encore plus fort. Que se passerait-il si la technologie était conçue pour s’adapter à l’individu ? Une telle technologie, distribuée équitablement, serait la somme des individus et donc le miroir de l’humanité? Aimerions-nous ce que nous y verrions ? Ce questionnement doit certainement vous rappeler le robot conversationnel Tay de Microsoft qui a fait la une de la presse en 2016 après avoir émis des propos néonazis.
La startup Latitude a lancé un jeu en ligne pionnier appelé AI Dungeon, qui illustre une nouvelle forme de collaboration homme-machine. L’entreprise a utilisé la technologie de génération de texte de la société d’IA OpenAI pour créer un jeu d’aventure « personnalisé » inspiré de Donjons et Dragons. Lorsqu’un joueur saisissait l’action ou le dialogue qu’il souhaitait voir son personnage réaliser, des algorithmes élaboraient la phase suivante de son aventure personnalisée et imprévisible.
L’été dernier, OpenAI a donné à Latitude un accès privilégié à une version commerciale plus puissante de sa technologie. Dans ses documents marketing, OpenAI présentait AI Dungeon comme un exemple du potentiel commercial et créatif de l’écriture d’algorithmes. Puis, le mois dernier, OpenAI a découvert qu’AI Dungeon montrait également un côté sombre de la collaboration entre l’homme et l’IA. Un nouveau système de surveillance a révélé que certains joueurs tapaient des mots qui amenaient le jeu à générer des histoires décrivant des rencontres sexuelles avec des enfants. Latitude a récemment mis en place un nouveau système de modération ; ce qui a déclenché une révolte parmi ses utilisateurs. En bref, la tentative de Latitude d’associer des personnes et des algorithmes pour contrôler le contenu produit par des personnes et des algorithmes a tourné au vinaigre.
Il sera difficile d’empêcher le système d’IA de créer certains types de contenus sexuels ou pour adultes et d’en autoriser d’autres. Une technologie comme celle d’OpenAI peut générer du texte dans de nombreux styles différents parce qu’elle est construite à l’aide d’algorithmes d’apprentissage automatique qui ont digéré les modèles statistiques d’utilisation du langage issus des milliards de mots extraits du Web, y compris des parties non appropriées pour les mineurs. Le logiciel est capable de simuler des conversations avec un réalisme étonnant, mais il ne perçoit pas les dimensions sociales, juridiques ou de genre comme le font les gens. OpenAI a déclaré que le service donnerait du pouvoir aux entreprises et aux startups et a accordé à Microsoft, qui soutient fortement OpenAI, une licence exclusive sur les algorithmes sous-jacents. WIRED et certains codeurs et chercheurs en IA qui ont essayé le système ont montré qu’il pouvait également générer des textes peu recommandables, tels que des commentaires antisémites et de la propagande extrémiste.
