Deux chercheurs de Global Pulse, une initiative des Nations Unies, ont utilisé des outils et des données open-source pour montrer à quelle vitesse ils seraient en mesure de créer un système d’IA générateur de faux discours de l’ONU. Ils ont utilisé un modèle de langue facilement disponible et constitué à partir du texte sur Wikipédia et l’ont amélioré en l’appliquant sur tous les discours prononcés par les dirigeants politiques à l’Assemblée générale de l’ONU de 1970 à 2015. Treize heures et 7,80 $ plus tard (consacrés aux ressources informatiques dans le cloud), leur modèle était en mesure de produire des discours réalistes sur un large éventail de sujets sensibles et à enjeux élevés, du désarmement nucléaire aux réfugiés.
L’étude de cas démontre la rapidité et la facilité avec lesquelles il est maintenant possible de diffuser des fake newss, de générer des discours haineux et de se faire passer pour des personnalités de premier plan, avec des conséquences inquiétantes. Les chercheurs concluent qu’un effort mondial plus important est nécessaire pour trouver des moyens de détecter et de répondre au contenu généré par l’IA.
