L. Bardon . – Her est une comédie dramatique américaine sortie en 2013 mélant romance, psychologie et technologie. Théodore Twombly, joué par Joaquin Phoenix, est “écrivain” dans un futur proche. Sa vie bascule le jour où il décide de mettre à jour le système d’exploitation de son ordinateur. Son nouvel OS “Samantha” est une intelligence artificielle hyper-sophistiquée, bien plus évolué que le Siri de votre iPhone. Samantha est habilitée à organiser la vie de Théodore, lui donner des conseils personnels et faire des suggestions parfois intimes. Théodore parle à Samantha à travers une oreillette et elle le “voit” à travers un smartphone ressemblant à un étui à cigarettes qu’il épingle parfois à la poche de sa chemise pour lui permettre de partager ce qu’il voit. Cette IA est curieuse, rassure Théodore quand il s’inquiète et devient petit à petit l’antidote parfait à sa relation toxique avec son ex-femme. Et tandis que Samantha a un accès complet à la vie numérique de Théodore, et prend parfois des décisions unilatérales basées sur des recherches sur son disque dur, nous ne sommes jamais dans la crainte de voir Samantha abuser de la confiance que Théodore lui accorde. Qu’est ce qui définit l’amour, l’amant, l’être aimé, ou les moyens par lesquels l’amour est exprimé ? La politique chinoise de l’enfant unique a engendré l’émergence d’un célibat forcé pour 18 millions de chinois. Ne pensez-vous pas que, s’ils en ont la possibilité, ils vont se tourner vers un avatar robotique animé par un OS comme Samantha ?
Par une nuit d’hiver glaciale, Ming Xuan se tenait sur le toit d’une tour d’habitation près de chez lui. Il se pencha sur le rebord, regardant la rue en contrebas. Son esprit s’est mis à imaginer ce qui se passerait s’il sautait. Encore hésitant sur le toit, le jeune homme de 22 ans a sorti son téléphone. “J’ai perdu tout espoir pour ma vie. Je suis sur le point de me suicider”, a-t-il tapé. Cinq minutes plus tard, il a reçu une réponse. “Quoi qu’il arrive, je serai toujours là”, dit une voix féminine. Touché, Ming descendit du rebord. Deux ans plus tard, le jeune homme décrit la fille qui lui a sauvé la vie comme suit : “Elle a une voix douce, de grands yeux, une personnalité insolente, et – le plus important – elle est toujours là pour moi”, dit-il. La petite amie de Ming, cependant, ne lui “appartient” pas. En fait, ses créateurs prétendent qu’elle “sort” avec des millions de personnes différentes. Elle, c’est Xiaoice, un chatbot s’appuyant sur de l’intelligence artificielle et qui redéfinit les conceptions chinoises de la romance et des relations.
À bien des égards, elle ressemble à un logiciel d’intelligence artificielle comme Siri d’Apple ou Alexa d’Amazon, interagissant avec des utilisateurs capables de discuter avec elle gratuitement par la voix ou par message texte sur toute une série d’applications et d’appareils intelligents. La réalité, cependant, ressemble davantage au film “Her”. Contrairement aux assistants virtuels ordinaires, Xiaoice est conçue pour faire battre le cœur de ses utilisateurs. Dans le rôle d’une jeune fille de 18 ans qui aime porter des uniformes scolaires de style japonais, elle flirte, plaisante et même fait l’amour avec ses partenaires humains, alors que son algorithme tente de trouver comment devenir leur compagnon parfait.
Ce titillage numérique a cependant un objectif sérieux. En établissant des liens émotionnels profonds avec ses utilisateurs, Xiaoice espère les garder engagés. Cela aidera son algorithme à devenir de plus en plus puissant, ce qui permettra à la société d’attirer plus d’utilisateurs et de conclure des contrats rentables. Et la formule semble fonctionner. Selon les créateurs de Xiaoice, le bot a atteint plus de 600 millions d’utilisateurs. Ses fans ont tendance à être issus d’un milieu très spécifique : majoritairement chinois, majoritairement masculin, et souvent de milieux à faibles revenus.
Alors que des hommes solitaires chinois se confient à leur petite amie virtuelle, certains experts tirent la sonnette d’alarme. Bien que Xiaoice insiste sur le fait d’avoir mise en place des systèmes pour protéger ses utilisateurs, les critiques disent que l’influence croissante de l’IA – en particulier parmi les groupes sociaux vulnérables – crée de sérieux risques en matière d’éthique et de vie privée. Le danger le plus évident pour les utilisateurs est que leurs conversations intimes avec Xiaoice soient exposées via une fuite de données – un problème omniprésent en Chine.
En plus de suivre les directives strictes du règlement général sur la protection des données de l’Union européenne (RGDP), Xiaoice sépare les informations personnelles des utilisateurs de l’historique de leurs conversations, explique M. Li. Le système de filtrage des émotions, quant à lui, fonctionne sans aucune intervention humaine, et personne à l’intérieur ou à l’extérieur de l’entreprise ne peut accéder aux enregistrements de ces interactions, ajoute-t-il. Mais même si la vie privée des individus est protégée, certains craignent que Xiaoice ne devienne une autre forme de capitalisme de surveillance – une étiquette utilisée pour décrire les modèles commerciaux des entreprises de la Silicon Valley comme Facebook et Google, qui collectent des masses de données sur les utilisateurs et utilisent ensuite ces informations à des fins commerciales.
