« Tu vas pouvoir jouer avec Alexa », dis-je à ma fille, Grace, qui a 3 ans. En pointant du doigt le dispositif cylindrique noir, j’explique que le haut-parleur, également connu sous le nom Amazon Echo, était un peu comme Siri mais plus « intelligent ». « Tu peux lui demander tout ce que tu veux, » ai-je dit nonchalamment. Grace se penche en avant vers le haut-parleur. « Bonjour, Alexa, je m’appelle Gracie, » dit-elle. « Va-t-il pleuvoir aujourd’hui ? » Le bord turquoise s’illumine. « Actuellement, il fait 60 degrés, » répond une voix féminine guillerette, l’assurant qu’il ne pleuvrait pas. Au cours de la prochaine heure, Grace comprend qu’elle peut demander à Alexa de jouer sa musique préférée du film «Sing». Elle réalise qu’Alexa peut raconter des blagues, faire des calculs ou lui indiquer des faits intéressants. « Hé, Alexa, qu’est-ce que les chevaux bruns mangent ? » Et elle découvre vite un pouvoir d’un tout autre niveau. « Alexa, tais-toi », aboie-t-elle, puis me demande un peu penaude si elle peut être impolie avec elle. Pense-t-elle qu’Alexa a des sentiments ? Le lendemain matin, Alexa est la première « personne » que Grace salue alors qu’elle bondit dans la cuisine en portant sa robe de chambre rose et moelleuse.
Nous faisons confiance à une machine à laver pour nettoyer nos vêtements ou un distributeur automatique de billets pour distribuer de l’argent, mais nous ne nous attendons pas à créer une relation avec eux ou à les appeler par leur nom.
Aujourd’hui, nous ne faisons plus confiance aux machines pour faire quelque chose, mais pour « décider » quoi faire et quand le faire. La prochaine génération grandira entourée d’agents autonomes, personnalisés par des noms mignons ou non. C’est ce genre d’intersections, entre « serviabilité » du robot et un agenda commercial latent, qui devrait faire que les parents comme moi, commencent à s’interroger sur les subtilités éthiques de ce nouveau monde de bot. Alexa n’est pas « Alexa ». C’est un algorithme développé par une entreprise qui le vend en l’intégrant à une boîte noire. Comment apprendre à nos enfants à s’interroger non seulement sur les implications en matière de sécurité et de confidentialité, mais aussi sur les intentions éthiques et commerciales d’un appareil conçu par des spécialistes du marketing.
