“Tu vas pouvoir jouer avec Alexa”, dis-je à ma fille, Grace, qui a 3 ans. En pointant du doigt le dispositif cylindrique noir, j’explique que le haut-parleur, également connu sous le nom Amazon Echo, était un peu comme Siri mais plus “intelligent”. “Tu peux lui demander tout ce que tu veux,” ai-je dit nonchalamment. Grace se penche en avant vers le haut-parleur. “Bonjour, Alexa, je m’appelle Gracie,” dit-elle. “Va-t-il pleuvoir aujourd’hui ?” Le bord turquoise s’illumine. “Actuellement, il fait 60 degrés,” répond une voix féminine guillerette, l’assurant qu’il ne pleuvrait pas. Au cours de la prochaine heure, Grace comprend qu’elle peut demander à Alexa de jouer sa musique préférée du film «Sing». Elle réalise qu’Alexa peut raconter des blagues, faire des calculs ou lui indiquer des faits intéressants. “Hé, Alexa, qu’est-ce que les chevaux bruns mangent ?” Et elle découvre vite un pouvoir d’un tout autre niveau. “Alexa, tais-toi”, aboie-t-elle, puis me demande un peu penaude si elle peut être impolie avec elle. Pense-t-elle qu’Alexa a des sentiments ? Le lendemain matin, Alexa est la première “personne” que Grace salue alors qu’elle bondit dans la cuisine en portant sa robe de chambre rose et moelleuse.
Nous faisons confiance à une machine à laver pour nettoyer nos vêtements ou un distributeur automatique de billets pour distribuer de l’argent, mais nous ne nous attendons pas à créer une relation avec eux ou à les appeler par leur nom.
Aujourd’hui, nous ne faisons plus confiance aux machines pour faire quelque chose, mais pour “décider” quoi faire et quand le faire. La prochaine génération grandira entourée d’agents autonomes, personnalisés par des noms mignons ou non. C’est ce genre d’intersections, entre “serviabilité” du robot et un agenda commercial latent, qui devrait faire que les parents comme moi, commencent à s’interroger sur les subtilités éthiques de ce nouveau monde de bot. Alexa n’est pas “Alexa”. C’est un algorithme développé par une entreprise qui le vend en l’intégrant à une boîte noire. Comment apprendre à nos enfants à s’interroger non seulement sur les implications en matière de sécurité et de confidentialité, mais aussi sur les intentions éthiques et commerciales d’un appareil conçu par des spécialistes du marketing.
