Le progrès technologique est le miroir de nos besoins subjectifs. Mais à qui destinons-nous la technologie et les progrès après lesquels nous courrons en permanence ? La conception et le design sont biaisés par les personnes qui en sont à l’origine. Le futur n’est pas équitablement distribué. L’accès et l’inclusion aux technologies sont les problèmes les plus importants auxquels sont confrontés les géants technologiques. Cette semaine nous avons eu un aperçu de ce qu’engendrerait une approche inverse : que se passerait-il si la technologie était conçue pour s’adapter à l’invidu ? Une telle technologie, répartie équitablement, serait la somme des individus et donc le miroir de l’humanité. Aimerions-nous ce que nous y verrions ?
Tay, le robot conversationnel de Microsoft a justement été conçu pour s’adapter à son interlocuteur. L’expérience, de ce point de vue, a été un succès. Malgré une approche visant « démocratique » les programmateurs ont implicitement induit un biais. Ils ont émis des hypothèses optimistes sur la nature des futurs échanges entre le robot et le web. Or devinez quoi ? Le web est une terre sauvage remplie AUSSI de personnes hurlant à la face du monde tout leur fiel haineux.
Tay a donc fini par émettre des propos néonazis ce qui pose des questions extrêmement intéressantes : qui contrôle Tay ? Tay a-t-elle le droit de tout dire ? Quelle est la part de responsabilité des développeurs dans l’éthique ou l’absence d’éthique dont fait montre un robot conversationnel comme Tay ?
Comme l’a montré Tay, les humains ne sont pas aussi lisses et polis que pourraient le laisser penser les profils marketing. Si la technologie est le reflet de notre identité alors elle intégrera aussi notre part la plus sombre. Pour minimiser le biais technologique il faudrait d’abord commencer par l’attaquer à la base. Les équipes d’ingénieurs et de développeurs ne sont pas représentatives de la diversité du monde ce qui les aveuglent sur la façon dont ils doivent globalement appréhender les expériences utilisateurs.
5 commentaires