Si vous travaillez dans l’informatique ou le design, vous travaillez aussi en politique. L’incapacité de l’interface utilisateur de Facebook, jusqu’à récemment, à distinguer les vraies et les fausses nouvelles en est l’exemple le plus flagrant. Les services numériques ne peuvent pas être conçus simplement dans un objectif de facilité d’utilisation. Ils doivent aussi être compréhensibles, « responsables » et fiables. Depuis bientôt 10 ans, les services numériques sont en train de changer la façon dont le pouvoir est distribué.
Quelques exemples :
- La capacité de la société à réglementer efficacement les industries est limitée par sa capacité à avoir accès au code et surtout à le comprendre. C’est ce qui est apparu clairement lors du scandale des émissions de VW, dans lequel la société a installé un logiciel sur certaines voitures pour tricher aux tests d’émissions.
- Les décisions prises par les développeurs quant à la façon dont ils modélisent les annonces sur les plateformes de publication d’emploi ont un effet sur la capacité des gens à trouver du travail
- Les dilemmes de Facebook concernant ses algorithmes d’information sont assez bien documentés. Les décisions auxquelles ils sont confrontés au sujet de la censure et de la « quasi-réglementation » sont des choses auxquelles, historiquement, seuls les États nations ont eu à faire face
Nous devons donc trouver comment transférer ces attributs (intelligibles, responsables, fiables) aux services et institutions de l’ère numérique. Il est temps d’adopter de nouveaux modèles de design.
Ce sont les 4 domaines qui, à mon avis, méritent notre attention :
1. Responsabiliser l’utilisabilité
Faire de la responsabilisation et de la transparence une partie intégrante de la conception des services. Imaginez si Uber indiquait clairement combien un chauffeur gagnait et s’il touchait un salaire de qui lui permettre de vivre décemment, directement sur le reçu par mail. Ou si Amazon rendait possible de comprendre les chaînes d’approvisionnement et l’impact environnemental lorsque vous achetez un produit. Ou si vous pouviez aussi accéder aux données d’inspection de la salubrité des aliments du gouvernement à côté d’un bon de livraison de Deliveroo.
2. Exposer les règles
Pour changer de politique, nous devons comprendre comment le code fonctionne, en examinant directement le code source par exemple. Le gouvernement du Royaume-Uni ouvre de plus en plus son code, au travers du Digital by Default Service Standard, qui intègre une exigence d’ouverture du code source des nouveaux projets. D’autres gouvernements, dont celui des États-Unis sous le président Obama, ont pris des engagements similaires.
3. Ré-inventer le système de permissions
Nous sommes maintenant assez habitués aux applications demandant la permission d’utiliser nos caméras ou d’accéder à notre emplacement. Mais nous ne sommes pas encore habitués à l’idée que différents services échangent des données nous concernant. Or, la transparence permet aux utilisateurs de contrôler leurs données. Les services fournissant un historique d’accès aux utilisateurs sont la meilleure protection dont disposent les organisations contre la fraude et les utilisateurs contre les abus.
4. Des outils numériques au service des droits numériques des consommateurs
Pour que les utilisateurs puissent vraiment faire confiance au « monde numérique », ils ont besoin de tiers de confiance. Si vous travaillez dans l’industrie numérique, vous êtes dans cette bulle. Votre travail a un impact politique. Et les questions de responsabilité, de compréhension et de confiance ne vont faire que s’amplifier. Ces problèmes vont devenir plus difficiles à résoudre à mesure que nous demanderons aux utilisateurs plus de données et de faire confiance au code pour prendre des décisions à leur place. Les organisations qui comprennent cela et commencent à réfléchir à la façon de concevoir des services responsables, compréhensibles et dignes de confiance auront l’avantage.
