« Techlash », l’animosité croissante envers les grandes entreprises technologiques et leurs impacts sur la société, continuera à définir l’état du monde technologique en 2020. Les dirigeants gouvernementaux, qui ont toujours été les gardiens de la protection de la société contre les effets des nouvelles innovations, sont de plus en plus exaspérés par l’incapacité des politiques traditionnelles à suivre la vitesse et l’ampleur sans précédent des changements. Dans ce vide de gouvernance, les dirigeants d’entreprise reconnaissent une crise de confiance croissante avec le public. Les demandes croissantes des consommateurs et l’activisme des employés exigent une autorégulation plus agressive.
En réponse, certaines entreprises créent de nouveaux bureaux ou postes de direction, comme celui de directeur de l’éthique, pour veiller à ce que les considérations éthiques soient intégrées dans le développement et le déploiement des produits.
Si la responsabilité des produits nocifs incombe souvent au niveau exécutif, les décisions qui y conduisent sont souvent prises par les ingénieurs et les développeurs des équipes de produits. Si vous regardez les récents scandales technologiques, de la publicité discriminatoire à la prolifération des discours de haine, la plupart d’entre eux n’ont pas impliqué un moment charnière où quelqu’un a décidé d’aller de l’avant avec un produit alors qu’il savait comment il pouvait être utilisé de manière abusive ou inappropriée. Ils émanent plutôt d’une décision de conception inconsciente qui a eu des répercussions imprévues.
Pour y remédier, les employés ont besoin d’outils pour penser au-delà des cas d’utilisation les plus évidents, pour aider à prévoir toute une série de préjudices, allant des préjugés et de la discrimination à la dépendance aux technologies en passant par l’encouragement des extrémistes, et pour élaborer des stratégies visant à atténuer ces résultats. EthicalOS et DotEveryone proposent des boîtes à outils qu’un certain nombre de responsables de l’éthique ont utilisées avec succès à cette fin.
L’identification des signaux d’alerte n’est que la première étape. Ce qui s’est avéré plus efficace, c’est de s’appuyer sur des processus qui sont déjà bien ancrés dans la feuille de route du développement de produits, comme ceux qui ont été créés ces dernières années en matière de cybersécurité, de durabilité environnementale et d’accessibilité.
Au lieu de cela, des entreprises comme Microsoft réussissent aujourd’hui à former des « ambassadeurs » ou des « champions » intégrés aux équipes – un rôle qu’ils jouent généralement en plus de leur travail habituel – afin de sensibiliser davantage leurs équipes aux impacts involontaires, ainsi que pour les aider à naviguer en levant des drapeaux et en faisant face à des préoccupations croissantes.
Pour se rendre compte de l’importance de l’innovation responsable, les entreprises doivent intégrer ces pratiques dans les indicateurs clés de performance (KPI) individuels et d’équipe, les objectifs et les évaluations de performance, ainsi que dans les critères de promotion, d’augmentation, de primes et même d’embauche. Ces incitations concrètes doivent être complétées par une série d’incitations non contraignantes.
