Technologie sans conscience n’est que ruine de l’Homme.
Pourquoi cet article est intéressant ? L. Bardon . – Au cours de la dernière décennie, Amazon, Apple, Facebook et Google ont agrégé plus de valeur économique et d’influence que toute autre entité commerciale dans l’histoire. Les géants technologiques ont appris des “péchés” de leur prédecesseur, Microsoft. Le colosse semblait parfois considéré qu’il était au-dessus des campagnes de relations publiques et des lobbyistes pour adoucir son image auprès du public et des régulateurs. Les GAFA, au contraire, promeuvent une image de jeunesse et d’idéalisme, couplée à l’évangélisation du potentiel de la technologie pour sauver le monde. Or, nous nous trouvons actuellement au beau milieu d’une grave défaillance du marché. Le gouvernement a été bercé par la fascination du public pour les technologies de pointe. De fait les GAFA ont réussi à préserver leurs pouvoirs de monopole sans faire face à une réglementation lourde. Par ailleurs, l’exploitation par les GAFA de l’antipathie à l’égard du gouvernement a été si efficace que la plupart des citoyens en sont venus à oublier plusieurs piliers indispensables du moteur capitaliste : la concurrence, la propriété privée, le travail salarié, l’échange volontaire et un système de prix. La taille massive et la puissance incontrôlée des GAFA ont étouffé la concurrence sur les marchés et empêché l’économie de faire son travail, à savoir promouvoir une classe moyenne dynamique.
Timnit Gebru n’aurait jamais pensé qu’un article scientifique lui causerait autant d’ennuis. En 2020, en tant que codirectrice de l’équipe d’éthique de l’IA de Google, Gebru avait pris contact avec Emily Bender, professeur de linguistique à l’université de Washington, et les deux ont décidé de collaborer à une recherche sur l’orientation troublante de l’IA. Le démantèlement de cette équipe a déclenché l’une des plus grandes controverses des dernières années dans le monde de l’IA. Les défenseurs de Google ont fait valoir que l’entreprise avait le droit de superviser ses propres chercheurs. Mais pour beaucoup d’autres, cette affaire a renforcé les craintes quant au degré de contrôle que les géants de la technologie exercent désormais sur ce domaine. Les géants technologiques sont aujourd’hui le principal employeur et bailleur de fonds des chercheurs en IA, y compris, de manière quelque peu ironique, de ceux qui évaluent ses impacts sociaux. Parmi les entreprises les plus riches et les plus puissantes du monde, Google, Facebook, Amazon, Microsoft et Apple ont fait de l’IA un élément central de leurs activités.
Les régulateurs gouvernementaux en Europe et aux États-Unis ont jeté leur dévolu sur Facebook, Google, Amazon et Apple, mais les réponses réglementaires seront insuffisantes si elles se fondent sur de vieilles théories, de vieilles compréhensions que les plateformes ont déjà dépassées. L’effort réglementaire européen se concentre à juste titre sur le rôle des entreprises technologiques dominantes en tant que “gardiens”. Il vise à limiter systématiquement leur capacité à façonner le marché à leur avantage. Ses remèdes, cependant, sont émoussés, et les processus d’évaluation des préjudices seront très probablement plus lents que les préjudices eux-mêmes. Les marchés sont des écosystèmes, et comme tous les écosystèmes, ils intègrent d’inombrables dépendances cachées. Ces préjudices subis par l’offre des plateformes de marché, dont la majorité des gains sont captés par le gagnant du modèle “winner-takes-all” que la Silicon Valley a encouragé, finissent par se répercuter sur les consommateurs. Mais comme la douleur est largement distribuée et que les plateformes ne sont pas tenues de communiquer les informations qui la rendraient visible, le problème ne sera pas évident avant que la plupart des dommages ne soient irréversibles. Parce que les entreprises plateformes n’ont pas réussi à s’autoréguler, elles se verront imposer des limites à leur potentiel de bien et de mal.
Le présent est la bêta version du futur.
Synthèse
Au fil des audiences du Congrès sur le rôle des grandes entreprises technologiques dans la société ces dernières années et du battage médiatique associé, nous avons entendu des variantes d’une défense trop commune de la part des dirigeants de la technologie : “Nous faisons plus de bien que de mal”. À première vue, il s’agit d’une affirmation non fondée et non quantifiable, basée sur la vision de l’industrie technologique de ce qui est bon. Plus important encore, il s’agit d’un argument non pertinent visant à renverser un objectif fondamental de la gouvernance démocratique : protéger le public contre les acteurs et les pratiques commerciales nuisibles.
Ce que l’on appelle aujourd’hui la “tech” présente un visage à double faces. D’une part, la tech représente (et surtout se présente) comme tout ce que le capitalisme contemporain produit de positif : elle fabrique de nouveaux produits géniaux, génère de nouvelles richesses et nous incite littéralement à nous améliorer. D’un autre côté, les dommages causés par la “tech” sont devenus trop familiers : la technologie de reconnaissance faciale identifie mal les personnes de couleur de manière disproportionnée, Google renforce les stéréotypes racistes, Facebook attise la polarisation politique, AirBnB vide les centres-villes, les smartphones nuisent à la santé mentale et ainsi de suite. Certains vont jusqu’à affirmer que la technologie nous prive de l’essence même de notre humanité.
En dépit de ces critiques, la Silicon Valley a réussi, au cours des dernières décennies, à construire autour d’elle une forteresse antiréglementaire en promouvant le mythe – rarement énoncé clairement, mais auquel croient largement les praticiens de la technologie – selon lequel l’industrie “technologique” serait fondamentalement différente de toutes les autres industries qui l’ont précédée. Elle serait différente, dit le mythe, parce qu’elle serait intrinsèquement bien intentionnée et qu’elle produirait non seulement des produits nouveaux, mais aussi des produits auparavant impensables. Tout préjudice au niveau micro, qu’il s’agisse d’un individu, d’une communauté vulnérable, voire d’un pays tout entier, est, selon cette logique, considéré comme un compromis valable pour le “bien” au niveau macro, qui transforme la société. Cet argument, appelé à juste titre “exception technologique”, est ancré dans la vision idéologique que les leaders technologiques ont d’eux-mêmes et du gouvernement.
Une génération entière d'”innovateurs” a grandi en croyant que : la technologie était la clé pour rendre le monde meilleur, que les visions des fondateurs sur la manière d’y parvenir étaient indiscutablement vraies et que l’intervention du gouvernement ne ferait qu’entraver ce moteur de croissance et de prospérité, ou pire, leurs futures innovations. La Silicon Valley a atteint sa maturité et une position dominante pendant une période d’anti-réglementation et s’est imprégnée de l’éthique libertaire qui a prédominé à partir des années 1980. Dans ce contexte, la réglementation est devenue l’ennemi de l'”innovation”, ce qui s’est rapidement imposée comme le mot d’ordre de la “tech” dans son ensemble. L’identité de la tech, en revanche, s’est construite autour de la création constante de quelque chose de radicalement nouveau ou de quelque chose qui engendre une transformation profonde, c’est-à-dire ce pour quoi le cadre réglementaire approprié ne pouvait être anticipé à l’avance.
Désigner une entreprise comme “technologique” a un autre effet subtil qui est sans doute encore plus important. Ce terme implique que, à des fins réglementaires, les coûts sociaux des activités actuelles de ces entreprises doivent être mis en balance non pas avec les avantages qu’elles produisent actuellement, mais avec ceux qu’elles promettent dans le futur.
L’exception technologique est une idéologie qui a donné aux entreprises technologiques un avantage concurrentiel majeur en supprimant le fardeau réglementaire que toutes les autres industries doivent accepter. Mais c’est un non-sens. Alors que les débats sur la manière de réglementer correctement la technologie se multiplient, nous devrions dissiper le mythe selon lequel l’insutrie technologique serait différente de toutes les autres industries et devrait donc être jugée différemment, en considérant si le bien actuel ou futur l’emporte sur les externalités négatives actuelles.
Ce principe de réglementation, s’il est assez simple lorsqu’il est appliqué à des entreprises technologiques en concurrence avec des secteurs plus traditionnels, est plus compliqué à mettre en place pour des entreprises qui semblent en fait avoir inventé de tout nouveaux segments industriels. Les fonctions essentielles de la réglementation – sûreté, sécurité, protection contre les acteurs et les pratiques nuisibles – ajoutent nécessairement des frictions à tout système. Mais comme les gens de la technologie aiment à le dire, il s’agit d’une caractéristique et non d’un problème ; l’objectif de la réglementation est précisément de rendre les externalités négatives coûteuses pour les entreprises qui les produisent.
