Avec les progrès continus de la vision par ordinateur et de l’analyse vidéo, la reconnaissance faciale pourrait à terme s’avérer être l’une des applications les plus bénignes de la surveillance par caméra. En d’autres termes, la reconnaissance faciale n’est qu’une partie d’un programme de surveillance beaucoup plus vaste (équipé d’une échelle et d’une granularité plus élevées) associé aux caméras, aux microphones et à la multitude de capteurs des téléphones intelligents modernes.
À mesure que ces systèmes deviennent plus sophistiqués et plus omniprésents, nous allons probablement vivre ce qu’un récent rapport de l’ACLU décrit comme une « transition progressive » de la surveillance s’appuyant sur la collecte et le stockage de données à la « surveillance automatisée de masse en temps réel », mais surtout, à mesure qu’ils entraîneront ce changement d’échelle, ces outils vont également remettre en question notre compréhension du monde et des personnes qui le composent.
En d’autres termes, au-delà de tout attribut spécifique de la technologie, un groupe spécifique d’acteurs bénéficie directement de l’idée selon laquelle la mesure et l’analyse informatique du monde permettent d’accéder au savoir. Et ces acteurs ont également le pouvoir de promulguer et de légitimer leurs revendications en matière de connaissances.
L’histoire de la technologie montre que chaque nouvelle technologie visuelle est supposée offrir un nouvel accès à la connaissance et à la « vérité ». La photographie, par exemple, était considérée comme un moyen de « voir la nature de façon plus fine ». D’autres technologies optiques ont suscité des récits similaires. Le télescope donnait accès à la connaissance céleste, le microscope à la connaissance cellulaire. Alors qu’Amazon et Microsoft sont devenus les principaux fournisseurs d’analyses de données, des sociétés comme Facebook et Google contrôlent des infrastructures de collecte de données massives. Ensemble, ces entreprises contrôlent la plupart des systèmes technologiques responsables de la diffusion de l’information et des échanges interpersonnels.
Certains commentateurs ont dénoncé la domination de ces entreprises en termes de « puissance liée au volume de données », mais leur influence pourrait également être caractérisée en termes de « puissance de calcul », de « puissance d’analyse » et même de « puissance épistémologique », soit la capacité à valider une affirmation ou un système de connaissances. En effet, si les progrès phénoménaux réalisés par l’IA ces derniers temps sont le produit de la collecte massive de données et de la puissance de calcul, alors ces entités privées contrôlent les outils de production de la connaissance et ont un programme pour en assurer la légitimité et la prolifération. Cette étrange alliance technopolitique entre l’entreprise et l’État comprend également le financement de la recherche dans les universités et autres centres de production de connaissances. Ensemble, ces entités exercent un pouvoir sur ce que signifie savoir, qui a le droit de savoir et avec quels outils.
La combinaison de l’apprentissage machine et de capteurs étend la portée de ce système de surveillance en lui permettant de mesurer et analyser en temps réel votre apparence, vos sons, vos mouvements et le comportement de votre corps, grâce à une combinaison de biométrie (mesure des caractéristiques physiques et comportementales), d’anthropométrie (mesure de la morphologie du corps) et de physiométrie (mesure des fonctions corporelles comme le rythme cardiaque, la pression sanguine et d’autres états physiques). Dans cette optique, l’accent mis actuellement sur la réglementation de la reconnaissance faciale automatisée, bien qu’important et souhaitable à de nombreux égards, pourrait en fait être un faux-fuyant.
La vision par ordinateur, comme d’autres techniques émergentes telles que l’écoute par ordinateur, permet d’enregistrer, d’analyser par calcul et de classer tout ce qui est visible, audible ou sensible dans le « monde réel », en temps réel. Cette dernière technique, parfois appelée « informatique de la personnalité », est expérimentée dans de multiples domaines, notamment, et c’est bien connu, les outils d’analyse vidéo pour l’évaluation des candidats à un emploi. La prolifération de ces techniques reflète la conviction que les capteurs et l’apprentissage machine peuvent donner un aperçu de traits ou de caractéristiques insensibles.
Dans le contexte de la « cooptation de l’IA », cette augmentation massive de la capacité à traiter et à évaluer les informations captées depuis l’espace physique fait partie d’un ensemble de tendances particulières.
Tout d’abord, les espaces physiques deviennent des espaces cyber-physiques. La vision par ordinateur est particulièrement pertinente pour sa capacité à traduire le « monde réel », et les personnes qui y vivent, en chiffres pour l’analyse statistique et la prise de décision automatisée. Deuxièmement, à mesure que nous nous habituons à ces décisions automatisées et que nous les acceptons, notre compréhension visuelle du monde est suppléée, remise en question et peut-être même annulée par les moyens informatiques de détection et de connaissance. Dit autrement, il existe une affirmation selon laquelle la science des données peut connaître les gens mieux qu’eux-mêmes, ce qui représente un passage d’une logique d' »approximation » à une logique de « révélation » dans l’application de ces techniques aux gens.
L’idéologie du « blanchiment » utilisant des revendications de neutralité de la technologie peut être problématique. Mais cette critique, qui se concentre sur des applications spécifiques douteuses des technologies d’IA comme le calcul de la personnalité ou la reconnaissance faciale, ne s’attaque pas au problème plus vaste. Il demeure un enjeu plus large à aborder, qui justifie ces décisions et classifications automatisées comme légitimes ou souhaitables, qu’elles soient ou non exactes ou correctes. C’est le programme des entités mêmes qui bénéficient de la prolifération de cette technologie et qui construisent notre société cyberphysique émergente. Et c’est très très rentable.
Les entités privées qui construisent ces outils ont la portée et l’influence nécessaires pour légitimer les connaissances que leurs technologies produisent, et le pouvoir politique pour mettre en œuvre leurs systèmes. Nous devons nous demander quels sont les intérêts et la vision du monde que cette configuration sert, quels sont les objectifs de la société cybernétique aujourd’hui et devraient être à l’avenir, et comment ces technologies pourraient être utilisées et comprises par la société à des fins qui ne sont pas déterminées par les grandes entreprises.
La suite ici (Jake Goldenfein)
