Technologie sans conscience n’est que ruine de l’Homme.
Pourquoi cet article est intéressant ? L. Bardon . – En Occident, il est largement admis que ni le gouvernement ni le peuple chinois ne se soucient de la vie privée. Les géants américains de la technologie font preuve de cette prétendue indifférence pour faire valoir que des lois onéreuses sur la vie privée les désavantageraient par rapport à la concurrence des entreprises chinoises. En réalité, cette image de l’attitude des Chinois à l’égard de la vie privée est dépassée. Au cours des dernières années, le gouvernement chinois, cherchant à renforcer la confiance des consommateurs et leur participation à l’économie numérique, a commencé à mettre en place des protections de la vie privée. Cependant, alors même que le gouvernement a renforcé la protection de la vie privée des consommateurs, il a intensifié la surveillance de l’État.
Le gouvernement chinois considère l’IA comme un outil de gouvernance sociale. Les entreprises de sécurité représentent la plus grande part des 100 premières entreprises d’IA, selon un rapport de la société de conseil chinoise Yiou Intelligence. Il s’agit notamment de start-ups spécialisées dans la reconnaissance faciale et de sociétés qui fournissent des plateformes de sécurité et de contrôle de la sécurité. Certaines de ces entreprises ont été directement impliquées dans la surveillance de masse du gouvernement du Xinjiang, la région autonome où sont concentrés les membres de la minorité ethnique chinoise, les Ouïgours. D’autres entreprises alimentent l’exportation de technologies de surveillance chinoises vers l’Asie centrale et au-delà.
Jusque dans les années 1980, le mot ” vie privée ” avait une connotation négative en Chine. Les normes chinoises sont ancrées dans 2 000 ans d’une culture confucéenne qui valorise l’intensité des relations interpersonnelles. L’un des moyens de consolider ces relations est la transparence et la divulgation complète. Une circonstance qui déclenche le secret est généralement une circonstance peu recommandable. Dans ce contexte, la protection de la vie privée était assimilée à la préservation d’un secret inavouable. Etre “privé”, c’était être antisocial. Pourtant, à mesure que les interactions sociales ont évolué en Chine, les valeurs chinoises ont également évolué. Ainsi, les universitaires, les journalistes et les politiciens chinois ont accueilli 2018 comme étant une année charnière en matière de protection des données, non seulement dans le monde entier, mais aussi en Chine. La première norme chinoise de protection des données personnelles, appelée “Personal Information Security Specification” est entrée en vigueur en mai 2018, c’est-à-dire le même mois que le Règlement général sur la protection des données (RGPD) de l’Union européenne. Au cours des 3 mois suivants, la Californie a adopté sa Consumer Privacy Act ; une loi sur la protection des données personnelles a été introduite en Inde ; et la loi générale brésilienne sur la protection des données a été promulguée. Alors que les gouvernements du monde entier s’efforcent de réglementer la collecte, l’utilisation et le traitement des données, les décideurs politiques chinois ont accéléré leurs efforts pour mettre en place le premier régime de gouvernance des données en Chine.
Le présent est la bêta version du futur.
Synthèse
Les entreprises chinoises de covoiturage affirment que les prix varient en raison des fluctuations du trafic. Mais plusieurs études affirment que les applications proposent en réalité des prix différents en fonction de facteurs tels que l’historique des trajets et le téléphone utilisé par une personne. Depuis le 1er mars, dans le cadre de ce qui pourrait être l’effort le plus ambitieux au monde pour réglementer l’IA, la Chine a interdit ce type de discrimination algorithmique. En vertu de ces règles, il sera interdit aux entreprises d’utiliser des informations personnelles pour proposer aux utilisateurs des prix différents pour un produit ou un service.
Ces règles couvrent les algorithmes qui fixent les prix, contrôlent les résultats de recherche, recommandent des vidéos et filtrent le contenu. Elles imposeront de nouvelles restrictions aux principales entreprises de covoiturage, de commerce électronique, de streaming et de médias sociaux. Ces règles, connues sous le nom de « Dispositions relatives à la gestion des recommandations algorithmiques des services d’information sur Internet », ont été rédigées par l’Administration du cyberespace de la Chine, un organisme puissant qui veille à l’application des règles en matière de cybersécurité, de censure de l’Internet et de commerce électronique. Elles interdisent, entre autres, les faux comptes, la manipulation des chiffres liés au trafic et la promotion de contenus qualifiés d’addictifs. Elles prévoient également des mesures de protection pour les livreurs, les conducteurs de véhicules de transport public et les autres travailleurs indépendants.
Certaines dispositions visent à répondre aux plaintes concernant les services en ligne. En vertu de ces règles, par exemple, il sera non seulement interdit aux entreprises d’utiliser des caractéristiques personnelles pour proposer aux utilisateurs des prix différents pour un produit ; mais elles seront aussi tenues d’informer les utilisateurs, et de leur permettre de se déinscrire lorsque des algorithmes sont utilisés pour faire des recommandations. Les entreprises qui enfreignent ces règles s’exposent à des amendes, à l’interdiction d’inscrire de nouveaux utilisateurs, au retrait de leur licence d’exploitation ou à la fermeture de leur site web ou de leur application. Une autre section de la proposition exige que les entreprises chinoises évitent les politiques qui conduisent les utilisateurs à la « dépendance ou à la consommation excessive ». Des préoccupations similaires ont conduit à la répression, l’année dernière, de la culture des célébrités et à l’imposition de limites strictes au temps que les mineurs peuvent passer à jouer à des jeux vidéo.
Avant même que les règles ne prennent effet, les entreprises chinoises procèdent à des changements. En octobre dernier, ByteDance, la société pékinoise à l’origine de la populaire application de vidéos courtes Douyin, a commencé à diffuser des vidéos de cinq secondes invitant les utilisateurs à se déconnecter après une longue période d’écoute. Une proposition distincte, mais connexe, vise à lutter contre les « contenus synthétiques », un terme générique qui englobe les fake news, les sons synthétiques et les images et vidéos « deepfake », dans lesquelles le visage d’une personne est reconstitué par une IA. Parmi les dispositions, les fabricants de logiciels dits de deepfake seraient tenus de vérifier les noms réels des créateurs et d’étiqueter de manière visible tout contenu deepfake.
Les règles de la Chine en matière d’IA ne sont pas les premières au monde. L’Union Européenne a proposé des réglementations qui limiteraient l’utilisation de la reconnaissance faciale, interdiraient la manipulation algorithmique et réglementeraient les produits utilisant l’IA, comme les chatbots et les jeux vidéo. Mais les règles de l’UE, rédigées en avril 2021, pourraient être débattues pendant encore plusieurs années…
La réglementation chinoise est aussi bien plus ambitieuse que tout ce qui est envisagé au niveau national aux États-Unis dont l’approche de l’IA est principalement non interventionniste. L’utilisation de la reconnaissance faciale par la police n’est limitée que dans certaines villes. Une loi sur la responsabilité algorithmique, proposée au Sénat américain, vise à contrôler les algorithmes qui pratiquent la discrimination fondée sur le sexe ou la race, mais elle n’a pas dépassé le stade des audiences législatives. Les sénateurs Amy Klobuchar (D-Minnesota) et Cynthia Lummis (R-Wyoming) ont récemment présenté un projet de loi qui obligerait les plateformes à mettre en place des outils pour « réduire la dépendance et l’amplification des contenus nuisibles ». Cependant, même si de tels projets de loi étaient adoptés, ils se heurteraient probablement à des contestations juridiques de la part des entreprises technologiques. Les efforts déployés pour réglementer les nouvelles technologies délicates dans un pays ou une région ont parfois eu un impact perceptible ailleurs. D’autres pays, dont le Pakistan, les Émirats arabes unis et le Japon, explorent des stratégies pour gérer l’IA. Les nouvelles réglementations chinoises seront probablement plus influentes dans les pays qui ont déjà des liens étroits avec la Chine.
La suite ici (Jennifer Conrad)
