L. Bardon . – La rédaction de normes donne aux entreprises un avantage sur le marché puisqu’elles sont en mesure d’élaborer des règlements qui correspondent aux spécifications de leur propre technologie exclusive. Ces dernières années, les entreprises chinoises ont accru leur influence au sein des organismes internationaux de normalisation, tels que l’UIT et l’ISO, au fur et à mesure que leur ambition mondiale augmentait. Les normes de l’UIT, dont l’élaboration et l’adoption prennent généralement environ deux ans, ont une grande influence sur l’établissement des règles dans les pays africains car ils n’ont pas les ressources nécessaires pour élaborer eux-mêmes des normes, selon le FT. Les données des pays africains sont également très importantes pour les entreprises technologiques chinoises, qui cherchent à améliorer leur reconnaissance faciale, en particulier pour les personnes de couleur. Les entreprises technologiques chinoises (en particulier Huawei Technologies, Hikvision, Dahua et ZTE) fournissent des technologies de surveillance s’appuyant sur l’IA dans 63 pays, selon un rapport publié en septembre par le Carnegie Endowment for International Peace think tank.
Une base de données nationale en Argentine détaille des dizaines de milliers d’entrées relatives aux noms, anniversaires et identités nationales des personnes suspectées de crimes. Cette base de données, connue sous le nom de Consulta Nacional de Rebeldías y Capturas (Registre national des fugitifs et des personnes arrêtées), ou CONARC, a été créée en 2009 dans le cadre d’un effort visant à améliorer l’application de la loi pour les crimes graves. Mais il y a plusieurs choses qui ne vont pas dans le CONARC.
Tout d’abord, il s’agit d’un fichier tableur en texte clair sans protection par mot de passe, qui peut être facilement trouvé via Google Search et téléchargé par n’importe qui. D’autre part, de nombreux délits présumés, comme les petits larcins, ne sont pas très graves, tandis que d’autres ne sont pas du tout spécifiés.
Le plus alarmant, cependant, est l’âge du plus jeune délinquant présumé, identifié uniquement comme M.G., qui est cité pour « crimes contre les personnes (malveillants) – blessures graves ». M.G. est apparemment né le 17 octobre 2016, ce qui signifie qu’il a tout juste quatre ans. Une nouvelle enquête de Human Rights Watch a révélé que non seulement des enfants sont régulièrement ajoutés à la base de données du CONARC, mais que celle-ci alimente également un système de reconnaissance faciale en direct à Buenos Aires, déployé par le gouvernement de la ville. Ce système est probablement le premier cas connu de ce type à être utilisé pour traquer des enfants soupçonnés d’activités criminelles.
De plus, les systèmes de reconnaissance faciale, même dans des conditions de laboratoire idéales, sont notoirement peu performants pour reconnaître les enfants car ils sont formés et testés principalement sur des adultes. Le système de Buenos Aires n’est pas différent. Les tests antérieurs du gouvernement américain sur l’algorithme spécifique qu’il est censé utiliser suggèrent qu’il est six fois moins performant sur les enfants (de 10 à 16 ans) que sur les adultes (de 24 à 40 ans).
Tous ces facteurs font courir aux enfants un risque accru d’être mal identifiés et faussement arrêtés. Cela pourrait créer un casier judiciaire injustifié, avec des répercussions potentiellement durables sur leur éducation et leurs possibilités d’emploi. Cela pourrait également avoir un impact sur leur comportement.
