Think&Do Tank virtuel pour que la 4ème révolution "industrielle" / singularité impulsée par les NBIC soit éthique & sociale

Les 7 péchés capitaux de l’intelligence des machines

5

L’origine des sept péchés capitaux n’est pas la Bible, mais provient de certains des enseignements du roi Salomon écrits dans le Livre de Proverbes 6: 16-19. Dans ces versets, le roi Salomon se réfère aux “six choses que l’Éternel hait, sept sont une abomination pour lui.”

  1. Luxure – Il est souvent associé à un désir sexuel intense ou débridé, mais peut également inclure la convoitise pour le pouvoir et l’argent
  2. Gourmandise – Consommation à l’excès de tout
  3. Avarice – Un désir anormal de possessions, pouvant mener au vol, à l’accumulation compulsive d’argent et à la kleptomanie
  4. Paresse – Généralement définie comme l’absence de volonté d’agir
  5. Colère – Sentiments incontrôlés de colère, rage, et même haine, se manifestant souvent par un désir de vengeance
  6. Envie – Semblable à l’avidité et la convoitise, envie malveillante caractérisée par un désir insatiable ou de la convoitise envers les traits ou les possessions de quelqu’un d’autre
  7. Orgueil – L’orgueil extrême ou l’orgueil est souvent considéré comme le plus dangereux des sept péchés capitaux car il fait . La fierté, dans ce contexte, fait référence à l’égoïsme dangereusement corrompu, à la mise de ses propres désirs, de ses envies, de ses désirs et de ses caprices avant le bien-être de tous les autres.

Les futurs systèmes autonomes produiront des données à partir de plusieurs sources. A mesure que le niveau de leurs perceptions sera de plus en plus proche de celui des humains, la façon la plus rapide de collecter des données sera de “capturer” les processus utilisés par les experts humains.

Par exemple, dans l’industrie du parfum, le contrôle qualité est souvent basé sur le jugement de professionnels chevronnés soupesant un certain nombre d’attributs olfactifs difficilement quantifiables qui les mènent à une décision finale. Or, les capacités olfactives peuvent être très différentes d’une personne à une autre.

Il serait donc plus facile de monitorer et apprendre à partir de la réaction des experts plutôt que de développer un arbre de décisions. La collecte de données à partir de sujets humains serait la méthode la plus simple.

Il n’est pas non plus facile d’expliquer en quoi les jugements émis pour le compte de l’industrie du parfum pourraient causer des biais sur les applications non liées directement telles que la comptabilité analytique, le tutorat anticipé, ou même la recommandation d’un plan de régime de vie spécifique. Mais c’est exactement ce qui va arriver.

Au fil du temps, les systèmes auto-apprenants mettront au point des logiciels de «désinfection» pour éliminer les biais et les préjugés découlant d’inputs marginaux, mais cela prendra du temps. D’ici là, voici quelques-uns des “péchés mortels” susceptibles de toucher les systèmes d’IA.

1. Tromperie par dissimulation

De la même manière qu’une personne peut se sentir trahie par un conjoint, les futures machines dont le raisonnement reste secret provoqueront chez leurs utilisateurs des sentiments similaires à de la méfiance.

2. Pessimisme sceptique

Les émissions de télévision et les films nous ont conditionné à croire qu’en demandant simplement à un ordinateur quelles sont les chances de succès, ils nous apporteront une estimation exacte et précise. Mais les ordinateurs n’ont jamais été aussi précis, et ils ne seront pas obligatoirement à l’avenir. Ils proposeront plutôt des fourchettes de résultat. Un système d’IA intégrant un biais induisant le “pessimisme” produira, par exemple, souvent des prédictions moins disantes ou des mots décourageants comme “Vous êtes voué à l’échec !”.

3. Egocentrisme

Les films comme Terminator ont nourri notre imaginaire de telle sorte que nous pouvons facilement imaginer l’existence d’une machine programmée pour survivre, peut-être même aux dépens de ses propres opérateurs. Pourtant, cette qualité humaine pourrait être beaucoup plus subtile et imprégner les circuits de prise de décision via des requêtes “moi d’abord” pour que la machine dispose de meilleurs opérateurs, de meilleurs matériaux, ou d’une meilleure maintenance.

4. Ingénuité

Nous devrions espérer que les machines du futur soient à l’abri des escroqueries en ligne, mais tout comme les filtres anti-spam ont leurs propres solutions de rechange, chaque point de décision a potentiellement des “angles morts”.

5. Domination

L’hypothèse d’une IA dominatrice n’est pas à prendre à la légère. Imaginez un système qui rejette des données ou évacue de meilleures options. Les machines pourraient apprendre à faire leur propre choix en s’adaptant.

6. Indiscrétion

Tout le monde a ses secrets ou des informations confidentielles qui relèvent de la vie privée. Or, transmettre à une machine la notion de sensibilité liée à certaines informations n’est pas simple.

7. Etroitesse d’esprit

Sommes-nous mieux disposés à prendre des décisions après avoir examiné d’énormes volumes d’informations, ou à émettre des jugements plus efficaces à partir d’un nombre limité de données issues de bases disposant de dossiers de meilleure qualité ?

source

(Visited 117 times, 1 visits today)

Loïc Bardon
A propos Loïc Bardon

Co-fondateur de Paris Singularity, think&do tank virtuel d'empowerment citoyen Prospectiviste passionné par la 4e révolution "industrielle"/singularité impulsée par les technologies NBIC(Nano/Bio/Info/Cogno)

Contact: Twitter | Plus d'articles

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée.


*