Think&Do Tank virtuel pour que la 4ème révolution "industrielle" / singularité impulsée par les NBIC soit éthique & sociale

Et si les “méchants” gagnaient la course de l’IA ?

Vous avez certainement entendu parler des avancées sans précédent, et en grande partie inattendues, de l’intelligence artificielle (IA). Dans l’ensemble, l’IA est un moteur qui transforme le monde pour le mieux.  Mais quels impacts négatifs l’IA pourrait avoir ? L’IA, comme toute technologie, pourrait être utilisée pour manipuler et corrompre. L’IA antagoniste (où les intrants peuvent être soigneusement élaborés pour tromper les systèmes d’IA via des données erronées) existe déjà. Elle pourrait, par exemple, tromper un système de vision artificielle qui reconnaît un feu rouge pour qu’il perçoive un feu vert à la place ; ce qui pourrait avoir des conséquences désastreuses pour un véhicule autonome.

Il ne s’agit que d’un scénario. Mais allons plus loin ; et si 1 IA devenait un pirate informatique ? En tant que technologie, nous commençons seulement à appréhender son potentiel. Théoriquement, l’IA pourrait devenir si “intelligente” qu’elle s’affranchirait complètement de notre volonté.

Cette possibilité rend la course à l’armement de l’IA particulièrement dangereuse. Heureusement, des personnes, comme Elon Musk et Stephen Hawking, mettent en place des gardes fous en alertant l’opinion publique et les gouvernements. Les géants technologiques comme Google et Microsoft ont déjà déclaré qu’elles estimaient que les opportunités l’emportaient sur les dangers.

La suite ici (Mark Hughes)

(Visited 125 times, 1 visits today)

Loïc Bardon
A propos Loïc Bardon

Co-fondateur de Paris Singularity, think&do tank virtuel d'empowerment citoyen Prospectiviste passionné par la 4e révolution "industrielle"/singularité impulsée par les technologies NBIC(Nano/Bio/Info/Cogno)

Contact: Twitter | Plus d'articles

1 Commentaire le Et si les “méchants” gagnaient la course de l’IA ?

  1. (Google et Microsoft ont déjà déclaré qu’elles estimaient que les opportunités l’emportaient sur les dangers)
    voilà sa pense déjà à se faire pleins de pognon la preuve de leurs traitrise ils se foutent du bien de l’humanité ils ne pensent qu’à leurs emprise sur le monde
    déjà que Elon Musk et Stephen Hawking jais absolument pas confiance alors google et les autres
    vous aller voir ils vont tous nous vanter les bien fait de leurs technologie nous manipulé avec des tas d’arguments
    c’est gens la sont des fous capable de tout et ils ne s’arrêterons à rien devant leurs passage ils veulent devenir les sociétés les plus puissantes du monde comme google mais sans penser aux conséquences de leurs immense mégalomanie ils se foutent royalement des conséquences qui va finir par tous nous nuire tôt ou tard
    je sais pas vers quoi on se dirige mais je pense que le monde est entré dans une nouvelle phase les choses vont s’accélérer d’avantage nous allons voir le bon, la créativité de l’esprit comme le mauvais et l’immondice de chacun d’entre nous de plus en plus de changements vont se produire à une vitesse folle accrocher vous

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée.


*