Think&Do Tank virtuel pour que la 4ème révolution "industrielle" / singularité impulsée par les NBIC soit éthique & sociale

Instiller le meilleur des valeurs humaines dans l’IA

Au cours des prochaines décennies, à mesure que les nanotechnologies et l’impression 3D continueront de progresser, le rôle de l’intelligence artificielle (IA)  dans la conception deviendra un facteur plus important de l’économie. Des outils radicalement nouveaux, comme les enzymes artificielles construites à partir des molécules spiroligomères de Christian Schafmeister, et conçues à partir d’IA de physique quantique, permettront la création de nouveaux matériaux et médicaments.

In the next few decades, as nanotech and 3D printing continue to advance, AI-driven design will become a larger factor in the economy. Radical new tools like artificial enzymes built using Christian Schafmeister’s spiroligomer molecules, and designed using quantum physics-savvy AIs, will enable the creation of new materials and medicines.

L’interface cerveau-ordinateur est un autre aspect critique de la quête pour créer des IA plus positives et des humains plus positifs. Comme l’a dit Elon Musk : “Si tu ne peux pas les battre, rejoins-les.” C’est plus amusant de s’y joindre que de battre de toute façon. Quelle meilleure façon de transmettre les valeurs humaines aux IA que de les relier directement au cerveau humain et de leur permettre d’apprendre directement de la source (tout en leur apportant de précieuses améliorations) ? Musk appelle l’humanité le “chargeur de bottes biologique” pour AGI, mais pour moi cette métaphore colorée manque un point clé : que nous pouvons semer l’AGI que nous créons avec nos valeurs comme condition initiale. C’est l’une des raisons pour lesquelles il est important que les premières AGI vraiment puissantes soient créées par des réseaux décentralisés, et non par des organisations corporatives ou militaires traditionnelles. L’écosystème décentralisé des logiciels et du matériel, malgré toutes ses bizarreries et ses défauts, a plus de chances d’aboutir à des esprits collectifs cybernétiques humains et informatiques qui sont raisonnables et bienveillants.

Brain-computer interfacing is another critical aspect of the quest for creating more positive AIs and more positive humans. As Elon Musk has put it, “If you can’t beat ’em, join’ em.” Joining is more fun than beating anyway. What better way to infuse AIs with human values than to connect them directly to human brains, and let them learn directly from the source (while providing humans with valuable enhancements)? Musk calls humanity the “biological boot loader” for AGI, but to me this colorful metaphor misses a key point—that we can seed the AGI we create with our values as an initial condition. This is one reason why it’s important that the first really powerful AGIs are created by decentralized networks, and not conventional corporate or military organizations. The decentralized software/hardware ecosystem, for all its quirks and flaws, has more potential to lead to human-computer cybernetic collective minds that are reasonable and benevolent.

BCI n’en est encore qu’à ses balbutiements, mais une façon plus immédiate de relier les personnes atteintes d’IA pour leur insuffler plus d’amour et de compassion est d’utiliser la technologie robotique humanoïde. À cette fin, j’ai conçu un projet appelé Loving AI, axé sur l’utilisation de robots humanoïdes hautement expressifs comme le robot Hanson Sophia pour guider les gens à travers des méditations et autres exercices orientés vers la libération du potentiel humain pour l’amour et la compassion. Mes objectifs ici étaient d’explorer le potentiel de l’IA et des robots à avoir un impact positif sur la conscience humaine, et d’utiliser cette application pour étudier et améliorer les outils OpenCog et SingularityNET utilisés pour contrôler Sophia dans ces interactions.

Il n’est pas possible à ce stade d’arrêter ou d’interrompre la progression de l’IA. Malgré les risques, les avantages économiques et politiques potentiels sont clairs et massifs. La convergence de l’intelligence artificielle étroite vers l’AGI est également presque inévitable, car il y a tant d’applications importantes où une plus grande généralité de l’intelligence conduira à une plus grande fonctionnalité pratique. Le défi consiste à faire en sorte que l’issue de cette grande aventure au niveau de la civilisation soit aussi positive que possible.

BCI is still in its infancy, but a more immediate way of connecting people with AIs to infuse both with greater love and compassion is to leverage humanoid robotics technology. Toward this end, I conceived a project called Loving AI, focused on using highly expressive humanoid robots like the Hanson robot Sophia to lead people through meditations and other exercises oriented toward unlocking the human potential for love and compassion. My goals here were to explore the potential of AI and robots to have a positive impact on human consciousness, and to use this application to study and improve the OpenCog and SingularityNET tools used to control Sophia in these interactions.

Halting or pausing the advance of AI is not a viable possibility at this stage. Despite the risks, the potential economic and political benefits involved are clear and massive. The convergence of narrow AI toward AGI is also a near inevitability, because there are so many important applications where greater generality of intelligence will lead to greater practical functionality. The challenge is to make the outcome of this great civilization-level adventure as positive as possible.

La suite ici (Ben Goertzel)

(Visited 17 times, 1 visits today)

Loïc Bardon
A propos Loïc Bardon

Co-fondateur de Paris Singularity, think&do tank virtuel d'empowerment citoyen Prospectiviste passionné par la 4e révolution "industrielle"/singularité impulsée par les technologies NBIC(Nano/Bio/Info/Cogno)

Contact: Twitter | Plus d'articles

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée.


*