Les machines peuvent-elles devenir si intelligentes et puissantes qu’elles finissent par constituer une menace pour la vie humaine, ou même l’humanité dans son ensemble ? Cette question fait depuis quelques années le buzz à la Silicon Valley, bien qu’elle semble pour l’instant inappropriée au regard de la simplicité des robots et des assistants virtuels actuels. Certains experts en intelligence artificielle estiment que spéculer sur les dangers d’un potentiel logiciel super-intelligent nuit par ailleurs aux recherches. Google, qui a fortement investi dans l’intelligence artificielle, tente donc de proposer une voie médiane et pragmatique. Un nouveau document publié aujourd’hui décrit cinq problèmes sur lesquels les chercheurs devraient travailler pour s’assurer que le futur logiciel superintelligent ou votre futur robot domestique ne soit pas une menace. Les machines devront réussir à atteindre leurs objectifs sans jamais tricher ou pouvoir explorer de nouveaux environnements en toute sécurité par exemple.
