Selon les auteurs du nouvel article, il est impossible d’établir des règles telles que « ne pas faire de mal aux gens » si nous ne comprenons pas le type de scénarios imaginés par une intelligence artificielle (IA). Dès lors qu’un système informatique fonctionne à un niveau supérieur à celui de nos programmeurs, nous ne pouvons plus fixer de limites.
« Cela s’explique par le fait qu’une super-intelligence présente de multiples facettes et est donc capable de mobiliser une diversité de ressources pour atteindre des objectifs qui sont potentiellement incompréhensibles pour les humains, et encore moins contrôlables », écrivent les chercheurs.
Comme l’a démontré Alan Turing, nous pouvons au moins savoir que pour certains programmes spécifiques, il est logiquement impossible de trouver un moyen de prédire tous les programmes potentiels qui pourraient jamais être écrits. Cela nous ramène à l’intelligence artificielle (IA) qui, dans un état de super-intelligence, serait capable de se souvenir de tous les programmes informatiques à la fois et donc d’établir des connexions difficiles à comprendre pour nous.
« En fait, cela rend l’algorithme d’isolement inutilisable », a déclaré l’informaticien Iyad Rahwan, de l’Institut Max Planck pour le développement humain, en Allemagne, en 2021.
Comment éviter la situation de crise ?
L’alternative à l’enseignement d’un peu d’éthique à l’intelligence artificielle (IA) et au fait de lui dire de ne pas détruire le monde revient à limiter les capacités de la super-intelligence.
Si nous allons de l’avant avec l’intelligence artificielle (IA), nous pourrions ne pas nous rendre compte quand la situation devient critique. Cela signifie que nous devons commencer à poser des questions sérieuses avant que les choses ne deviennent incontrôlables.
« Une machine super-intelligente contrôlant le monde est une hypothèse qui ressemble à un morceau de science-fiction », a déclaré l’informaticien Manuel Cebrian de l’Institut Max Planck pour le développement humain, également en 2021. « Mais il existe déjà des machines qui accomplissent certaines tâches importantes de manière autonome, sans programmeur », poursuit-il.
