Wikistrike

Wikistrike

Rien ni personne n'est supérieur à la vérité

L'IA dépassera l'Homme, selon des scientifiques

Publié par wikistrike.com sur 28 Septembre 2022, 00:14am

Catégories : #Science - technologie - web - recherche

L'IA dépassera l'Homme, selon des scientifiques

L’idée de renverser l’humanité grâce à l’intelligence artificielle est discutée depuis des décennies, et en 2021, des scientifiques ont rendu leur verdict sur la possibilité de contrôler une superintelligence informatique de haut niveau.

Selon des scientifiques, le hic, c’est que pour contrôler une superintelligence qui dépasse de loin la compréhension humaine, il sera nécessaire de simuler cette superintelligence, qui pourra être analysée et contrôlée. Mais si les gens ne sont pas capables de comprendre cela, alors il est impossible de créer une telle simulation.

 

L’étude a été publiée dans le Journal of Artificial Intelligence Research .

Selon les scientifiques, il est impossible d’établir des règles telles que « ne pas nuire aux personnes » si les gens ne comprennent pas les scénarios que l’IA peut leur offrir. Une fois qu’un système informatique fonctionne à un niveau dépassant les capacités de nos programmeurs, alors plus aucune limite ne peut être fixée.

« La superintelligence est un problème fondamentalement différent de ceux qui sont habituellement étudiés sous le slogan « éthique robotique ». Cela est dû au fait que la superintelligence est multiforme et, par conséquent, est potentiellement capable de mobiliser une variété de ressources pour atteindre des objectifs potentiellement incompréhensibles pour les humains, sans compter qu’elle peut être contrôlée », écrivent les chercheurs.

Le raisonnement de l’équipe s’appuie en partie sur le problème de la halte posé par Alan Turing en 1936. Le problème de halte – Un programme/algorithme s’arrêtera-t-il un jour ou pas ? Le terme « halte » signifie que le programme accepte une entrée donnée et s’arrête ou la rejette et s’arrête, sans jamais entrer dans une boucle infinie. En fait, l’arrêt signifie la fin du programme.

Comme Turing l’a prouvé par des calculs intelligents, bien que nous puissions le savoir pour certains programmes spécifiques, il est logiquement impossible de trouver un moyen qui nous permette de le savoir pour chaque programme potentiel qui pourrait jamais être écrit. Cela nous ramène à l’IA qui, dans un état de super-intelligence, pourrait très bien avoir en mémoire tous les programmes informatiques possibles en même temps.

Tout programme écrit pour empêcher l’IA de nuire aux humains et de détruire le monde, par exemple, peut arriver à une conclusion (et s’arrêter) ou non – il nous est mathématiquement impossible d’en être absolument sûrs, ce qui signifie qu’il n’est pas possible de le contenir.

Selon les scientifiques, l’alternative à l’enseignement d’une certaine éthique à l’IA et au fait de lui dire de ne pas détruire le monde – ce dont aucun algorithme ne peut être absolument sûr – est de limiter les capacités de la superintelligence.

« L’étude a également rejeté cette idée, suggérant qu’elle limiterait la portée de l’intelligence artificielle ; l’argument est que si nous ne l’utilisons pas pour résoudre des problèmes dépassant la portée des humains, alors pourquoi la créer ?

Si nous voulons aller de l’avant avec l’intelligence artificielle, il se peut que nous ne sachions même pas quand une super-intelligence échappant à notre contrôle arrivera, tant elle est incompréhensible. Cela signifie que nous devons commencer à nous poser de sérieuses questions sur les directions que nous prenons », ont noté les scientifiques.

 

https://www.aubedigitale.com/des-scientifiques-affirment-quil-sera-impossible-de-controler-une-ia-superintelligente/

Pour être informé des derniers articles, inscrivez vous :

Archives

Articles récents