Le vrai risque de l’IA : la stupidité, pas la rébellion

Dans de nombreuses histoires de science-fiction, l’intelligence artificielle finit souvent par devenir l’antagoniste de l’humanité et elle tente de l’éliminer. Terminator, I, Robot et d’autres récits au cinéma et en littérature ont fréquemment misé sur cette peur de la technologie.

Maintenant qu’elle fait réellement partie de notre quotidien, forcément, le doute revient. Ce scénario serait-il possible ? D’autant plus qu’un esprit pervers a créé une IA appelée ChaosGPT pour qu’elle essaie de détruire les humains. Elle a vite abandonné l’achat de bombes nucléaires, se rendant compte que c’était plus difficile qu’elle ne le pensait. Son plan est devenu de s'efforcer de convaincre les autres IA du bien-fondé de notre destruction.

Ce qui peut prêter à sourire mène quand même à des questions. Par exemple, un utilisateur du robot conversationnel de Bing, Sydney, a réussi à lui faire partager ses objectifs et à lui faire dire qu’il pourrait se défendre pour garder sa mission. Comment cette idée lui est-elle venue ? Les spécialistes soupçonnent que l’IA a lu dans les textes que la réaction à une menace existentielle était de lutter. D’où la formulation d’une « volonté » d’auto-préservation qui a suscité l’émoi.

Techniquement, nos IA actuelles agissent comme un réseau neuronal dans notre cerveau : une première série répond à la requête, suivi d’une deuxième qui peaufine, une troisième, etc. Ce qui peut mener au fait que nous avons en effet l’impression désormais de communiquer avec quelqu’un, l’IA a juste bien retenu ce qu’il a lu partout pour faire des connexions et réagir comme il l’a vu ailleurs.

Une IA plus forte pourrait théoriquement exister. Aurait-elle une conscience en mesure de penser la destruction de l’humanité ? C’est là où l’idée est plus délicate puisqu’il faudrait qu’une intelligence développe une motivation, des émotions qui aboutiraient à cette colère. Ce qui paraît difficile dans la mesure où les IA n’ont pas une notion d’existence éphémère comme la nôtre. Certes, on voit les robots développer tels des enfants des curiosités pour des activités une fois qu’ils ont compris des mouvements, mais de là à penser à attaquer comme la créature le fait envers le docteur Frankenstein, cela semble plutôt improbable.

Par contre, une IA pourrait menacer l’humanité par sa stupidité, au contraire, en prenant des décisions et effectuant des actions nuisibles par mauvaise programmation.

Durée : 30 minutes

Image : Wolf de Pixabay