Alors que le développement de l’intelligence artificielle progresse à une vitesse fulgurante, certains des hommes les plus riches du monde sont peut-être en train de décider du sort de l’humanité. Les prévisions en matière d’évolution de l’IA oscillent entre promesses évolutionnistes peu crédibles et anticipations dans lesquelles l’IA menacerait l’existence même de l’espèce humaine.

Cette thèse d’une possible extinction de notre espèce se déploie dans différents milieux, dont certains liés à l’industrie de l’IA, et incitent certains acteurs à en appeler à un ralentissement voire un arrêt total de son développement.

Tandis que l’idée du risque existentiel semble gagner du terrain rapidement, une grande publication publie presque chaque semaine un essai soutenant que le risque existentiel détourne l’attention des préjudices existants. Pendant ce temps, beaucoup plus d’argent et de personnes sont discrètement consacrés à rendre les systèmes d’IA plus puissants qu’à les rendre plus sûrs ou moins biaisés.

De la même manière que les logiciels ont « mangé le monde« , il faut s’attendre à ce que l’IA présente une dynamique similaire de « winner-takes-all » qui conduira à des concentrations de richesse et de pouvoir encore plus importantes.

Le chercheur et philosophe Luciano Floridi formule l’hypothèse suivante : les précédentes explosions de bulles technologiques signalent que la hype actuelle en provoquera une nouvelle.

« Les avancées rapides dans le domaine de l’IA, en particulier dans l’apprentissage automatique, l’apprentissage profond et les modèles de langage (ou, pour être plus précis, les modèles fondamentaux), ont suscité un engouement, des investissements et une attention médiatique croissants, se renforçant mutuellement et rappelant les bulles technologiques précédentes. »