Plus de la moitié des réponses fournies par les assistants d’intelligence artificielle (IA) et reposant sur les articles de la BBC sont « factuellement incorrectes, trompeuses et potentiellement dangereuses ». Et 20 % d’entre elles ont en outre rajouté des « inexactitudes factuelles » qui ne figuraient pas dans les articles mentionnés.

Portés par les promesses de l’intelligence artificielle, les groupes d’édition scientifique comme Springer Nature (Nature, Scientific American) ou RELX (Cell, The Lancet) atteignent des sommets en Bourse. Marc Watkins, directeur de l’AI Institute for Teachers à l’université du Mississippi, revient sur les mutations à l’œuvre dans le petit monde des revues académiques.

L’année 2025 est déjà particulièrement féconde en nouvelles plus fracassantes les unes que les autres sur les financements, la course aux armements entre la Chine et les USA, le sommet intergalactique sur l’IA à Paris, et les supposés progrès vers l’intelligence des IAs génératives. C’est un sujet courant de conversations dans le contexte privé ou professionnel. En réponse aux personnes qui s’étonnent de ma position résolument anti ChatGPT j’ai fini par construire un argumentaire que je vais développer ici.

Un nouvel entretien autour de l’informatique. Remi Ronfard a travaillé plusieurs années au centre Watson d’IBM Research à Yorktown Heights et à la direction de la recherche de l’Institut National de l’Audiovisuel (INA), avant de rejoindre Inria. Il est spécialiste de la modélisation géométrique, d’animation 3D, de vision par ordinateur, et d’informatique théâtrale.

Dans son livre, Mood Machine, la journaliste indépendante Liz Pelly, décortique ce que Spotify a changé dans la musique, pour les clients du service, comme pour les musiciens. Entre ubérisation et syndrome de Stockholm.

Recension de l'ouvrage "Créativités artificielles. La littérature et l'art à l'heure de l'intelligence artificielle" un recueil de 14 textes publié aux Presses du Réel en 2023 sous la direction d'Alexandre Gefen, spécialiste des humanités numériques.

Des contenus générés par IA qui ânonnent des textes qui ne veulent rien dire. Des images stylisées qui nous déconnectent de la réalité. L’internet zombie colonise l’internet, par un remplissage par le vide qui n’a pas d’autre enjeu que de nous désorienter.

Sur la plupart des réseaux sociaux vous avez déjà du tomber sur ces contenus génératifs, pas nécessairement des choses très évoluées, mais des contenus étranges, qui n’ont rien à dire, qui hésitent entre développement personnel creux, blague ratée ou contenu sexy. Des vidéos qui ânonnent des textes qui ne veulent rien dire. Les spécialistes parlent de slop, de contenus de remplissages, de résidus qui peu à peu envahissent les plateformes dans l’espoir de générer des revenus.

Meta a annoncé une augmentation de 8 % du temps passé sur Facebook et de 6 % du temps passé sur Instagram grâce aux contenus génératifs. 15 millions de publicités par mois sur les plateformes Meta utilisent déjà l’IA générative. Et Meta prévoit des outils pour démultiplier les utilisateurs synthétiques.

« L’AI Slop est un signal vide et consommé passivement, un symptôme de « l’ère du bruit », dans lequel il y a tellement de « vérité » provenant de tant de positions que l’évaluation de la réalité semble sans espoir. »

Après l'emballement, le discernement ? Bien que l'IA offre un potentiel d'automatisation et de personnalisation, Nic Newman, co-auteur du Reuters Institute Digital News Report, souligne que son rôle reste limité par rapport à l'ensemble des tâches journalistiques. Le chercheur examine également les divers sentiments au sein des médias, les défis à relever et les implications

L’arrivée imminente des « jumeaux numériques », ces doubles virtuels copiant nos comportements et interactions, soulève des enjeux critiques. Si ces entités promettent confort et fluidité dans nos vies quotidiennes, elles pourraient également marquer une rupture anthropologique en abolissant choix, incertitude et libre arbitre. C’est en tout cas l’inquiétude de Chem Assayag, auteur du blog Néotopia et lecteur d’Usbek & Rica.

La promesse est bien celle-ci : en anticipant nos désirs et en interagissant avec d’autres systèmes ou individus, le jumeau numérique transforme notre quotidien en simplifiant les processus fastidieux. Les tâches répétitives et les décisions triviales sont prises en charge, laissant, théoriquement, plus de place aux activités enrichissantes.

Mais la promesse en apparence si séduisante masque en réalité un pacte faustien, car ce qui paraît anodin et si agréable revient en fait à nous déposséder de toute volonté. Nous n’agissons plus, nous sommes agis. Nous n’avons plus rien à exprimer, à choisir, tous nos actes sont prédéfinis, prémâchés. Nos désirs n’en sont plus puisqu’ils sont systématiquement satisfaits. Nous sommes le produit déterministe de notre passé et de son interprétation par des systèmes computationnels, et nos nouvelles actions alimentent ce Moloch technologique. En abolissant le futur immédiat, de proche en proche, nous abolissons notre futur.

La Société Informatique de France (SIF) partage sur binaire un cycle d’interviews sur l’impact de l’Intelligence Artificielle (IA) sur les métiers, en commençant ici par l’impact de l’IA sur les industries culturelles et créatives, grâce à une interview de Quentin Auger, Directeur de l’Innovation chez Dada !

Une intelligence simplement humaine n’a jamais existé : les esprits individuels et collectifs n’ont cessé de se transformer à travers l’évolution des supports artificiels qui permettent de les extérioriser. Pourquoi alors, aujourd’hui, les machines deviennent-elles « spirituelles » ? Pourquoi, au lieu de libérer les humains du travail, semblent-elles transformer leur utilisateurs en ressource ? Au cours de ce voyage dans l’écologie mentale du numérique au temps de l’IA, Anne Alombert montre la naissance d’une technologie intellectuelle d’asservissement des esprits, générant la prolétarisation linguistique et symbolique, homogénéisant le langage et éliminant les singularités. L’espoir se loge dans la collaboration des esprits qu’une telle technologie présuppose.

L’attribution des capacités humaines aux « machines » serait ainsi au service d’un processus d’identification, qui permet à l’homme de s’attribuer en retour la puissance de la machine, de se masquer sa propre vulnérabilité et d’exercer sa domination ou sa supériorité.

Le rapport anthropomorphique, hypnotique et magique à la technique permet aussi de masquer les infrastructures matérielles et les ressources naturelles nécessaires au fonctionnement de ce qui s’apparente plus à un système hyperindustriel réticulaire qu’à une « machine » à proprement parler : plutôt que des « machines intelligentes » ou des « machines spirituelles », les automates computationnels que nous mobilisons quotidiennement fonctionnent en réseau, à travers la réticulation planétaire de terminaux, de câbles, de centres de données et de satellites, dont le fonctionnement a de lourdes conséquences du point de vue écologique.

Quand nous parlons avec ChatGPT, nous avons l’impression de discuter avec un semblable. Pourtant, son fonctionnement est assez éloigné de notre propre cognition.

De par sa fonction d’agent conversationnel, nous projetons de facto sur ChatGPT des fonctions cognitives similaires à celles qu’un interlocuteur humain pourrait développer. Se tourner vers les sciences cognitives va permettre de mieux comprendre leur nature, les interactions qui vont en résulter et les risques associés. Cette caractéristique primordiale des chatbots provoque en effet une mécompréhension de leur fonctionnement par l’utilisateur et donc un excès de confiance dans leurs résultats.

alors que ChatGPT est un système complexe comportant des milliards de paramètres, entraîné à partir de milliers de milliards de données pour apprendre à prédire la suite de mots la plus probable, il cache cette complexité derrière sa fonction d’agent conversationnel qui nous parle. Par simple projection, comme on le fait quand nous parlons avec nos semblables, nous développons cette illusion d’interagir avec un agent intelligent, qui pense, ressent et comprend comme nous.

C'est un phénomène qui prend de l'ampleur. Plusieurs millions de personnes vivent des relations passionnelles avec des avatars.

Amélie Cordier, docteure en intelligence artificielle, s’inquiète notamment pour les mineurs : « Avec ces applications, on parle à quelqu’un qui nous répond et qui nous dit ce qu’on a envie d’entendre. C’est le partenaire idéal, mais ce n’est pas une relation humaine. On risque de se déconnecter progressivement de la réalité, et d’apporter peut-être plus de crédit aux conseils de ces IA qu’à ceux de nos proches, qui n’hésitent parfois pas à nous contredire ». Un exemple extrême : l’an dernier, un jeune père de famille belge, très éco-anxieux, s’est suicidé après des échanges répétés avec un chatbot qui l’aurait encouragé dans ses pensées suicidaires, d’après le récit de sa compagne.

La première étude mondiale sur l’impact de l’IA évalue la chute des rémunérations des artistes à 24 % dans la musique d’ici à cinq ans. Dans l’audiovisuel, la baisse est estimée à 21 %.

A contrario, le marché des contenus tant musicaux qu’audiovisuels générés par l’IA va connaître « une croissance exponentielle, en passant dans les cinq prochaines années de 3 milliards d’euros à 64 milliards d’euros en 2028 ». Une manne qui ne profitera en rien aux créateurs, en raison de « l’effet de substitution de l’IA sur leurs œuvres », affirme l’étude. Sans surprise, les fournisseurs d’IA générative profiteront, eux, pleinement de ces évolutions technologiques et bénéficieront d’une croissance très soutenue.

Les auteurs de l’étude se veulent particulièrement alarmants concernant le sort de certaines professions, comme celles des traducteurs et adaptateurs qui travaillent dans le doublage et le sous-titrage. Ils risquent de perdre 56 % de leurs revenus. Dans la même veine, les scénaristes et les réalisateurs pourraient voir leurs commandes amputées de 15 % à 20 %.

Plus une caractéristique culturelle est inhabituelle, moins elle a de chances d’être mise en évidence dans la représentation de la culture par un grand modèle de langage. L’IA saura-t-elle nous aider à identifier ce qui est nouveau ?

Le politiste Henry Farrell [...] estime que le risque de l’IA est qu’elle produise un monde de similitude, un monde unique et moyen : « Le problème avec les grands modèles est qu’ils ont tendance à sélectionner les caractéristiques qui sont communes et à s’opposer à celles qui sont contraires, originales, épurées, étranges. Avec leur généralisation, le risque est qu’ils fassent disparaître certains aspects de notre culture plus rapidement que d’autres ». Pour Farrell, ce constat contredit les grands discours sur la capacité d’innovation distribuée de l’IA. Au contraire, l’IA nous conduit à un aplatissement, effaçant les particularités qui nous distinguent.

IA qu’à m’expliquer profite des deux ans de ChatGPT pour recevoir pour ce 15e épisode le journaliste français Thibault Prévost, qui vient de publier Les prophètes de l’IA, pourquoi la Silicon Valley nous vend l’apocalypse (Ed. Lux). Il décortique la façon dont les Sam Altman et autres Elon Musk promeuvent l’intelligence artificielle de façon à anesthésier toute discussion politique sur l’idéologie qui se cache derrière leurs technologies. Un podcast qui s’intéresse également à la stagnation des entreprises qui développent ces grands modèles de langage.

Alors que le développement de l’intelligence artificielle progresse à une vitesse fulgurante, certains des hommes les plus riches du monde sont peut-être en train de décider du sort de l’humanité. Les prévisions en matière d’évolution de l’IA oscillent entre promesses évolutionnistes peu crédibles et anticipations dans lesquelles l’IA menacerait l’existence même de l’espèce humaine.

Cette thèse d’une possible extinction de notre espèce se déploie dans différents milieux, dont certains liés à l’industrie de l’IA, et incitent certains acteurs à en appeler à un ralentissement voire un arrêt total de son développement.

Tandis que l’idée du risque existentiel semble gagner du terrain rapidement, une grande publication publie presque chaque semaine un essai soutenant que le risque existentiel détourne l’attention des préjudices existants. Pendant ce temps, beaucoup plus d’argent et de personnes sont discrètement consacrés à rendre les systèmes d’IA plus puissants qu’à les rendre plus sûrs ou moins biaisés.

De la même manière que les logiciels ont « mangé le monde« , il faut s’attendre à ce que l’IA présente une dynamique similaire de « winner-takes-all » qui conduira à des concentrations de richesse et de pouvoir encore plus importantes.

Suite et fin de la série consacrée à la conférence de Mélanie Mitchell sur l’avenir de l’intelligence artificielle.

Alors que l’intelligence artificielle accélère la propagation de fausses images, les cours d’histoire se doivent d’intégrer une formation à l’histoire numérique. Explications avec le projet VIRAPIC.

En constituant une base de référencement des photographies virales, détournées, décontextualisées ou inventées autour d’évènement historiques, le projet VIRAPIC permettra d’accéder rapidement à un contenu historique solide et critique sur les images que les élèves, enseignants ou éditeurs souhaitent publier en ligne ou utiliser en cours.

Les images générées par intelligence artificielle (IA), à la frontière entre le réel et le virtuel, brouillent les lignes légales en matière de pédocriminalité. En France l’alerte est lancée par la Fondation pour l’enfance pour qui « beaucoup de ses photos et vidéos montrant des mineurs agressés et maltraités sont si réaliste qu’il est presque impossible de les distinguer d’images de vrais enfants. »

Si la modération des IA comme Chat GPT, DALL-E, Midjourney empêche en principe la création de contenus inappropriés par leurs conditions d’utilisation, les garde-fous techniques restent limités. Les modèles d’IA génératives en sources ouvertes, tels que Stable Diffusion, offrent peu de contrôle sur les requêtes des utilisateurs, laissant libre cours à des usages détournés.