Groupes inexistants, voix synthétiques, albums aux allures rétro fabriqués de toutes pièces… Bienvenue dans l’ère des « fake bands », ces entités musicales fictives générées par intelligence artificielle, qui prolifèrent aujourd’hui sur les plateformes de streaming comme YouTube et Spotify. Si certains saluent une nouvelle frontière créative, d’autres y voient une menace pour les artistes réels, l’authenticité musicale et la viabilité du système de rémunération.

L'agence Heaven vient de publier son édition 2025 du rapport Born AI, qui se penche sur les usages de l'IA par les plus jeunes. Tour d'horizon.

Des dizaines de médias britanniques ont publié des articles reposant sur des témoignages d' « experts » qui n'existent pas.

Les bots des entreprises d’IA qui parcourent le web en permanence augmentent la fréquentation des sites de manière vertigineuse. Si tout type de sites est touché, les bases de données ouvertes et les revues scientifiques le sont particulièrement. Le blocage de ces bots n’est pas simple, mais CloudFlare a esquissé récemment une solution. Les bots […]

ChatGPT induit des psychoses à certain·es utilisateurices via ses réponses.
À travers des réponses renforçant des comportements psychotiques, certain·es utilisateurices de ChatGPT développent des psychoses et des délires complotistes.

OpenAI, l'entreprise derrière ChatGPT, a d'ailleurs dû annuler une mise à jour de ChatGPT-4o qui était trop flatteuse envers l'utilisateurice.

En anglais.

Lors d'une conférence dédiée à la sécurité informatique, des expert·es dans le domaine ont montré la puissance d'outils comme WormGPT pour dévoiler des failles de sécurité informatiques et concevoir des attaques en les exploitant. En anglais.

Beaucoup de choses ont été dites sur l’empreinte environnementale du secteur numérique ces dernières années et il est parfois complexe de s’y retrouver. Il est donc plus que bienvenu de faire un point d’étape maintenant que le développement des IA génératives (ChatGPT, Claude, Midjourney, etc.) ajoute une épaisse couche de confusion à une question déjà complexe.

Pour le dire simplement, les sciences environnementales appliquées à la numérisation ont deux principales questions de recherche : 1) quelle est l’empreinte environnementale du secteur numérique et ses trajectoires ; 2) est-ce que la numérisation aide à atténuer et à s’adapter à la crise environnementale ou alors augmente les impacts globaux ? Nous nous attacherons ici à faire le point uniquement sur la première question.

L'introduction des IA dans une organisation même réalisée de manière "raisonnée" ou "responsable" posent un tas de problèmes. Il y a un effet cliquet : après l'introduction d'une nouvelle technologie, il est quasi-impossible de revenir en arrière. Au contraire, petit à petit, le terrain s'érode et les limites sont à chaque fois repoussées. Or, il est plus qu'urgent de résister le plus possible.

Cet article scientifique présente les conclusions d'une étude démontrant que certaines utilisations de l'IA dans la recherche scientifique est mauvaise.

Plus d'une trentaine de champs de recherche sont concernés, allant de la psychiatrie à la biologie moléculaire, et de nombreuses études possèdent des résultats erronés.

En anglais.

Un dossier de Basta! sur le coût environnemental (et social) de l'IA.

Le ministère de la Justice britannique développe, sans en avoir parlé, un projet de prédiction des meurtres utilisant des données personnelles. L’information a été révélée via des demandes de documents en vertu de la liberté d’information. Le programme serait pour l’instant un projet de recherche. S’appuyant sur plusieurs documents officiels, l’association StateWatch a révélé le […]

LLM scrapers are taking down FOSS projects' infrastructure, and it's getting worse.

Une opinion décrivant l'utilisation du style du studio Ghibli par OpenAI est une démonstration vulgaire de pouvoir.

Google Search is being plagued by SEO spam, say German researchers.

Dans les dossier du mois de la communauté francophone de Wikipédia, le témoignage des difficultés rencontrées à assurer la qualité des contenus de l'encyclopédie à l'ère de l'IA générative.

Dans un rapport intermédiaire sous-titré « quelles infrastructures dans un monde décarboné ? », le Think Tank de Jean-Marc Jancovici, The Shift Project, se demande quelle place l’IA doit occuper alors que nous allons devoir « s’affranchir de notre dépendance aux énergies fossiles ».

Amazon se sert de l'IA comme prétexte pour forcer la récolte de tous les enregistrements audio de ses appareils Amazon Echo. Article en anglais.

Texte par Roberto Casati, directeur d’études à l’EHESS, traduit de l’anglais par Arnold Zephir Chère communauté de [l’Institut Jean Nicod], Ce qui va suivre est un prompt conversationnel complètement humain pour amorcer une discussion sur l’impact de l’IA sur nos pratiques de recherches. Il est très probable que ce soit perçu comme un avis inhabituel et irrituel.

TRIBUNE // La communauté écologiste reproche à l’IA d’être superfétatoire. On aurait pourtant tort de s’en priver, d’après Perrine Bauchot, chercheuse en modélisation océanique et en télédétection affiliée au think tank Écologie Responsable : les nouveaux outils numériques peuvent s’avérer très utile pour la communauté scientifique, notamment pour la recherche climatique et océanique.

Promise "citoyenne et démocratique" ou "éthique et responsable", l'avenir de l'IA générative est à inscrire dans la logique actuelle de captation de données et de bataille pour la visibilité. Spéculations de Quentin Pignon, fidèle lecteur d'Usbek & Rica.