3 liens privés
ChatGPT induit des psychoses à certain·es utilisateurices via ses réponses.
À travers des réponses renforçant des comportements psychotiques, certain·es utilisateurices de ChatGPT développent des psychoses et des délires complotistes.
OpenAI, l'entreprise derrière ChatGPT, a d'ailleurs dû annuler une mise à jour de ChatGPT-4o qui était trop flatteuse envers l'utilisateurice.
En anglais.
Lors d'une conférence dédiée à la sécurité informatique, des expert·es dans le domaine ont montré la puissance d'outils comme WormGPT pour dévoiler des failles de sécurité informatiques et concevoir des attaques en les exploitant. En anglais.
Beaucoup de choses ont été dites sur l’empreinte environnementale du secteur numérique ces dernières années et il est parfois complexe de s’y retrouver. Il est donc plus que bienvenu de faire un point d’étape maintenant que le développement des IA génératives (ChatGPT, Claude, Midjourney, etc.) ajoute une épaisse couche de confusion à une question déjà complexe.
Pour le dire simplement, les sciences environnementales appliquées à la numérisation ont deux principales questions de recherche : 1) quelle est l’empreinte environnementale du secteur numérique et ses trajectoires ; 2) est-ce que la numérisation aide à atténuer et à s’adapter à la crise environnementale ou alors augmente les impacts globaux ? Nous nous attacherons ici à faire le point uniquement sur la première question.
L'introduction des IA dans une organisation même réalisée de manière "raisonnée" ou "responsable" posent un tas de problèmes. Il y a un effet cliquet : après l'introduction d'une nouvelle technologie, il est quasi-impossible de revenir en arrière. Au contraire, petit à petit, le terrain s'érode et les limites sont à chaque fois repoussées. Or, il est plus qu'urgent de résister le plus possible.
Cet article scientifique présente les conclusions d'une étude démontrant que certaines utilisations de l'IA dans la recherche scientifique est mauvaise.
Plus d'une trentaine de champs de recherche sont concernés, allant de la psychiatrie à la biologie moléculaire, et de nombreuses études possèdent des résultats erronés.
En anglais.
Un dossier de Basta! sur le coût environnemental (et social) de l'IA.
Le ministère de la Justice britannique développe, sans en avoir parlé, un projet de prédiction des meurtres utilisant des données personnelles. L’information a été révélée via des demandes de documents en vertu de la liberté d’information. Le programme serait pour l’instant un projet de recherche. S’appuyant sur plusieurs documents officiels, l’association StateWatch a révélé le […]
LLM scrapers are taking down FOSS projects' infrastructure, and it's getting worse.
Une opinion décrivant l'utilisation du style du studio Ghibli par OpenAI est une démonstration vulgaire de pouvoir.
Google Search is being plagued by SEO spam, say German researchers.
Dans les dossier du mois de la communauté francophone de Wikipédia, le témoignage des difficultés rencontrées à assurer la qualité des contenus de l'encyclopédie à l'ère de l'IA générative.
Dans un rapport intermédiaire sous-titré « quelles infrastructures dans un monde décarboné ? », le Think Tank de Jean-Marc Jancovici, The Shift Project, se demande quelle place l’IA doit occuper alors que nous allons devoir « s’affranchir de notre dépendance aux énergies fossiles ».
Amazon se sert de l'IA comme prétexte pour forcer la récolte de tous les enregistrements audio de ses appareils Amazon Echo. Article en anglais.
Texte par Roberto Casati, directeur d’études à l’EHESS, traduit de l’anglais par Arnold Zephir Chère communauté de [l’Institut Jean Nicod], Ce qui va suivre est un prompt conversationnel complètement humain pour amorcer une discussion sur l’impact de l’IA sur nos pratiques de recherches. Il est très probable que ce soit perçu comme un avis inhabituel et irrituel.
TRIBUNE // La communauté écologiste reproche à l’IA d’être superfétatoire. On aurait pourtant tort de s’en priver, d’après Perrine Bauchot, chercheuse en modélisation océanique et en télédétection affiliée au think tank Écologie Responsable : les nouveaux outils numériques peuvent s’avérer très utile pour la communauté scientifique, notamment pour la recherche climatique et océanique.
Promise "citoyenne et démocratique" ou "éthique et responsable", l'avenir de l'IA générative est à inscrire dans la logique actuelle de captation de données et de bataille pour la visibilité. Spéculations de Quentin Pignon, fidèle lecteur d'Usbek & Rica.
Une étude publiée par des chercheurs de l'université Carnegie Mellon (Pennsylvanie) et de Microsoft démontre que déléguer aux IA génératives des tâches d'analyse détériore l’esprit critique dans le cadre professionnel.
Le leader des call center, le français Teleperformance, déploie un système d’intelligence artificielle pour modifier l’accent de ses travailleurs indiens anglophones en temps réel. Le but, déclare son directeur général délégué Thomas Mackenbrock à Bloomberg : les rendre plus facilement compréhensibles de la clientèle internationale de la société.
GPT-4.5 est disponible, en version préliminaire, avec un accès limité aux abonnements Pro pour l’instant. Open AI prévoit une ouverture plus large dans les semaines à venir, lorsque l’entreprise aura accès à des « dizaines de milliers de GPU » supplémentaires. En attendant, qu’y-a-t-il de neuf dans cette nouvelle version intermédiaire du modèle GPT ? […]
Un article passionnant décrivant comment certains modèles d'IA tentent de tricher aux échecs lorsqu'ils sont dans une situation de défaite probable. (En anglais)