Dans son essai Les prophètes de l'IA, paru le 25 octobre aux éditions Lux, le journaliste Thibault Prévost - également pigiste pour Usbek & Rica - dresse un portrait démystificateur des grands noms de l'intelligence artificielle qui nous vendent la fin des temps. Entretien.

Alors que l'intelligence artificielle prend de plus en plus de place dans notre quotidien, quelles sont ses répercussions politiques et géopolitiques ? Émilie Aubry s'entretient avec Asma Mhalla, spécialiste des enjeux politiques de la Tech. Elle explique les bases de l'IA et comment elle est utilisée par les industriels de la Tech et par les États pour véhiculer leurs idées. 

Echange lors de l'émission Le dessous des cartes du 12 mars 2024.
Disponible jusqu'au 15/03/2027

L'intelligence artificielle pilotant des drones kamikazes ou faisant patrouiller des chiens robots dans les rues de New York : la science-fiction est en train de devenir réalité. Des experts nous exposent comment l’IA révolutionne déjà les conflits contemporains et nous avertissent des dangers potentiels pour l’humanité.

En explorant les théâtres des conflits contemporains, ouverts ou larvés, et les impressionnantes technologies déjà exploitées par les nations en pointe – de la Russie à Israël, de la Chine aux États-Unis –, des spécialistes de la robotique exposent à quel point l'intelligence artificielle a déjà profondément révolutionné le domaine militaire. Ils nous avertissent de ses risques pour l'avenir, auxquels l'Union européenne, construite sur un idéal de paix, semble encore assez mal préparée : si le déploiement d'armes entièrement autonomes est désormais de l'ordre du possible, c'est aux États de légiférer pour éviter une dangereuse escalade dans la course à l'armement.

Un film documentaire de Daniel Andrew Wunderer disponible sur arte.tv jusqu'au 31/10/2027

Devant les progrès spectaculaires de l’intelligence artificielle, l’industrie du cinéma est partagée entre enthousiasme et effroi… Tour d’horizon d’un tsunami technologique en marche.

Depuis les balbutiements du cinéma de science-fiction, Hollywood imagine des scénarios où des machines, plus intelligentes et plus créatives que les humains, prendraient le pouvoir. Mais aujourd’hui la situation s’inverse : alors que l’intelligence artificielle multiplie les bonds en avant spectaculaires, les studios s’intéressent de plus en plus près au potentiel de ces technologies surpuissantes, capables désormais de prouesses qui nous paraissaient inatteignables il y a seulement quelques années : vieillir ou rajeunir artificiellement les acteurs et en créer des répliques numériques plus vraies que nature, générer un doublage en langue étrangère reproduisant fidèlement le timbre naturel d’un comédien en adaptant le mouvement de ses lèvres ; mais aussi produire des scénarios originaux ou des séquences hyperréalistes sur la base d’une description textuelle. Cette révolution signe-t-elle la fin de la création cinématographique telle que nous la connaissions jusqu’alors ?

Un film documentaire de Mario Sixtus disponible sur arte.tv jusqu'au 18/12/2024

État des lieux des avancées en matière d’intelligence artificielle en Europe, à l’aube d’une nouvelle ère aux bouleversements encore inconnus.

Devancée par les États-Unis et la Chine, l’Europe tente aujourd’hui de rester dans la course effrénée à l’intelligence artificielle (IA), et compte un nombre toujours croissant de start-up spécialisées en la matière. Jonas Andrulis, fondateur d’Aleph Alpha, une société établie à Heidelberg en Allemagne, cherche à générer une IA capable de fluidifier le travail de l’administration publique. Le Français Thomas Wolf, cofondateur de la plate-forme Hugging Face, privilégie, lui, une forme en open source accessible à tous, afin de la nourrir des retours des usagers. Quant à Han Xiao, à l’origine de la start-up berlinoise Jina AI, il ambitionne de créer une intelligence artificielle générative (c’est-à-dire capable de créer des contenus de façon autonome), en mesure de dépasser ChatGPT.

Un film documentaire de Dominik Bretsch, Maximilian Villwock, Mehran Djojan, Sebastian Weis et Ellen Xu disponible sur arte.tv jusqu'au 26/02/2025

Une sélection d'oeuvres culturelles (livres et films) qui traitent de l'intelligence artificielle

Comme elle l'avait annoncé, l'Open Source Initiative (OSI) a publié la version 1.0 de sa définition de l'IA open-source. Ce texte, rédigé en collaboration avec différents experts venant de la recherche et de l'industrie, a pour ambition d'adapter la définition de l'open source et les quatre libertés essentielles au monde des modèles d'intelligence artificielle.

L'OSI exige maintenant une description « complète » des données utilisées pour entrainer le modèle : les créateurs de modèles doivent vraiment détailler les informations concernant ces données d'entrainement. De plus, la méthodologie du processus de filtrage utilisé sur les données collectées pour entrainer les modèles doit être détaillée et le code qui la met en place doit être publié.

Comme on pouvait s'en douter aux vues des tensions entre l'OSI et Meta, cette définition exclut les modèles de l'entreprise, qui se revendique pourtant leader de l'IA open source.

Les images produites par l’IA sont la somme de toutes nos représentations qu’elles renforcent. Alors que beaucoup d’entre nous souhaiteraient mettre fin aux stéréotypes, les machinent les ravivent comme nulles autres. Reste à savoir si cela va nous servir à mieux identifier les clichés ou à nous submerger sous le conformisme.

Deux récentes études menées par 20 Minutes et Opinion Way offrent un éclairage approfondi sur la perception et l’usage de l’IA par les jeunes Français de 18 à 30 ans. Bien que cette génération soit fascinée par les avancées technologiques et prête à adopter l’IA dans leur quotidien, elle reste particulièrement attentive à ses impacts, notamment sur la santé mentale, l’emploi, et l’environnement.

Alors que nous approchons du deuxième anniversaire du lancement de ChatGPT, se pose la question de l’évolution des chatbots. S’ils sont effectivement capables de prouesses aux yeux des néophytes, une analyse plus minutieuse des chatbots révèle de nombreuses limitations et surtout des freins à leur déploiement à grande échelle (plusieurs milliards d’utilisateurs réguliers).

"Elements of AI" sont une série de cours en ligne gratuits créés par MinnaLearn et l'Université d'Helsinki. Aucune connaissance en programmation ou mathématiques avancées n’est requise pour suivre ces cours.

Apprendre ce que signifie l'IA, ce qui peut (et ne peut pas) être fait avec l'IA, et comment commencer à créer des méthodes d'IA. Les cours combinent théorie et exercices pratiques et peuvent être complétés à votre propre rythme.

Une enquête franche et efficace sur les dessous idéologiques du monde de l’intelligence artificielle (qui n’est, comme on le sait, ni intelligente ni artificielle), les grands mouvements dont ses gourous sont alimentés : survivalisme, long-termisme, altruisme efficace, extropianisme et autres barbarismes qui en long, large et travers, font dégouliner dans la presse les « risques existentiels » d’une IA dite « générale » dont il est apparemment préférable de craindre l'hypothétique avènement prochain que d’interroger les modes de production.

Une lecture conseillée donc, pour l’analyse, la collection édifiantes de faits et de chiffres, et pour les bons mots de l’auteur.

Après les deepfakes à caractère pornographiques, les chatbots imitant des personnes réelles. Si l’IA générative ouvre des perspectives en matière de création ou de résumés de contenus, elle est aussi facilement détournée à des fins malveillantes, et notamment de harcèlement.

Wired rapporte avoir dénombré plus de 50 bots construits à l’aide d’intelligence artificielle générative pour permettre aux internautes de dénuder des images de femmes sur Telegram, plateforme réputée être l’une des moins efficaces en termes de modérations. En parallèle, un autre cas d’usage d’IA générative se retrouve détourné à des fins malveillantes : la création de chatbots textuels et vocaux ressemblant à des personnes réelles.

Monopole, privatisation des données, lobbying, attention médiatique... Les Big Tech bénéficient d’un pouvoir si colossal que cela affecte la viabilité de nos démocraties. Face à ce constat, Lê Nguyen Hoang (derrière la chaîne YouTube Science4all), Jean-Lou Fourquet (derrière la chaîne YouTube ApresLaBiere, enseignant et journaliste) et Victor Fersing (fondateur du média vidéo La Fabrique Sociale) appellent à garder en tête les conflits d’intérêts au milieu desquels se trouvent beaucoup des figures emblématiques de la tech qui prennent la parole sur l’IA. Une tribune signée par 74 personnalités issues du monde académique, de l'entreprise et de membres de la société civile.

Ces géants du numérique ont aussi envahi le monde universitaire, notamment parce que, y compris en France, les partenariats public-privé sont encouragés, via par exemple les thèses CIFRE. Une étude saisissante révèle ainsi que 88 % des enseignants-chercheurs en IA ont été employés, ou ont obtenu des financements ou des récompenses des Big Tech. Pire encore, en éthique des algorithmes, ce taux passe à 97 %.

Enfin, leur lobbying intensif auprès des régulateurs, aussi bien aux États-Unis qu’à l’échelle européenne, a affaibli la régulation du numérique, notamment le DSA (Digital Services Act) et le réglement sur l’IA (AI Act), en profitant parfois de l’aide des pépites « européennes » comme Mistral AI (qui a ensuite établi un partenariat avec… Microsoft).

Il est urgent que tous, scientifiques, journalistes et citoyens, soyons beaucoup plus méfiants envers les narratifs diffusés par des « experts IA » se trouvant au centre de conflits d’intérêts.

« Nous avons toujours la possibilité de faire des choix qui sont essentiels... Le problème actuel est que nous renonçons à ce choix et laissons le débat sur l’ère future de l’IA à quelques individus. La société, les travailleurs, les syndicats doivent participer au débat sur l’IA. » La leçon du Prix Nobel d’économie 2024, Daron Acemoğlu.

C’est pour cela que parler des technologies numériques et de l’IA comme d’un simple phénomène économique ne suffit pas. Ce sont des outils d’information, ce qui signifie qu’ils influencent tous les aspects de notre vie sociale, y compris la participation démocratique et politique. [...] Il est impossible de construire une prospérité partagée si tous les outils du numérique poussent à l’automatisation et à la centralisation de l’information entre les mains de quelques grandes entreprises.

Dan McQuillan est maître de conférence au département d’informatique de l’université Goldsmiths de Londres. Il est l’auteur de "Resisting AI, an anti-fascist approach to artificial intelligence" (Résister à l’IA, une approche anti-fasciste de l’IA, Bristol University Press, 2022, non traduit).

“L’IA est utilisée comme une forme de “Stratégie du choc“, dans laquelle le sentiment d’urgence généré par une technologie censée transformer le monde est utilisé comme une opportunité pour transformer les systèmes sociaux sans débat démocratique.” Quand l’IA est convoquée pour transformer l’hôpital et l’école, c’est une diversion qui vise à nous masquer leur effondrement sous les coups d’un désinvestissement massif. Or, l’IA ne comprend ni la médecine ni l’éducation. La seule chose que les grands modèles d’IA font très bien, c’est de transférer le contrôle aux grandes entreprises, et ce alors qu’aucun autre acteur n’a les moyens ou la puissance de traiter les données qu’elles savent traiter.

The AI tools provided by companies like Palantir and Clearview raise questions about when and how invasive tech should be used in wartime.

“Ukraine is a living laboratory in which some of these AI-enabled systems can reach maturity through live experiments and constant, quick reiteration,” says Jorritt Kaminga, the director of global policy at RAIN, a research firm that specializes in defense AI. Yet much of the new power will reside in the hands of private companies, not governments accountable to their people.

“This is the first time ever, in a war, that most of the critical technologies are not coming from federally funded research labs but commercial technologies off the shelf,” says Steve Blank, a tech veteran and co-founder of the Gordian Knot Center for National Security Innovation at Stanford University. “And there’s a marketplace for this stuff. So the genie’s out of the bottle.”

C’est une nouvelle règle du jeu dans l’univers de la politique à l’ère numérique : un flot continu de contenus générés artificiellement caractérise désormais les campagnes électorales, avec l’essor d’outils gratuits, comme le clonage des voix ou l’édition d’images.

Au Pakistan, les dernières législatives [en 2018] témoignaient déjà d’une sophistication croissante des campagnes numériques : création de faux comptes, bombardements coordonnés de hashtags, applis mobiles personnalisées, organisation de grands événements à partir des réseaux sociaux… Et, en février 2024, le pays va vivre sa plus grande élection dématérialisée. Les partis politiques sont naturellement tentés de franchir un nouveau cap avec l’intelligence artificielle [IA].

Four in five (79%) online teenagers aged 13-17 now use generative AI tools and services, with a significant minority of younger children aged 7-12 also adopting the technology (40%).

Adult internet users aged 16 and above are, on average, comparatively more reluctant users of generative AI (31%). Among those who have never used this technology (69%), nearly one in four have no idea what it is (24%).

Snapchat My AI - which became freely available to all Snap users in April 2023 - is the most popular generative AI tool among children and teens, used by half (51%) of online 7–17-year-olds. Online teenage girls are its most avid users (75%).

ChatGPT is the most widely used generative AI service among internet users aged 16 and above (23%). Among online youngsters aged 7-17, boys are keener users of ChatGPT than girls (34% versus 14%).

Des chercheurs en bioéthique ont essayé de générer via Midjourney des photos de médecins noirs soignant des enfants blancs pauvres. Spoiler : c'est quasiment impossible, sauf à renforcer un autre stéréotype, celui du guérisseur traditionnel africain.