L'intelligence artificielle pilotant des drones kamikazes ou faisant patrouiller des chiens robots dans les rues de New York : la science-fiction est en train de devenir réalité. Des experts nous exposent comment l’IA révolutionne déjà les conflits contemporains et nous avertissent des dangers potentiels pour l’humanité.
En explorant les théâtres des conflits contemporains, ouverts ou larvés, et les impressionnantes technologies déjà exploitées par les nations en pointe – de la Russie à Israël, de la Chine aux États-Unis –, des spécialistes de la robotique exposent à quel point l'intelligence artificielle a déjà profondément révolutionné le domaine militaire. Ils nous avertissent de ses risques pour l'avenir, auxquels l'Union européenne, construite sur un idéal de paix, semble encore assez mal préparée : si le déploiement d'armes entièrement autonomes est désormais de l'ordre du possible, c'est aux États de légiférer pour éviter une dangereuse escalade dans la course à l'armement.
Un film documentaire de Daniel Andrew Wunderer disponible sur arte.tv jusqu'au 31/10/2027
État des lieux des avancées en matière d’intelligence artificielle en Europe, à l’aube d’une nouvelle ère aux bouleversements encore inconnus.
Devancée par les États-Unis et la Chine, l’Europe tente aujourd’hui de rester dans la course effrénée à l’intelligence artificielle (IA), et compte un nombre toujours croissant de start-up spécialisées en la matière. Jonas Andrulis, fondateur d’Aleph Alpha, une société établie à Heidelberg en Allemagne, cherche à générer une IA capable de fluidifier le travail de l’administration publique. Le Français Thomas Wolf, cofondateur de la plate-forme Hugging Face, privilégie, lui, une forme en open source accessible à tous, afin de la nourrir des retours des usagers. Quant à Han Xiao, à l’origine de la start-up berlinoise Jina AI, il ambitionne de créer une intelligence artificielle générative (c’est-à-dire capable de créer des contenus de façon autonome), en mesure de dépasser ChatGPT.
Un film documentaire de Dominik Bretsch, Maximilian Villwock, Mehran Djojan, Sebastian Weis et Ellen Xu disponible sur arte.tv jusqu'au 26/02/2025
Monopole, privatisation des données, lobbying, attention médiatique... Les Big Tech bénéficient d’un pouvoir si colossal que cela affecte la viabilité de nos démocraties. Face à ce constat, Lê Nguyen Hoang (derrière la chaîne YouTube Science4all), Jean-Lou Fourquet (derrière la chaîne YouTube ApresLaBiere, enseignant et journaliste) et Victor Fersing (fondateur du média vidéo La Fabrique Sociale) appellent à garder en tête les conflits d’intérêts au milieu desquels se trouvent beaucoup des figures emblématiques de la tech qui prennent la parole sur l’IA. Une tribune signée par 74 personnalités issues du monde académique, de l'entreprise et de membres de la société civile.
Ces géants du numérique ont aussi envahi le monde universitaire, notamment parce que, y compris en France, les partenariats public-privé sont encouragés, via par exemple les thèses CIFRE. Une étude saisissante révèle ainsi que 88 % des enseignants-chercheurs en IA ont été employés, ou ont obtenu des financements ou des récompenses des Big Tech. Pire encore, en éthique des algorithmes, ce taux passe à 97 %.
Enfin, leur lobbying intensif auprès des régulateurs, aussi bien aux États-Unis qu’à l’échelle européenne, a affaibli la régulation du numérique, notamment le DSA (Digital Services Act) et le réglement sur l’IA (AI Act), en profitant parfois de l’aide des pépites « européennes » comme Mistral AI (qui a ensuite établi un partenariat avec… Microsoft).
Il est urgent que tous, scientifiques, journalistes et citoyens, soyons beaucoup plus méfiants envers les narratifs diffusés par des « experts IA » se trouvant au centre de conflits d’intérêts.
« Nous avons toujours la possibilité de faire des choix qui sont essentiels... Le problème actuel est que nous renonçons à ce choix et laissons le débat sur l’ère future de l’IA à quelques individus. La société, les travailleurs, les syndicats doivent participer au débat sur l’IA. » La leçon du Prix Nobel d’économie 2024, Daron Acemoğlu.
C’est pour cela que parler des technologies numériques et de l’IA comme d’un simple phénomène économique ne suffit pas. Ce sont des outils d’information, ce qui signifie qu’ils influencent tous les aspects de notre vie sociale, y compris la participation démocratique et politique. [...] Il est impossible de construire une prospérité partagée si tous les outils du numérique poussent à l’automatisation et à la centralisation de l’information entre les mains de quelques grandes entreprises.
Rumman Chowdhury, Timnit Gebru, Safiya Noble, Seeta Peña Gangadharan, and Joy Buolamwini open up about their artificial intelligence fears. Today the risks of artificial intelligence are clear — but the warning signs have been there all along.
Avec la sortie de GPT-4, la ferveur médiatique autour des IA génératives atteint des sommets. Présentés comme la solution miracle à tous nos problèmes, les modèles génératifs nourrissent tous les fantasmes des techno-utopistes et "experts en IA" de Twitter. Pourtant ils ne résolvent en rien les problèmes des entreprises (cloisonnement des données et connaissances, système d’information sclérosé, gigantesque dette numérique…) et risquent même d’aggraver l’infobésité ou la désinformation. Plutôt que de participer à l’hystérie collective, je préfère adopter une approche critique et poser une question essentielle : quel problème essaye-t-on de résoudre ?
Cela fait 15 ans que nous nous plaignons et cherchons à lutter contre l’infobésité, pourquoi se réjouir de l’avènement des IA génératives ? Est-ce que ça ne serait pas plus viable d’apprendre aux collaborateurs à envoyer moins d’emails et à reporter les pratiques de communication / collaboration sur des outils qui sont conçus pour ?
Une initiative internationale menée par la startup française Pleias propose un corpus de textes du domaine public permettant d'entrainer les IA génératives tout en respectant les lois régissant les droits d'auteur : Common Corpus. Pierre-Carl Langlais, co-fondateur de Pleias, nous parle de son projet.
Stanford pointe le manque de transparence dans les grands modèles d’intelligence artificielle | Next
Alors que les travaux se multiplient pour réguler le domaine de l'intelligence artificielle, l'équipe du Centre de recherche sur les modèles de fondation de Stanford dévoile un index d'analyse de la transparence des modèles d'IA généralistes. Résultat de la toute première analyse : tout le monde peut (largement) mieux faire.
Selon une étude menée par Rishi Bommasani et plusieurs autres chercheurs du Center for Research on Foundation Models (CRFM) de l’Institute for Human-Centered Artificial Intelligence (HAI) de Stanford, ni Meta, ni Hugging Face, ni Open AI (qui contient pourtant le mot « open » dans son nom) ni Google n’explosent les scores en matière de transparence de leurs modèles de fondation. Selon les scientifiques, ils sont même de moins en moins transparents.
Si vous ne deviez lire qu’un seul livre traitant des intelligences artificielles, ce devrait sans doute être le "Contre-Atlas de l’Intelligence Artificielle" de la chercheuse australienne Kate Crawford. Cette enquête sur l’industrie de l’IA, très accessible même si vous n’êtes pas féru d’informatique, montre à quel point au-delà de la couche de marketing qui tente de rendre "magique" cette technologie, se jouent de nombreux rapports de force et de domination. Elle permet d’entamer une réflexion critique des algorithmes.
La question de la régulation de l’intelligence artificielle est majeure. Elle articule une variété de courants, des plus techno-optimistes, plaidant l’adaptation à un avenir déjà écrit, aux oppositions plus frontales aux technologies numériques et à la « civilisation industrielle » dans son ensemble. Entre les deux, on retrouve les approches régulationnistes, engageant à encadrer davantage le développement de l’IA dans un esprit de responsabilité. Un domaine en particulier est souvent mentionné dans ce champ : la « regulation by design » (RbD). Il s’agit en résumé, d’incorporer les régulations en vigueur à la conception des systèmes, ce qui ne va pas sans poser quelques questions.
Tech CEOs want us to believe that generative AI will benefit humanity. They are kidding themselves.
Why call the errors “hallucinations” at all? Why not algorithmic junk? Or glitches? Well, hallucination refers to the mysterious capacity of the human brain to perceive phenomena that are not present, at least not in conventional, materialist terms. By appropriating a word commonly used in psychology, psychedelics and various forms of mysticism, AI’s boosters, while acknowledging the fallibility of their machines, are simultaneously feeding the sector’s most cherished mythology: that by building these large language models, and training them on everything that we humans have written, said and represented visually, they are in the process of birthing an animate intelligence on the cusp of sparking an evolutionary leap for our species.
Pleine de promesses ou porteuse d’inquiétudes, l’Intelligence Artificielle (IA) est sur toutes les lèvres et ne cesse d’envahir les titres des journaux. Mais derrière les vagues de spéculation, elle incarne surtout le prolongement d’un capitalisme numérique qui pousse toujours plus loin l’exploitation écologique et humaine.
N’étant pas juriste, c’est avec prudence et humilité que je vous partage la réflexion suivante. Comment est-ce possible qu’on laisse encore des entreprises privées lancer ce qu’il faut bien appeler des expérimentations à grande échelle, sans dispositif de contrôle, sur des produits aussi potentiellement dangereux que des programmes d’intelligence artificielle comme ChatGPT ? Alors que de l’aveu même de nombreux chercheurs en pointe dans le domaine, « on ne sait pas encore pourquoi ça marche aussi bien ».
Une note de veille et de ressources sur les IA génératives, alors que l'excitation post-ChatGPT est encore bien vive.