Recension de l'ouvrage "Créativités artificielles. La littérature et l'art à l'heure de l'intelligence artificielle" un recueil de 14 textes publié aux Presses du Réel en 2023 sous la direction d'Alexandre Gefen, spécialiste des humanités numériques.

Comment fonctionne l’intelligence artificielle ? Comment la démystifier et appréhender ses enjeux ? La CNIL propose une sélection de quelques livres, films ou ressources en ligne pour les curieux.

Une sélection d'oeuvres culturelles (livres et films) qui traitent de l'intelligence artificielle

Une enquête franche et efficace sur les dessous idéologiques du monde de l’intelligence artificielle (qui n’est, comme on le sait, ni intelligente ni artificielle), les grands mouvements dont ses gourous sont alimentés : survivalisme, long-termisme, altruisme efficace, extropianisme et autres barbarismes qui en long, large et travers, font dégouliner dans la presse les « risques existentiels » d’une IA dite « générale » dont il est apparemment préférable de craindre l'hypothétique avènement prochain que d’interroger les modes de production.

Une lecture conseillée donc, pour l’analyse, la collection édifiantes de faits et de chiffres, et pour les bons mots de l’auteur.

Dan McQuillan est maître de conférence au département d’informatique de l’université Goldsmiths de Londres. Il est l’auteur de "Resisting AI, an anti-fascist approach to artificial intelligence" (Résister à l’IA, une approche anti-fasciste de l’IA, Bristol University Press, 2022, non traduit).

“L’IA est utilisée comme une forme de “Stratégie du choc“, dans laquelle le sentiment d’urgence généré par une technologie censée transformer le monde est utilisé comme une opportunité pour transformer les systèmes sociaux sans débat démocratique.” Quand l’IA est convoquée pour transformer l’hôpital et l’école, c’est une diversion qui vise à nous masquer leur effondrement sous les coups d’un désinvestissement massif. Or, l’IA ne comprend ni la médecine ni l’éducation. La seule chose que les grands modèles d’IA font très bien, c’est de transférer le contrôle aux grandes entreprises, et ce alors qu’aucun autre acteur n’a les moyens ou la puissance de traiter les données qu’elles savent traiter.

Le capital algorithmique : Accumulation, pouvoir et résistance à l’ère de l’intelligence artificielle par Jonathan Durand Folco et Jonathan Martineau (2023)

Pour Jonathan Durand Folco et Jonathan Martineau, les changements techniques en cours sont tels que nous sommes entrés dans un nouveau stade du capitalisme : le capital algorithmique. En vingt thèses critiques, ils montrent comment la valorisation des données massives et le déploiement rapide de l’intelligence artificielle s’accompagnent de mutations socioéconomiques et politiques majeures. À la fois dynamique d’accumulation, rapport social et forme inédite de pouvoir basé sur les algorithmes, il s’agit d’une réalité multidimensionnelle qui bouleverse déjà profondément nos vies.

Quand on parle d'Intelligence artificielle on mobilise un terme qui qualifie un ensemble de technologies vaguement reliées, expliquent les chercheurs Arvind Narayanan et Sayash Kapoor dans leur nouveau livre, "AI Snake Oil". S’ils n’y arrivent pas toujours, les deux spécialistes nous aident à comprendre les défaillances de l’IA dans un livre qui mobilise la science pour qu’elle nous aide à éclairer le chemin critique qu’il reste à accomplir.

Si vous ne deviez lire qu’un seul livre trai­tant des intel­li­gences arti­fi­cielles, ce devrait sans doute être le "Contre-Atlas de l’Intelligence Arti­fi­cielle" de la cher­cheuse aus­tra­lienne Kate Craw­ford. Cette enquête sur l’industrie de l’IA, très acces­sible même si vous n’êtes pas féru d’informatique, montre à quel point au-delà de la couche de mar­ke­ting qui tente de rendre "magique" cette technologie, se jouent de nombreux rapports de force et de domination. Elle permet d’entamer une réflexion critique des algorithmes.

On ne peut pas com­prendre le déve­lop­pe­ment phé­no­mé­nal des algo­rithmes aujourd’hui sans sai­sir les recon­fi­gu­ra­tions du capi­ta­lisme de ces 20 der­nières années. C’est ce que montrent deux ensei­gnant-cher­cheurs, Jona­than Mar­ti­neau et Jona­than Durand Fol­co, res­pec­ti­ve­ment à l’Université Concor­dia (Mont­réal) et à l’Université de Saint-Paul (Otta­wa) dans "Le capi­tal algo­rith­mique".

Ce livre développe en 20 thèses de quoi réfléchir de manière puissante, critique et multidimensionnelle les logiques algorithmiques et les intelligences artificielles qui bouleversent nos vies actuellement, le plus souvent au profit du marché. Selon eux, les changements techniques, économiques, sociaux et politiques sont tels que nous sommes passés à une nouvelle phase du capitalisme. Celui-ci, devenu algorithmique, affecte de multiples sphères de la société. Dont le fonctionnement de nos démocraties.