Le leader des call center, le français Teleperformance, déploie un système d’intelligence artificielle pour modifier l’accent de ses travailleurs indiens anglophones en temps réel. 
Le but, déclare son directeur général délégué Thomas Mackenbrock à Bloomberg : les rendre plus facilement compréhensibles de la clientèle internationale de la société.

L’utopie algorithmique des puissants est la dystopie algorithmique des démunis.

Les données utilisées pour entraîner les IA reflètent les stéréotypes et les préjugés de la société, par exemple envers des groupes sous-représentés. Pour conserver la confidentialité de données sensibles, comme les données de santé, tout en garantissant qu’elles ne sont pas biaisées, il faut adapter les méthodes d’apprentissage.

Et si plutôt que refléter, voire exacerber une réalité actuelle dysfonctionnelle, l’IA pouvait être vertueuse et servir à corriger les biais dans la société, pour une société plus inclusive ? C’est ce que proposent les chercheurs avec une nouvelle approche : l’« apprentissage fédéré ».

Des chercheurs en bioéthique ont essayé de générer via Midjourney des photos de médecins noirs soignant des enfants blancs pauvres. Spoiler : c'est quasiment impossible, sauf à renforcer un autre stéréotype, celui du guérisseur traditionnel africain.

Artificial intelligence continues to be fed racist and sexist training materials and then distributed around the world.

AI systems are often trained on gargantuan data sets, usually scraped from the web for cost-effectiveness and ease. But this means AI can inherit all the biases of the humans who design them, and any present in the data that feeds them. The end result mirrors society, with all the ugliness baked in.

Tant la figure de l’algorithme que celle de l’intelligence arti­fi­cielle (IA) béné­fi­cient d’une popu­la­ri­té sans pareille dans les médias. Cet engouement est d’autant plus sur­pre­nant en regard de la tech­ni­ci­té de ce thème. Mal­heu­reu­se­ment, ce trai­te­ment média­tique relègue sou­vent l’analyse du sujet à des consi­dé­ra­tions tech­niques au détri­ment de ses dimen­sions sociales. Pourtant, si ces artefacts informatiques étranges méritent bien d’être questionnés au sein de l’espace public, c’est pour l’influence qu’ils peuvent exercer aujourd’hui sur nos modes de vie et nos opportunités de faire société. Lorsque l’on parle à la fois d’influence et d’IA, c’est la thématique des « biais algorithmiques » qui fait généralement les gros titres. À travers cet article, nous allons essayer d’insérer un peu de nuance dans ce débat sans pour autant négliger certaines technicités.