Hebdomadaire Shaarli
Semaine 43 (October 21, 2024)

Après les deepfakes à caractère pornographiques, les chatbots imitant des personnes réelles. Si l’IA générative ouvre des perspectives en matière de création ou de résumés de contenus, elle est aussi facilement détournée à des fins malveillantes, et notamment de harcèlement.
Wired rapporte avoir dénombré plus de 50 bots construits à l’aide d’intelligence artificielle générative pour permettre aux internautes de dénuder des images de femmes sur Telegram, plateforme réputée être l’une des moins efficaces en termes de modérations. En parallèle, un autre cas d’usage d’IA générative se retrouve détourné à des fins malveillantes : la création de chatbots textuels et vocaux ressemblant à des personnes réelles.

Monopole, privatisation des données, lobbying, attention médiatique... Les Big Tech bénéficient d’un pouvoir si colossal que cela affecte la viabilité de nos démocraties. Face à ce constat, Lê Nguyen Hoang (derrière la chaîne YouTube Science4all), Jean-Lou Fourquet (derrière la chaîne YouTube ApresLaBiere, enseignant et journaliste) et Victor Fersing (fondateur du média vidéo La Fabrique Sociale) appellent à garder en tête les conflits d’intérêts au milieu desquels se trouvent beaucoup des figures emblématiques de la tech qui prennent la parole sur l’IA. Une tribune signée par 74 personnalités issues du monde académique, de l'entreprise et de membres de la société civile.
Ces géants du numérique ont aussi envahi le monde universitaire, notamment parce que, y compris en France, les partenariats public-privé sont encouragés, via par exemple les thèses CIFRE. Une étude saisissante révèle ainsi que 88 % des enseignants-chercheurs en IA ont été employés, ou ont obtenu des financements ou des récompenses des Big Tech. Pire encore, en éthique des algorithmes, ce taux passe à 97 %.
Enfin, leur lobbying intensif auprès des régulateurs, aussi bien aux États-Unis qu’à l’échelle européenne, a affaibli la régulation du numérique, notamment le DSA (Digital Services Act) et le réglement sur l’IA (AI Act), en profitant parfois de l’aide des pépites « européennes » comme Mistral AI (qui a ensuite établi un partenariat avec… Microsoft).
Il est urgent que tous, scientifiques, journalistes et citoyens, soyons beaucoup plus méfiants envers les narratifs diffusés par des « experts IA » se trouvant au centre de conflits d’intérêts.

« Nous avons toujours la possibilité de faire des choix qui sont essentiels... Le problème actuel est que nous renonçons à ce choix et laissons le débat sur l’ère future de l’IA à quelques individus. La société, les travailleurs, les syndicats doivent participer au débat sur l’IA. » La leçon du Prix Nobel d’économie 2024, Daron Acemoğlu.
C’est pour cela que parler des technologies numériques et de l’IA comme d’un simple phénomène économique ne suffit pas. Ce sont des outils d’information, ce qui signifie qu’ils influencent tous les aspects de notre vie sociale, y compris la participation démocratique et politique. [...] Il est impossible de construire une prospérité partagée si tous les outils du numérique poussent à l’automatisation et à la centralisation de l’information entre les mains de quelques grandes entreprises.