Resumé de la présente base de résumés. L'IA n'est pas une technologie. Elle relève d'un projet politique et économique, qui répond aux difficultés du capitalisme contemporain. L'IA sert le d'abord le capital et les capitalistes, même quand elle est utile à d'autres.

Les conditions matérielles (exploitation, extraction, colonialisme, etc.) qui rendent possibles l'IA font qu'il n'y aura jamais de "bonne" IA. Malgré cela, l'IA semble là pour rester, même si les bulles IA interrogent l'avenir de l'IA telle qu'on la connait.

Les LLM peuvent produire du texte (communiquer), mais pas informer (dire des choses vraies sur le réel). Leur fonctionnement repose sur une notion du sens des mots détachée du rapport au monde et à la vérité, et qui n'est pas celle que mobilisent les êtres humains.

Les "hallucinations" sont techniquement indistinctes des textes qui semblent "vrais" : elles opèrent selon le fonctionnement normal des LLM, et ne pourront jamais disparaitre à 100%. Les stratégies pour réduire ce problème (dont RAG) sont donc fragiles, coûteuses et inefficaces, car elles ignorent l'impasse conceptuelle.

Les usages informationnels qui nécessitent une fiabilité garantie (100%) ne pourront jamais être satisfaits par des LLM. Un LLM peut seulement "communiquer", c'est-à-dire produire des phrases qui visent à avoir un impact (convaincre, faire agir, etc.), sans prétendre à être vraies. Du bullshit.

Un cours de 4 séances sur À quoi servent les IA génératives, à destination d'étudiants et d’étudiantes. Les séances abordent comment ça marche en théorie, en pratique, à quoi ça peut servir et à quoi ça ne peut pas servir. Réalisé par un traducteur, journaliste et prof.

Anecdote : j'avais partagé la présente de base de liens à l'été 2025 sur Masto et l'auteur des slides avait littéralement dit que ça allait lui servir pour ses cours... que je remets dans la base. L'économie circulaire de l'information 🥲

Les arguments écologiques et déontologiques autour de l'IA générative relèvent de la morale et sont inefficaces. Si l'IA séduit aussi vite et autant, c'est qu'elle répond à quelque chose, qu'il y a un terrain propice. Après tout, on faisait tous sans y'a à peine deux ans.

Pour l'autrice, le problème est une perte de confiance totale en nous et en l'idée de réalité. On croit que le talent et la créativité sont innés (vs produit par du travail ou largement disponibles). L'IA permet alors de faire des choses qu'on pense définitivement hors de notre portée.

Elle permet aussi d'éviter l'échec, y compris dans les relations interpersonnelles. Alors que la solitude fait souffrir énormément de monde, on constate que les gens veulent du soutien... mais sans les efforts et les risques inhérents à une relation humaine.

L'IA fournit une solution, mais au détriment de notre capacité à nous connaître nous-mêmes (introspection, émotions). ChatGPT n'est pas là pour nous faire grandir, nous confronter et nous dire "non" : il est là pour nous faire rester en ligne et enrichir OpenAI.

Il y a un enjeu politique. Il est facile de dominer des individus désespérés, qui ne se connaissent pas eux-mêmes, ni entre-eux, qui n'ont plus confiance en rien (les autres, la science, les infos) et sont devenus fatalistes. Mais en vrai, ces personnes sont créatives, ont de l'imagination, sont capables d'imaginer et réaliser des alternatives.

Le monde de l'IA est un monde triste. Il y aura toujours des gens pour aimer créer, faire des choses (y compris des efforts, y compris et apprendre de ses échecs). Ce sont eux qui sont joyeux, qui font des choses cools, en particulier quand ils et elles agissent ensemble, collectivement.

Note que ce résumé est très partiel, car l'article est riche et fait des apartés. J'ai littéralement ignoré des sections entières dans ce résumé.

Les connaissances produites par les cultures non-blanches sont structurellement ignorées dans le savoir contemporain, surtout si elles sont orales, pas en anglais, ou exprime des approches épistémologiques différentes. Les savoirs locaux sont aussi dévalorisés.

Le web a reflété et accentué cette déformation de l'espace informationnel depuis des décennies (Wikipédia par ex.). L'IA s'appuie donc sur une version déformée d'un espace déjà profondément déformé. La configuration des IA par des humains avec des valeurs et des objectifs (Musk...) aggrave la situation.

L'IA produit une version résumée, orientée et caricaturale de sources de données qui sont déjà partielles et partiales. 97% des langues sont en "ressources faibles" dans les jeux de données. La 3e langue au monde en locuteurs (7,5% de la population), l'Hindi, represente 0,2% des données de Common Crawl.

Most people who actually have technical roles within the tech industry and are fluent with LLM-like techs agree on the following :

Technologies like LLMs have utility, but the absurd way they've been over-hyped, the fact they're being forced on everyone, and the insistence on ignoring the many valid critiques about them make it very difficult to focus on legitimate uses where they might add value.

This is the majority view of experts on AI. But it's silenced by fear of retaliation. And it blocks any normalized view, where AI is just another tech, that could be controlled, bettered, made greener or decentralized.

L'IA est adaptée à des besoins professionnels de bas de gamme, qui constituent beaucoup du travail administratif de plein de gens. Malgré ses défauts connus, l'IA aide ces personnes à survivre au capitalisme finissant.

Tant que les critiques de l'IA ne pigent pas ce qu'elle apporte, elles ne comprendront pas pourquoi l'IA prend dans la société. Les critiques sont des gens privilégiés qui n'ont pas besoin de l'IA.

On ne peut pas "mettre des humains" pour vérifier le travail d'un IA ou limiter ses erreurs. Soit on automatise tout, soit on fait tout à main. Évaluer un résultat suppose de comprendre ce qu'a fait la machine et pourquoi : l'humain doit repenser toute la tâche lui-même pour l'évaluer.

De plus, les LLM génèrent des résultats plausibles, qu'ils découragent de vérifier : ils rendent la tâche encore plus difficile, alors que les humains ne sont pas doués pour inspecter des erreurs (lire du code est plus dur que de l'écrire).

Position des Designers éthiques sur l'IA, au terme de la 2e journée écoconception numérique (février 2025). Utiliser l'IA devrait rester exceptionnel en raison de ses impacts sociaux (cf. cartographie p.5) et écologiques négatifs. Le choix de l'utiliser devrait résulter d'un processus démocratique.

L'IA est à l'opposé de l'expertise, qui s'acquiert autrement. Elle produit par conception des résultats médiocres. C'est aussi une technologie politique, comme tout dans le numérique.

https://journee-ecoconception-numerique.fr/programme/conf/ia-un-probleme