Comprendre l'IA

La photographie et la vidéo ont longtemps eu valeur de preuve : c'est terminé. On peut produire du visuel à un coût dérisoire. Cette situation renforce l'impunité des puissants, qui peuvent arguer que tout ce qui les met en cause est une fabrication. Elle met en danger celles et ceux qui s'opposent à eux.

Le système de diffusion de l'information basé sur des journalistes garants de la qualité et la vérité de l'info se délite. L'accès la réalité, à des infos vérifiées, risque de devenir un privilège de classe (payant). Le reste de citoyens évoluant alors dans un magma indistinct de propagande, de fabrication et de vraies informations.

Une solution technique serait de signer cryptographiquement tous les médias (par exemple directement depuis l'appareil). Mais c'est une transition lente, qui demande beaucoup d'éducation, de compétences et des choix politiques.

L'usage de l'IA pour générer du code crée trois dettes techniques : dette cognitive (code livré sans avoir été compris), dette de vérification (code approuvé sans être lu) et dette architecturale (code qui enfreint les règles de de design du système).

Après 6 mois d'extase à génerer vite, la boite de l'auteur a dû stopper toute livraison de code pendant 3 semaines pour recomprendre son code. Il donne des règles sur comment utiliser l'IA pour coder en réduisant les écueils.

Il dit aussi que son équipe a perdu l'impression d'être des artisans, que du code IA pas compris ne peut pas etre corrigé en urgence, et que l'IA a rendu le debugging et la compréhension plus longue, alors que c'était déjà long. Parce que le code c'est d'abord une logique implémentée dans l'esprit d'un programmeur, pas du texte.

Les LLM peuvent produire du texte (communiquer), mais pas informer (dire des choses vraies sur le réel). Leur fonctionnement repose sur une notion du sens des mots détachée du rapport au monde et à la vérité, et qui n'est pas celle que mobilisent les êtres humains.

Les "hallucinations" sont techniquement indistinctes des textes qui semblent "vrais" : elles opèrent selon le fonctionnement normal des LLM, et ne pourront jamais disparaitre à 100%. Les stratégies pour réduire ce problème (dont RAG) sont donc fragiles, coûteuses et inefficaces, car elles ignorent l'impasse conceptuelle.

Les usages informationnels qui nécessitent une fiabilité garantie (100%) ne pourront jamais être satisfaits par des LLM. Un LLM peut seulement "communiquer", c'est-à-dire produire des phrases qui visent à avoir un impact (convaincre, faire agir, etc.), sans prétendre à être vraies. Du bullshit.

Sam Altman veut faire de l'intelligence une matière première facturée avec un compteur, comme l'eau et l'électricité. Ce qui implique au fond qu'elle soit subventionnée par l'État à terme.

Plus profondément, vendre de l'intelligence comme matière première suppose une raréfaction de l'intelligence humaine. Moins il y a d''intelligence disponible (via l'éducation, l'entraînement des capacités cognitives, etc.), plus on peut vendre de l'intelligence.

Les gens utilisent de plus en plus l'IA pour chercher des informations, mais souvent en utilisant aussi la recherche classique. L'IA est plébiscitée parce qu'elle réduit le coût d'interaction (clics, scan de page) et l'effort cognitif pour des tâches complexes.

Elle pallie des limites de la recherche classique, qui marche mal quand on doit combiner plusieurs critères (prix, lieu, etc.) ou qu'on ne sait pas décrire ce qu'on cherche. Trouver les mots-clés, formuler les requêtes, naviguer dans les résultats : tout ça n'est pas facile.

La recherche classique sert à valider des informations, parce qu'elle est jugé plus fiable que l'IA (notamment sur les prix). Quand le sujet est important pour la personne, l'IA ne lui suffit pas. Les personnes évitent l'IA pour les recherches très pointues ou sur des sujets universitaires.

La banque d'investissement Goldman Sachs lance un indice boursier pour permettre d'investir dans tout ce qui n'a aucun rapport à l'IA ("l'ancienne économie"). La hype IA produit trop de bruit et trop de concentration : l'index boursier standard ne contient plus que des valeurs tech, ce qui compromet la sécurité des fonds de pensions (conçus pour limiter les risques en investissant dans des champs très divers).

La création de cet indice est perçue par les critique de l'IA comme la matérialisation d'une demande pour du non-IA et la preuve que tout ça est en train de s'écrouler.

Les promoteurs de l'IA constatent que les gens résistent à leur produit et que les critiques de l'IA gagnent la bataille du récit. Le boom de l'IA rencontre une hostilité inédite par rapport aux booms technologiques et financiers précédents, attestée plusieurs sources.

Le boom de l'IA ne s'accompagne pas d'un enthousiasme massif, mais d'une indifférence et d'un rejet. Avant, un boom était lié à des effets positifs sur le réel : avec les cryptos puis l'IA, les booms financiers se détachent du réel. La promesse d'un effet suffit à alimenter le boom.

En parallèle, l'IA est imposée aux masses, les centres de données aussi... Et les gens ne voient pas toujours d'impact positif sur leur vies... Alors les promoteurs de l'IA font des annonces objectivement anxiogènes ("On n'aura plus besoin des humains").

L'IA alimente et accentue un backclash général contre les sociétés de technologies, qui craignent de perdre "la tolérance sociale" qui leur a permis d'agir jusqu'ici sans contraintes ni comptes à rendre.

Un éditeur de jeux vidéo découvre que les publicités qu'il diffuse sur TikTok sont modifiées par TikTok via IA, sans autorisation, et que le remixes sont racistes et sexistes. L'éditeur n'a pas du tout accès aux remixes - sauf via des screenshots fournis par les internautes.

TikTok commence par nier les faits, puis admet que c'est une option sans opt-out pour "améliorer" les pubs et sélectionner celles qui marchent. Ils annoncent que le problème sera escaladé à un directeur senior, puis finissent par dire que non, parce qu'il n'y a aucune procédure pour.

Aucune excuse, aucun changement prévu, la dimension raciste et sexiste des pubs remixées n'a pas été abordée par TikTok.

La littératie IA devient une composante de la littératie numérique en générale. On peut distinguer la littératie à prompter (envoyer une entrée) et la littératie à analyser la sortie renvoyée par le chatbot.

Les deux ne vont pas forcément ensemble, notamment chez les novices et les utilisateurs intensifs naïfs. Les experts eux vont vérifier ailleurs, confronter l'IA, et choisissent des IA différentes selon les tâches.

Quand les gens publient leurs problèmes et questions sur des espaces ouverts (forums...), les réponses bénéficient à toustes, et les gens savent sur quoi les autres s'interrogent. Quand les gens interrogent un chatbot, la réponse est privée,et seule l'entreprise du chatbot a accès aux questions des gens.

En accédant à un grand volume de questions, l'entreprise améliore ses réponses, rend son chatbot incontournable et justifie qu'on y prenne un abonnement payant. Les bénéfices économiques sont exclusivement pour l'entreprise du chatbot, alors qu'avant ils étaient pour toustes.

Note : c'est ce qui se passe avec Gmail. Gmail a tellement de données d'utilisation, qu'il a un avantage indépassable pour faire le meilleur service mail

Un cours de 4 séances sur À quoi servent les IA génératives, à destination d'étudiants et d’étudiantes. Les séances abordent comment ça marche en théorie, en pratique, à quoi ça peut servir et à quoi ça ne peut pas servir. Réalisé par un traducteur, journaliste et prof.

Anecdote : j'avais partagé la présente de base de liens à l'été 2025 sur Masto et l'auteur des slides avait littéralement dit que ça allait lui servir pour ses cours... que je remets dans la base. L'économie circulaire de l'information 🥲

Les arguments écologiques et déontologiques autour de l'IA générative relèvent de la morale et sont inefficaces. Si l'IA séduit aussi vite et autant, c'est qu'elle répond à quelque chose, qu'il y a un terrain propice. Après tout, on faisait tous sans y'a à peine deux ans.

Pour l'autrice, le problème est une perte de confiance totale en nous et en l'idée de réalité. On croit que le talent et la créativité sont innés (vs produit par du travail ou largement disponibles). L'IA permet alors de faire des choses qu'on pense définitivement hors de notre portée.

Elle permet aussi d'éviter l'échec, y compris dans les relations interpersonnelles. Alors que la solitude fait souffrir énormément de monde, on constate que les gens veulent du soutien... mais sans les efforts et les risques inhérents à une relation humaine.

L'IA fournit une solution, mais au détriment de notre capacité à nous connaître nous-mêmes (introspection, émotions). ChatGPT n'est pas là pour nous faire grandir, nous confronter et nous dire "non" : il est là pour nous faire rester en ligne et enrichir OpenAI.

Il y a un enjeu politique. Il est facile de dominer des individus désespérés, qui ne se connaissent pas eux-mêmes, ni entre-eux, qui n'ont plus confiance en rien (les autres, la science, les infos) et sont devenus fatalistes. Mais en vrai, ces personnes sont créatives, ont de l'imagination, sont capables d'imaginer et réaliser des alternatives.

Le monde de l'IA est un monde triste. Il y aura toujours des gens pour aimer créer, faire des choses (y compris des efforts, y compris et apprendre de ses échecs). Ce sont eux qui sont joyeux, qui font des choses cools, en particulier quand ils et elles agissent ensemble, collectivement.

Note que ce résumé est très partiel, car l'article est riche et fait des apartés. J'ai littéralement ignoré des sections entières dans ce résumé.

La littératie IA consiste à savoir comment l'IA fonctionne, savoir l'utiliser efficacement, et être critique des résultats produits. Quatre profils émergent : les novices qui n'utilisent presque pas la IAgen, les utilisateurs intensifs (power users) naïfs — qui savent moyennement comme ça marche, les abstinent sceptiques — qui savent ce que fait l'IA, mais pas l'utiliser concrètement, et les experts, qui savent prompter, faire preuve d'esprit critique et choisir les outils adaptés selon la tâche.

Note que cette vidéo a une vibe TINA insupportable.

Début 2026, un fil Reddit d'un prétendu lanceur d'alerte dans une boite de livraison type UberEats devient viral, mais est accusé d'être un hoax généré par IA.

Un journaliste contacte l'auteur du thread pour vérifier : les "preuves" fournies par "l'auteur" sont générée par IA. Faire de journalisme demande encore plus de méthode, de compétences et de vigilance, alors que publier du faux est trivial.

D'autant que l'attention portée à un sujet pour découvrir que c'est un hoax est perdue pour traiter d'autre chose. L'IA peut servir d'outil de distraction, pour manipuler l'opinion et l'attention (ex : les Russes).

Reconnaissance faciale, automatisation des discriminations, LLM : il n'y a pas d'IA éthique. Non seulement les fondements techno-scientifiques de l'IA sont ethnocentrés, mais l'idée même d'éthique est ethnocentrée. Fournir d'autres données, améliorer les traitements, mettre "de l'éthique" ou de la "diversité" ne peut pas corriger ça.

Il n'y pas de "biais" (terme dépolitisant), mais une oppression structurelle inscrite dans les données "blanchisées", qui ignorent la couleur et masquent les dysfonctionnement raciaux. Les LLM sont des produits racistes de sociétés racistes : leurs réponses reflètent ces sociétés et amplifient leur vision. La fonction de l'IA est de produire de l'incertitude et de l'angoisse, pour gouverner par la peur.

La promesse d'une bonne IA est centrale pour promouvoir l'IA, car elle n'aide pas à limiter concrètement les technos de surveillance et la violence systémique. En réalité, la "bonne IA" maintient les fondations et les constructions sociales du monde actuel. Alors qu'on a besoin de justice et d'émancipation, l'IA propose l'ignorance, l'évitement et la passivité.