Comprendre l'IA

C'est la fin de l'époque de l'IA pas chère et sans restriction. OpenAI, Anthropic, Microsoft : toutes les grandes compagnies implémentent des limites d'usages sur leurs modèles. En parallèle, les prix des produits qui implémentent l'IA (Google Workspace, Notion, Microsoft 365) augmentent, le prix du matériel (RAM, GPU, stockage, puces) explose, les factures d'électricté, voire d'eau, montent flèche.

Tout ça pose des problèmes à tout le monde, du citoyen dans une ville de datacenter à Apple qui a des problèmes pour fabriquer les nouveaux iPhone alors que toutes les ressources partent vers l'IA.

La photographie et la vidéo ont longtemps eu valeur de preuve : c'est terminé. On peut produire du visuel à un coût dérisoire. Cette situation renforce l'impunité des puissants, qui peuvent arguer que tout ce qui les met en cause est une fabrication. Elle met en danger celles et ceux qui s'opposent à eux.

Le système de diffusion de l'information basé sur des journalistes garants de la qualité et la vérité de l'info se délite. L'accès la réalité, à des infos vérifiées, risque de devenir un privilège de classe (payant). Le reste de citoyens évoluant alors dans un magma indistinct de propagande, de fabrication et de vraies informations.

Une solution technique serait de signer cryptographiquement tous les médias (par exemple directement depuis l'appareil). Mais c'est une transition lente, qui demande beaucoup d'éducation, de compétences et des choix politiques.

L'usage de l'IA pour générer du code crée trois dettes techniques : dette cognitive (code livré sans avoir été compris), dette de vérification (code approuvé sans être lu) et dette architecturale (code qui enfreint les règles de de design du système).

Après 6 mois d'extase à génerer vite, la boite de l'auteur a dû stopper toute livraison de code pendant 3 semaines pour recomprendre son code. Il donne des règles sur comment utiliser l'IA pour coder en réduisant les écueils.

Il dit aussi que son équipe a perdu l'impression d'être des artisans, que du code IA pas compris ne peut pas etre corrigé en urgence, et que l'IA a rendu le debugging et la compréhension plus longue, alors que c'était déjà long. Parce que le code c'est d'abord une logique implémentée dans l'esprit d'un programmeur, pas du texte.

Les LLM peuvent produire du texte (communiquer), mais pas informer (dire des choses vraies sur le réel). Leur fonctionnement repose sur une notion du sens des mots détachée du rapport au monde et à la vérité, et qui n'est pas celle que mobilisent les êtres humains.

Les "hallucinations" sont techniquement indistinctes des textes qui semblent "vrais" : elles opèrent selon le fonctionnement normal des LLM, et ne pourront jamais disparaitre à 100%. Les stratégies pour réduire ce problème (dont RAG) sont donc fragiles, coûteuses et inefficaces, car elles ignorent l'impasse conceptuelle.

Les usages informationnels qui nécessitent une fiabilité garantie (100%) ne pourront jamais être satisfaits par des LLM. Un LLM peut seulement "communiquer", c'est-à-dire produire des phrases qui visent à avoir un impact (convaincre, faire agir, etc.), sans prétendre à être vraies. Du bullshit.

Sam Altman veut faire de l'intelligence une matière première facturée avec un compteur, comme l'eau et l'électricité. Ce qui implique au fond qu'elle soit subventionnée par l'État à terme.

Plus profondément, vendre de l'intelligence comme matière première suppose une raréfaction de l'intelligence humaine. Moins il y a d''intelligence disponible (via l'éducation, l'entraînement des capacités cognitives, etc.), plus on peut vendre de l'intelligence.

Les gens utilisent de plus en plus l'IA pour chercher des informations, mais souvent en utilisant aussi la recherche classique. L'IA est plébiscitée parce qu'elle réduit le coût d'interaction (clics, scan de page) et l'effort cognitif pour des tâches complexes.

Elle pallie des limites de la recherche classique, qui marche mal quand on doit combiner plusieurs critères (prix, lieu, etc.) ou qu'on ne sait pas décrire ce qu'on cherche. Trouver les mots-clés, formuler les requêtes, naviguer dans les résultats : tout ça n'est pas facile.

La recherche classique sert à valider des informations, parce qu'elle est jugé plus fiable que l'IA (notamment sur les prix). Quand le sujet est important pour la personne, l'IA ne lui suffit pas. Les personnes évitent l'IA pour les recherches très pointues ou sur des sujets universitaires.

La banque d'investissement Goldman Sachs lance un indice boursier pour permettre d'investir dans tout ce qui n'a aucun rapport à l'IA ("l'ancienne économie"). La hype IA produit trop de bruit et trop de concentration : l'index boursier standard ne contient plus que des valeurs tech, ce qui compromet la sécurité des fonds de pensions (conçus pour limiter les risques en investissant dans des champs très divers).

La création de cet indice est perçue par les critique de l'IA comme la matérialisation d'une demande pour du non-IA et la preuve que tout ça est en train de s'écrouler.

Les promoteurs de l'IA constatent que les gens résistent à leur produit et que les critiques de l'IA gagnent la bataille du récit. Le boom de l'IA rencontre une hostilité inédite par rapport aux booms technologiques et financiers précédents, attestée plusieurs sources.

Le boom de l'IA ne s'accompagne pas d'un enthousiasme massif, mais d'une indifférence et d'un rejet. Avant, un boom était lié à des effets positifs sur le réel : avec les cryptos puis l'IA, les booms financiers se détachent du réel. La promesse d'un effet suffit à alimenter le boom.

En parallèle, l'IA est imposée aux masses, les centres de données aussi... Et les gens ne voient pas toujours d'impact positif sur leur vies... Alors les promoteurs de l'IA font des annonces objectivement anxiogènes ("On n'aura plus besoin des humains").

L'IA alimente et accentue un backclash général contre les sociétés de technologies, qui craignent de perdre "la tolérance sociale" qui leur a permis d'agir jusqu'ici sans contraintes ni comptes à rendre.

Un éditeur de jeux vidéo découvre que les publicités qu'il diffuse sur TikTok sont modifiées par TikTok via IA, sans autorisation, et que le remixes sont racistes et sexistes. L'éditeur n'a pas du tout accès aux remixes - sauf via des screenshots fournis par les internautes.

TikTok commence par nier les faits, puis admet que c'est une option sans opt-out pour "améliorer" les pubs et sélectionner celles qui marchent. Ils annoncent que le problème sera escaladé à un directeur senior, puis finissent par dire que non, parce qu'il n'y a aucune procédure pour.

Aucune excuse, aucun changement prévu, la dimension raciste et sexiste des pubs remixées n'a pas été abordée par TikTok.

La littératie IA devient une composante de la littératie numérique en générale. On peut distinguer la littératie à prompter (envoyer une entrée) et la littératie à analyser la sortie renvoyée par le chatbot.

Les deux ne vont pas forcément ensemble, notamment chez les novices et les utilisateurs intensifs naïfs. Les experts eux vont vérifier ailleurs, confronter l'IA, et choisissent des IA différentes selon les tâches.

Quand les gens publient leurs problèmes et questions sur des espaces ouverts (forums...), les réponses bénéficient à toustes, et les gens savent sur quoi les autres s'interrogent. Quand les gens interrogent un chatbot, la réponse est privée,et seule l'entreprise du chatbot a accès aux questions des gens.

En accédant à un grand volume de questions, l'entreprise améliore ses réponses, rend son chatbot incontournable et justifie qu'on y prenne un abonnement payant. Les bénéfices économiques sont exclusivement pour l'entreprise du chatbot, alors qu'avant ils étaient pour toustes.

Note : c'est ce qui se passe avec Gmail. Gmail a tellement de données d'utilisation, qu'il a un avantage indépassable pour faire le meilleur service mail

Un cours de 4 séances sur À quoi servent les IA génératives, à destination d'étudiants et d’étudiantes. Les séances abordent comment ça marche en théorie, en pratique, à quoi ça peut servir et à quoi ça ne peut pas servir. Réalisé par un traducteur, journaliste et prof.

Anecdote : j'avais partagé la présente de base de liens à l'été 2025 sur Masto et l'auteur des slides avait littéralement dit que ça allait lui servir pour ses cours... que je remets dans la base. L'économie circulaire de l'information 🥲