Comprendre l'IA

L'opposition aux datacenters, à l'IA et aux PDG n'est pas un phénomène minoritaire aux États-Unis. Compiler les sondages disponibles révèle que les états-uniens ne veulent pas de datacenter près de chez eux, n'ont pas confiance dans l'IA et détestent les PDG de la tech. Ces sentiments sont partagés quel que soit la sensibilité politique. Des groupes locaux s'opposant aux datacenters se développent rapidement.

Cependant, il reste des inconnues. 1) On n'a pas d'études antérieures sur le sentiment vis-à-vis des datacenters pour comparer. 2) Il y a des corrélations entre rejet des PDG, de l'IA et des centres, mais on ignore les causalités. 3) On ne sait pas si l'opposition s'appuie sur des avis éclairés ou pas. Selon la réponse, elle peut durer ou disparaître. 4) L'IA n'a jamais été un enjeu électoral jusqu'ici. Impossible de savoir si l'opposition va se traduire dans les votes.

La diversité des sondages, des méthodes, des formulations, des moments et lieux où ils ont été administrés montre que l'opposition est massive. Mais elle n'a pas lieu dans les écoles de sciences et tech (STEM). Aussi, les étudiants critiquent l'IA depuis leur expérience intime de l'IA, pas par ignorance.

La conclusion de l'article rappelle les conditions dans lesquelles l'IA a été imposée, et interroge leur influence sur l'état actuel de l'opinion, qui n'est pas figée.

C'est la fin de l'époque de l'IA pas chère et sans restriction. OpenAI, Anthropic, Microsoft : toutes les grandes compagnies implémentent des limites d'usages sur leurs modèles. En parallèle, les prix des produits qui implémentent l'IA (Google Workspace, Notion, Microsoft 365) augmentent, le prix du matériel (RAM, GPU, stockage, puces) explose, les factures d'électricté, voire d'eau, montent flèche.

Tout ça pose des problèmes à tout le monde, du citoyen dans une ville de datacenter à Apple qui a des problèmes pour fabriquer les nouveaux iPhone alors que toutes les ressources partent vers l'IA.

La photographie et la vidéo ont longtemps eu valeur de preuve : c'est terminé. On peut produire du visuel à un coût dérisoire. Cette situation renforce l'impunité des puissants, qui peuvent arguer que tout ce qui les met en cause est une fabrication. Elle met en danger celles et ceux qui s'opposent à eux.

Le système de diffusion de l'information basé sur des journalistes garants de la qualité et la vérité de l'info se délite. L'accès la réalité, à des infos vérifiées, risque de devenir un privilège de classe (payant). Le reste de citoyens évoluant alors dans un magma indistinct de propagande, de fabrication et de vraies informations.

Une solution technique serait de signer cryptographiquement tous les médias (par exemple directement depuis l'appareil). Mais c'est une transition lente, qui demande beaucoup d'éducation, de compétences et des choix politiques.

L'usage de l'IA pour générer du code crée trois dettes techniques : dette cognitive (code livré sans avoir été compris), dette de vérification (code approuvé sans être lu) et dette architecturale (code qui enfreint les règles de de design du système).

Après 6 mois d'extase à génerer vite, la boite de l'auteur a dû stopper toute livraison de code pendant 3 semaines pour recomprendre son code. Il donne des règles sur comment utiliser l'IA pour coder en réduisant les écueils.

Il dit aussi que son équipe a perdu l'impression d'être des artisans, que du code IA pas compris ne peut pas etre corrigé en urgence, et que l'IA a rendu le debugging et la compréhension plus longue, alors que c'était déjà long. Parce que le code c'est d'abord une logique implémentée dans l'esprit d'un programmeur, pas du texte.

Les LLM peuvent produire du texte (communiquer), mais pas informer (dire des choses vraies sur le réel). Leur fonctionnement repose sur une notion du sens des mots détachée du rapport au monde et à la vérité, et qui n'est pas celle que mobilisent les êtres humains.

Les "hallucinations" sont techniquement indistinctes des textes qui semblent "vrais" : elles opèrent selon le fonctionnement normal des LLM, et ne pourront jamais disparaitre à 100%. Les stratégies pour réduire ce problème (dont RAG) sont donc fragiles, coûteuses et inefficaces, car elles ignorent l'impasse conceptuelle.

Les usages informationnels qui nécessitent une fiabilité garantie (100%) ne pourront jamais être satisfaits par des LLM. Un LLM peut seulement "communiquer", c'est-à-dire produire des phrases qui visent à avoir un impact (convaincre, faire agir, etc.), sans prétendre à être vraies. Du bullshit.

Sam Altman veut faire de l'intelligence une matière première facturée avec un compteur, comme l'eau et l'électricité. Ce qui implique au fond qu'elle soit subventionnée par l'État à terme.

Plus profondément, vendre de l'intelligence comme matière première suppose une raréfaction de l'intelligence humaine. Moins il y a d''intelligence disponible (via l'éducation, l'entraînement des capacités cognitives, etc.), plus on peut vendre de l'intelligence.

Les gens utilisent de plus en plus l'IA pour chercher des informations, mais souvent en utilisant aussi la recherche classique. L'IA est plébiscitée parce qu'elle réduit le coût d'interaction (clics, scan de page) et l'effort cognitif pour des tâches complexes.

Elle pallie des limites de la recherche classique, qui marche mal quand on doit combiner plusieurs critères (prix, lieu, etc.) ou qu'on ne sait pas décrire ce qu'on cherche. Trouver les mots-clés, formuler les requêtes, naviguer dans les résultats : tout ça n'est pas facile.

La recherche classique sert à valider des informations, parce qu'elle est jugé plus fiable que l'IA (notamment sur les prix). Quand le sujet est important pour la personne, l'IA ne lui suffit pas. Les personnes évitent l'IA pour les recherches très pointues ou sur des sujets universitaires.

La banque d'investissement Goldman Sachs lance un indice boursier pour permettre d'investir dans tout ce qui n'a aucun rapport à l'IA ("l'ancienne économie"). La hype IA produit trop de bruit et trop de concentration : l'index boursier standard ne contient plus que des valeurs tech, ce qui compromet la sécurité des fonds de pensions (conçus pour limiter les risques en investissant dans des champs très divers).

La création de cet indice est perçue par les critique de l'IA comme la matérialisation d'une demande pour du non-IA et la preuve que tout ça est en train de s'écrouler.

Les promoteurs de l'IA constatent que les gens résistent à leur produit et que les critiques de l'IA gagnent la bataille du récit. Le boom de l'IA rencontre une hostilité inédite par rapport aux booms technologiques et financiers précédents, attestée plusieurs sources.

Le boom de l'IA ne s'accompagne pas d'un enthousiasme massif, mais d'une indifférence et d'un rejet. Avant, un boom était lié à des effets positifs sur le réel : avec les cryptos puis l'IA, les booms financiers se détachent du réel. La promesse d'un effet suffit à alimenter le boom.

En parallèle, l'IA est imposée aux masses, les centres de données aussi... Et les gens ne voient pas toujours d'impact positif sur leur vies... Alors les promoteurs de l'IA font des annonces objectivement anxiogènes ("On n'aura plus besoin des humains").

L'IA alimente et accentue un backclash général contre les sociétés de technologies, qui craignent de perdre "la tolérance sociale" qui leur a permis d'agir jusqu'ici sans contraintes ni comptes à rendre.

Un éditeur de jeux vidéo découvre que les publicités qu'il diffuse sur TikTok sont modifiées par TikTok via IA, sans autorisation, et que le remixes sont racistes et sexistes. L'éditeur n'a pas du tout accès aux remixes - sauf via des screenshots fournis par les internautes.

TikTok commence par nier les faits, puis admet que c'est une option sans opt-out pour "améliorer" les pubs et sélectionner celles qui marchent. Ils annoncent que le problème sera escaladé à un directeur senior, puis finissent par dire que non, parce qu'il n'y a aucune procédure pour.

Aucune excuse, aucun changement prévu, la dimension raciste et sexiste des pubs remixées n'a pas été abordée par TikTok.

La littératie IA devient une composante de la littératie numérique en générale. On peut distinguer la littératie à prompter (envoyer une entrée) et la littératie à analyser la sortie renvoyée par le chatbot.

Les deux ne vont pas forcément ensemble, notamment chez les novices et les utilisateurs intensifs naïfs. Les experts eux vont vérifier ailleurs, confronter l'IA, et choisissent des IA différentes selon les tâches.