Comprendre l'IA

En 2026, la détestation de l'IA est devenu un phénomène de masse à l'échelle mondiale. La dimension politique de l'IA est nettement perçue, et l'opposition à l'IA résonne comme un nouvel acte de la lutte des classes.

Les combats contre les centre de données se multiplient, et un nouveau terrorisme pourrait apparaître. Les horizons politiques se clarifient, entre un carbofascisme dopé à l'IA, et une gauche technocritique par nature antifasciste.

Développeur senior, l'auteur n'a pas immédiatement adopté l'IA, parce qu'il était plus efficace sans. Puis il a été obligé de le faire au travail, et s'y est mis à fond. Maintenant il a décidé d'arrêter complètement.

Utiliser l'IA n'est pas sain, et même dangereux dans la vie quotidienne (il a suivi des conseils médicaux d'un LLM). Au travail, ça l'a rendu moins bon, déprimé, détaché de ce qu'il produisait – jusqu'à la crise existentielle.

Après avoir tenté d'utiliser moins l'IA au travail, il conclut que c'est pas possible. C'est tout ou rien. Désormais informé des impacts négatifs globaux de l'IA, il rejette finalement l'IA, parce qu'il ne veut pas du monde qu'elle construit.

Décrire des comportements humains et ce que font des IA avec les mêmes mots empêche de savoir ce que font vraiment ces technologies. Il faut remplacer le langage anthropomorphisant appliqué à l'IA par des alternatives descriptives – même si c'est socialement difficile.

On peut parler de l’industrie de l'IA ou de l'IA comme idéologie, mais "intelligence artificielle" est en soi un mot à éviter pour décrire des technologies. Ces outils ne pensent pas, n'ont pas d'émotion, ne "communiquent" pas avec nous, et n'ont pas d'agentivité. Il faut refuser les métaphores qui les comparent à des humains ("tuteur IA", "Claude", "il" ou "elle"...).

Les autrices proposent des alternatives (je traduis) :

Intelligence artificielle → Automatisation probabiliste Reconnaissance d'image → Étiquetage d'image Reconnaissance de texte → Transcription automatique Hallucination → Sortie indésirable Objectif → Critère de réussite

Prompt → Texte d'entrée Réponse → Sortie Chatbot / Agent conversationnel → Simulateur de discussion Agent IA → Manipulateur de logiciel probabiliste et sans vérification

Qui dit vrai ? → La sortie machine est-elle correcte ? L'IA a produit les résultats → L'équipe a utilisé [le système] pour produire les résultats Réseau de neurones → Réseau pondéré Le modèle avale des données → Les données sont utilisées pour la pondération du modèle

Il y a trois positions de gauche face à l'IA générative. Vouloir la réguler pour limiter ses aspects nocifs ; vouloir l'utiliser pour sortir du capitalisme ; ou la combattre purement et simplement, en tant qu'outil de domination d'une nouvelle forme de capitalisme. Romaric Godin a déjà rejeté la régulation dans un autre texte, ici il rejette l'utilisation pour dépasser le capitalisme.

L'IAg est le produit d'une société et d'une époque capitaliste. Retourner l'IAg contre le capitalisme demande de modifier les rapports de propriété au sein de la société, sinon ça ne marche pas. Depuis que la gauche adopte les "innovations" capitalistes sans broncher, elle accumule les défaites. Ce n'est pas un hasard si la gauche est mise en minorité sur des réseaux sociaux capitalistes.

Aujourd'hui, l'IAg sert à organiser le déni des crises économiques, anthropologiques et écologiques. Elle déshumanise les activités et renforce l'atomisation les individus, qui ne sont plus reliés que par l'intermédiaire de l'IAg. C'est outil qui décuple l'aliénation, la passivité, et qui veut nous convaincre qu'il n'y a pas de de vie possible sans lui, c'est-à-dire sans le capitalisme.

Adopter l'IAg dans ce contexte pourrait sceller la victoire définitive du capitalisme. C'est seulement depuis une nouvelle société non-capitaliste qu'on pourrait réévaluer l'IAg, pour savoir si elle peut être "retournée" et servir les besoins de cette nouvelle société. Mais une telle IAg serait de fait différente de ce qu'on connaît aujourd'hui.

Dans le contexte actuel, le refus de l'IAg n'est pas une posture morale, un refus de la réalité, ou un retrait du monde. C'est la conscience de la réalité concrète – celle que nie l'IAg – et une pratique de refus de l'aliénation. Mais pour être efficace, ce refus doit servir à construire un mouvement social de lutte contre l'ordre capitaliste et la destruction qui l'accompagne.

The underlying purpose of AI is to allow wealth to access skill, while removing from the skilled the ability to access wealth.”

— Joseph Browning via Facebook (10 July 2024) cited by jeffowski on Mastodon & Twitter

Resumé de la présente base de résumés. L'IA n'est pas une technologie. Elle relève d'un projet politique et économique, qui répond aux difficultés du capitalisme contemporain. L'IA sert le d'abord le capital et les capitalistes, même quand elle est utile à d'autres.

Les conditions matérielles (exploitation, extraction, colonialisme, etc.) qui rendent possibles l'IA font qu'il n'y aura jamais de "bonne" IA. Malgré cela, l'IA semble là pour rester, même si les bulles IA interrogent l'avenir de l'IA telle qu'on la connait.

Les appels à réguler l'IA sans refuser l'IA sont sur une ligne intenable. Il supposent que la technologie est neutre, alors qu'elle est produite une société donnée, pour servir ses besoins. Or notre société est organisée autour de l'accumulation de capital, pas autour des besoins humains ou des contraintes naturelles.

La recherche, le financement et le développement des IA répond à un besoin majeur du capital : relancer le taux de profit, au moyen de l'automatisation. Ces dernières décennies, le système capitaliste n'arrive plus à produire des gains de productivité (l'innovation coûte cher).

L'IA répond au besoin du capital, mais en l'imposant partout, on en en fait un besoin social, accepté et voulu par les humains. Les gens pensent que c'est "utile" et imaginent qu'on pourrait avoir une IA sans les "dérives". Mais l'usage militaire de l'IA et la désinformation sont une fuite en avance nécessaire pour le capital.

La guerre est une réponse classique au ralentissement de la croissance. La falsification du réel permet d'imposer l'idée que l'IA est un besoin essentiel pour l'humain... Alors qu'en réalité, elle aggrave les crises contemporaines. Sans mensonge, pas d'IA.

Les appels à réguler l'IA passent à coté du problème. Le prix de la production de richesse capitaliste est aujourd'hui la destruction (écologique, humaine, sociale...). Et on ne régule pas la destruction, on la combat.

Comme moyen de la destruction, l'IA n'est d'ailleurs même pas "régulable". L'industrie numérique de ne va pas se saborder d'elle-même, et les États sont en voie de fusion avec le capital privé : leurs intérêts convergent.

Every conversation about the potential usefulness of AI, divorced from ethical concerns, is just this @dril tweet :

A famous 2014 tweet from @dril, that reads:

drunk driving may kill a lot of people, but it also helps a lot of people get to work on time, so, it;s impossible to say if its bad or not,

Les AIg sont facilement manipulables via Reddit, Quora ou Wikipédia pour faire du GEO. Des chercheurs ont réussi à faire apparaître des fausses marques dans les IAg après avoir injecté des références à ces fausses marques sur Reddit via des messages très courts.

Le problème est sociétal et ne pourra pas être résolu par les plateformes seules. Le fait que les IAg ne distinguent pas un commentaire sur un site participatif d'une source fiable est en soi un sujet sur la fiabilité de leurs sorties.

Selon enquête auprès de 6000 professionnels du numérique anglosaxons, le temps passé à baby-sitter les IA (botsitting) pour rendre leurs résultats utilisables représente un coût caché important. Pour 11h de gagné "grâce à l'IA", il y a 6,4h de botsitting. Un botsitting qui peut représenter 2/3 du temps passé avec l'IA, et épuise mentalement.

Les 69% des sondés utilisant l'IA pratiquent aussi le "botshitting" : livrer de la merde (shit) directement sortie de l'IA, non relue non comprise. Mais plus l'IA est performante, plus le travailleur est négligent et perd en compétence...

Les utilisateurs de l'IA rejettent facilement la responsabilité de leurs erreurs sur l'IA. Mais iels perdent en crédibilité aux yeux de leurs collègues, dont certains doivent travailler plus pour compenser la qualité de livrables IA. Le gain de productivité individuel se fait au détriment du collectif : empilement d'erreurs non détectées, perte de contrôle qualité, etc.

Paradoxalement, les personnes qui ont le plus peur d'être remplacé par l'IA sont celles qui l'utilisent le plus et se sentent obligés de leur faire... pour automatiser leur travail. Quitte à cacher qu'ils utilisent l'IA à leur patron, pour éviter qu'on leur redonne encore plus de travail s'iels finissent vite leurs mission.

Les entreprises et personnes qui évitent ces risques liés aux IA consacrent plus de temps aux tâches qui entourent l'usage des IA : poser le contexte, définir les critères de réussite, choisir ce qu'on ne doit pas déléguer à l'IA... Elle voient dans l'IA une occasion de repenser le travail, pas de faire plus avec moins de personnel.

D'ailleurs, botsitting et botshitting sont plus fréquentes dans les entreprises qui ont licencié au nom de l'IA. Les licenciements créent une pression sur les personnes qui restent, qui utilisent d'autant plus l'IA (voir supra).

Impossible de mesurer le ROI de l'IA vu que les coûts réels ont volontairement été masqués par ses promoteurs. Au moment où le modèle d'affaires passe de l'abonnement à la facturation au token, les entreprises passent de l'utilisation gratuite encouragée au rejet de "l'IA pour l'IA".

Alors qu'on promettait que les problèmes allaient être réglés et l'IA devenir moins chère à produire, rien de tout ça n'est arrivé. À produire, l'IA coûte trois fois plus cher en 2026 qu'en 2023.

La comparaison avec la bulle des années 90 est trompeuse. À l'époque, des études fausses ont conduit à surdimensionner les infrastructures pour une demande inexistante. Les infras ont pu servir après, même si les business mal ficelés et irrationnels se sont écroulés – et leur surdimensionnement à cassé les prix, favorisant les business suivants.

À l'inverse, les datacenters spécialisés IA ne peuvent pas servir à grand chose d'autre. Ils coûtent cher à construire, tournent à perte pendant au moins 5-6 ans, restent coûteux à opérer, et ne sont pas rentables si les GPU ne servent pas intensivement. Sans compter que l'entraînement des modèles n'est pas gratuit en ressources.

Les licenciements IA sont bidons. Si l'IA tenait ses promesses, il y aurait des émeutes : n'importe qui pourrait fabriquer, maintenir et vendre du logiciel, et des métiers entiers disparaîtraient rapidement. Les avantages économiques de l'IA seraient flagrants et impossibles à ignorer. C'est pas ce qu'on constate.

Si l'IA était vraiment bien, y'aurait pas besoin de rassurer les gens et d'insister son potentiel : ses avantages réels seraient évidents pour tout le monde. Les gens qui vantent l'IA en entreprise n'ont pas vraiment évalué son impact. En fait il a des chances d'être négatif... Si quiconque évaluait vraiment le ROI.

Les gens qui s'appuient sur les LLM sont victimes d'une arnaque et réagissent comme tel, en défendant le produit et rejetant les critiques. Les exemples d'histoires réussies grâce à l'IA viennent soit de firmes qui participent à l'arnaque, soit masquent le travail humain qui a rattrapé les choses pour éviter un fiasco.

On donne des document à 19 modèles, avec une vingtaine d'instructions disant de les modifier. Après modification 25% à 50% du contenu a été dégradé. Si on augmente le nombre d'instructions, la dégradation continue.

Les erreurs sont rares, mais altèrent profondément la signification des documents. L'IA change des détails peu visibles, et des erreurs "silencieuses" s'accumulent ("Environ 30%" devient "30%").

Plus dangereux, une première erreur sert de fondation à l'IA lorsqu'elle repasse sur le document. "Environ 30%" devient "30%", puis devient "20%" lors d'une passe suivante. "Avant signature" devient "Après signature" [au risque que la prochaine passe réécrive tout pour coller à ce changement]

L'opposition aux datacenters, à l'IA et aux PDG n'est pas un phénomène minoritaire aux États-Unis. Compiler les sondages disponibles révèle que les états-uniens ne veulent pas de datacenter près de chez eux, n'ont pas confiance dans l'IA et détestent les PDG de la tech. Ces sentiments sont partagés quel que soit la sensibilité politique. Des groupes locaux s'opposant aux datacenters se développent rapidement.

Cependant, il reste des inconnues. 1) On n'a pas d'études antérieures sur le sentiment vis-à-vis des datacenters pour comparer. 2) Il y a des corrélations entre rejet des PDG, de l'IA et des centres, mais on ignore les causalités. 3) On ne sait pas si l'opposition s'appuie sur des avis éclairés ou pas. Selon la réponse, elle peut durer ou disparaître. 4) L'IA n'a jamais été un enjeu électoral jusqu'ici. Impossible de savoir si l'opposition va se traduire dans les votes.

La diversité des sondages, des méthodes, des formulations, des moments et lieux où ils ont été administrés montre que l'opposition est massive. Mais elle n'a pas lieu dans les écoles de sciences et tech (STEM). Aussi, les étudiants critiquent l'IA depuis leur expérience intime de l'IA, pas par ignorance.

La conclusion de l'article rappelle les conditions dans lesquelles l'IA a été imposée, et interroge leur influence sur l'état actuel de l'opinion, qui n'est pas figée.

C'est la fin de l'époque de l'IA pas chère et sans restriction. OpenAI, Anthropic, Microsoft : toutes les grandes compagnies implémentent des limites d'usages sur leurs modèles. En parallèle, les prix des produits qui implémentent l'IA (Google Workspace, Notion, Microsoft 365) augmentent, le prix du matériel (RAM, GPU, stockage, puces) explose, les factures d'électricté, voire d'eau, montent flèche.

Tout ça pose des problèmes à tout le monde, du citoyen dans une ville de datacenter à Apple qui a des problèmes pour fabriquer les nouveaux iPhone alors que toutes les ressources partent vers l'IA.

La photographie et la vidéo ont longtemps eu valeur de preuve : c'est terminé. On peut produire du visuel à un coût dérisoire. Cette situation renforce l'impunité des puissants, qui peuvent arguer que tout ce qui les met en cause est une fabrication. Elle met en danger celles et ceux qui s'opposent à eux.

Le système de diffusion de l'information basé sur des journalistes garants de la qualité et la vérité de l'info se délite. L'accès la réalité, à des infos vérifiées, risque de devenir un privilège de classe (payant). Le reste de citoyens évoluant alors dans un magma indistinct de propagande, de fabrication et de vraies informations.

Une solution technique serait de signer cryptographiquement tous les médias (par exemple directement depuis l'appareil). Mais c'est une transition lente, qui demande beaucoup d'éducation, de compétences et des choix politiques.