Les appels à réguler l'IA sans refuser l'IA sont sur une ligne intenable. Il supposent que la technologie est neutre, alors qu'elle est produite une société donnée, pour servir ses besoins. Or notre société est organisée autour de l'accumulation de capital, pas autour des besoins humains ou des contraintes naturelles.

La recherche, le financement et le développement des IA répond à un besoin majeur du capital : relancer le taux de profit, au moyen de l'automatisation. Ces dernières décennies, le système capitaliste n'arrive plus à produire des gains de productivité (l'innovation coûte cher).

L'IA répond au besoin du capital, mais en l'imposant partout, on en en fait un besoin social, accepté et voulu par les humains. Les gens pensent que c'est "utile" et imaginent qu'on pourrait avoir une IA sans les "dérives". Mais l'usage militaire de l'IA et la désinformation sont une fuite en avance nécessaire pour le capital.

La guerre est une réponse classique au ralentissement de la croissance. La falsification du réel permet d'imposer l'idée que l'IA est un besoin essentiel pour l'humain... Alors qu'en réalité, elle aggrave les crises contemporaines. Sans mensonge, pas d'IA.

Les appels à réguler l'IA passent à coté du problème. Le prix de la production de richesse capitaliste est aujourd'hui la destruction (écologique, humaine, sociale...). Et on ne régule pas la destruction, on la combat.

Comme moyen de la destruction, l'IA n'est d'ailleurs même pas "régulable". L'industrie numérique de ne va pas se saborder d'elle-même, et les États sont en voie de fusion avec le capital privé : leurs intérêts convergent.

Every conversation about the potential usefulness of AI, divorced from ethical concerns, is just this @dril tweet :

A famous 2014 tweet from @dril, that reads:

drunk driving may kill a lot of people, but it also helps a lot of people get to work on time, so, it;s impossible to say if its bad or not,

Les AIg sont facilement manipulables via Reddit, Quora ou Wikipédia pour faire du GEO. Des chercheurs ont réussi à faire apparaître des fausses marques dans les IAg après avoir injecté des références à ces fausses marques sur Reddit via des messages très courts.

Le problème est sociétal et ne pourra pas être résolu par les plateformes seules. Le fait que les IAg ne distinguent pas un commentaire sur un site participatif d'une source fiable est en soi un sujet sur la fiabilité de leurs sorties.

Selon enquête auprès de 6000 professionnels du numérique anglosaxons, le temps passé à baby-sitter les IA (botsitting) pour rendre leurs résultats utilisables représente un coût caché important. Pour 11h de gagné "grâce à l'IA", il y a 6,4h de botsitting. Un botsitting qui peut représenter 2/3 du temps passé avec l'IA, et épuise mentalement.

Les 69% des sondés utilisant l'IA pratiquent aussi le "botshitting" : livrer de la merde (shit) directement sortie de l'IA, non relue non comprise. Mais plus l'IA est performante, plus le travailleur est négligent et perd en compétence...

Les utilisateurs de l'IA rejettent facilement la responsabilité de leurs erreurs sur l'IA. Mais iels perdent en crédibilité aux yeux de leurs collègues, dont certains doivent travailler plus pour compenser la qualité de livrables IA. Le gain de productivité individuel se fait au détriment du collectif : empilement d'erreurs non détectées, perte de contrôle qualité, etc.

Paradoxalement, les personnes qui ont le plus peur d'être remplacé par l'IA sont celles qui l'utilisent le plus et se sentent obligés de leur faire... pour automatiser leur travail. Quitte à cacher qu'ils utilisent l'IA à leur patron, pour éviter qu'on leur redonne encore plus de travail s'iels finissent vite leurs mission.

Les entreprises et personnes qui évitent ces risques liés aux IA consacrent plus de temps aux tâches qui entourent l'usage des IA : poser le contexte, définir les critères de réussite, choisir ce qu'on ne doit pas déléguer à l'IA... Elle voient dans l'IA une occasion de repenser le travail, pas de faire plus avec moins de personnel.

D'ailleurs, botsitting et botshitting sont plus fréquentes dans les entreprises qui ont licencié au nom de l'IA. Les licenciements créent une pression sur les personnes qui restent, qui utilisent d'autant plus l'IA (voir supra).

Impossible de mesurer le ROI de l'IA vu que les coûts réels ont volontairement été masqués par ses promoteurs. Au moment où le modèle d'affaires passe de l'abonnement à la facturation au token, les entreprises passent de l'utilisation gratuite encouragée au rejet de "l'IA pour l'IA".

Alors qu'on promettait que les problèmes allaient être réglés et l'IA devenir moins chère à produire, rien de tout ça n'est arrivé. À produire, l'IA coûte trois fois plus cher en 2026 qu'en 2023.

La comparaison avec la bulle des années 90 est trompeuse. À l'époque, des études fausses ont conduit à surdimensionner les infrastructures pour une demande inexistante. Les infras ont pu servir après, même si les business mal ficelés et irrationnels se sont écroulés – et leur surdimensionnement à cassé les prix, favorisant les business suivants.

À l'inverse, les datacenters spécialisés IA ne peuvent pas servir à grand chose d'autre. Ils coûtent cher à construire, tournent à perte pendant au moins 5-6 ans, restent coûteux à opérer, et ne sont pas rentables si les GPU ne servent pas intensivement. Sans compter que l'entraînement des modèles n'est pas gratuit en ressources.

Les licenciements IA sont bidons. Si l'IA tenait ses promesses, il y aurait des émeutes : n'importe qui pourrait fabriquer, maintenir et vendre du logiciel, et des métiers entiers disparaîtraient rapidement. Les avantages économiques de l'IA seraient flagrants et impossibles à ignorer. C'est pas ce qu'on constate.

Si l'IA était vraiment bien, y'aurait pas besoin de rassurer les gens et d'insister son potentiel : ses avantages réels seraient évidents pour tout le monde. Les gens qui vantent l'IA en entreprise n'ont pas vraiment évalué son impact. En fait il a des chances d'être négatif... Si quiconque évaluait vraiment le ROI.

Les gens qui s'appuient sur les LLM sont victimes d'une arnaque et réagissent comme tel, en défendant le produit et rejetant les critiques. Les exemples d'histoires réussies grâce à l'IA viennent soit de firmes qui participent à l'arnaque, soit masquent le travail humain qui a rattrapé les choses pour éviter un fiasco.

On donne des document à 19 modèles, avec une vingtaine d'instructions disant de les modifier. Après modification 25% à 50% du contenu a été dégradé. Si on augmente le nombre d'instructions, la dégradation continue.

Les erreurs sont rares, mais altèrent profondément la signification des documents. L'IA change des détails peu visibles, et des erreurs "silencieuses" s'accumulent ("Environ 30%" devient "30%").

Plus dangereux, une première erreur sert de fondation à l'IA lorsqu'elle repasse sur le document. "Environ 30%" devient "30%", puis devient "20%" lors d'une passe suivante. "Avant signature" devient "Après signature" [au risque que la prochaine passe réécrive tout pour coller à ce changement]

L'opposition aux datacenters, à l'IA et aux PDG n'est pas un phénomène minoritaire aux États-Unis. Compiler les sondages disponibles révèle que les états-uniens ne veulent pas de datacenter près de chez eux, n'ont pas confiance dans l'IA et détestent les PDG de la tech. Ces sentiments sont partagés quel que soit la sensibilité politique. Des groupes locaux s'opposant aux datacenters se développent rapidement.

Cependant, il reste des inconnues. 1) On n'a pas d'études antérieures sur le sentiment vis-à-vis des datacenters pour comparer. 2) Il y a des corrélations entre rejet des PDG, de l'IA et des centres, mais on ignore les causalités. 3) On ne sait pas si l'opposition s'appuie sur des avis éclairés ou pas. Selon la réponse, elle peut durer ou disparaître. 4) L'IA n'a jamais été un enjeu électoral jusqu'ici. Impossible de savoir si l'opposition va se traduire dans les votes.

La diversité des sondages, des méthodes, des formulations, des moments et lieux où ils ont été administrés montre que l'opposition est massive. Mais elle n'a pas lieu dans les écoles de sciences et tech (STEM). Aussi, les étudiants critiquent l'IA depuis leur expérience intime de l'IA, pas par ignorance.

La conclusion de l'article rappelle les conditions dans lesquelles l'IA a été imposée, et interroge leur influence sur l'état actuel de l'opinion, qui n'est pas figée.

C'est la fin de l'époque de l'IA pas chère et sans restriction. OpenAI, Anthropic, Microsoft : toutes les grandes compagnies implémentent des limites d'usages sur leurs modèles. En parallèle, les prix des produits qui implémentent l'IA (Google Workspace, Notion, Microsoft 365) augmentent, le prix du matériel (RAM, GPU, stockage, puces) explose, les factures d'électricté, voire d'eau, montent flèche.

Tout ça pose des problèmes à tout le monde, du citoyen dans une ville de datacenter à Apple qui a des problèmes pour fabriquer les nouveaux iPhone alors que toutes les ressources partent vers l'IA.

La photographie et la vidéo ont longtemps eu valeur de preuve : c'est terminé. On peut produire du visuel à un coût dérisoire. Cette situation renforce l'impunité des puissants, qui peuvent arguer que tout ce qui les met en cause est une fabrication. Elle met en danger celles et ceux qui s'opposent à eux.

Le système de diffusion de l'information basé sur des journalistes garants de la qualité et la vérité de l'info se délite. L'accès la réalité, à des infos vérifiées, risque de devenir un privilège de classe (payant). Le reste de citoyens évoluant alors dans un magma indistinct de propagande, de fabrication et de vraies informations.

Une solution technique serait de signer cryptographiquement tous les médias (par exemple directement depuis l'appareil). Mais c'est une transition lente, qui demande beaucoup d'éducation, de compétences et des choix politiques.

L'usage de l'IA pour générer du code crée trois dettes techniques : dette cognitive (code livré sans avoir été compris), dette de vérification (code approuvé sans être lu) et dette architecturale (code qui enfreint les règles de de design du système).

Après 6 mois d'extase à génerer vite, la boite de l'auteur a dû stopper toute livraison de code pendant 3 semaines pour recomprendre son code. Il donne des règles sur comment utiliser l'IA pour coder en réduisant les écueils.

Il dit aussi que son équipe a perdu l'impression d'être des artisans, que du code IA pas compris ne peut pas etre corrigé en urgence, et que l'IA a rendu le debugging et la compréhension plus longue, alors que c'était déjà long. Parce que le code c'est d'abord une logique implémentée dans l'esprit d'un programmeur, pas du texte.

Les LLM peuvent produire du texte (communiquer), mais pas informer (dire des choses vraies sur le réel). Leur fonctionnement repose sur une notion du sens des mots détachée du rapport au monde et à la vérité, et qui n'est pas celle que mobilisent les êtres humains.

Les "hallucinations" sont techniquement indistinctes des textes qui semblent "vrais" : elles opèrent selon le fonctionnement normal des LLM, et ne pourront jamais disparaitre à 100%. Les stratégies pour réduire ce problème (dont RAG) sont donc fragiles, coûteuses et inefficaces, car elles ignorent l'impasse conceptuelle.

Les usages informationnels qui nécessitent une fiabilité garantie (100%) ne pourront jamais être satisfaits par des LLM. Un LLM peut seulement "communiquer", c'est-à-dire produire des phrases qui visent à avoir un impact (convaincre, faire agir, etc.), sans prétendre à être vraies. Du bullshit.

Sam Altman veut faire de l'intelligence une matière première facturée avec un compteur, comme l'eau et l'électricité. Ce qui implique au fond qu'elle soit subventionnée par l'État à terme.

Plus profondément, vendre de l'intelligence comme matière première suppose une raréfaction de l'intelligence humaine. Moins il y a d''intelligence disponible (via l'éducation, l'entraînement des capacités cognitives, etc.), plus on peut vendre de l'intelligence.

Les gens utilisent de plus en plus l'IA pour chercher des informations, mais souvent en utilisant aussi la recherche classique. L'IA est plébiscitée parce qu'elle réduit le coût d'interaction (clics, scan de page) et l'effort cognitif pour des tâches complexes.

Elle pallie des limites de la recherche classique, qui marche mal quand on doit combiner plusieurs critères (prix, lieu, etc.) ou qu'on ne sait pas décrire ce qu'on cherche. Trouver les mots-clés, formuler les requêtes, naviguer dans les résultats : tout ça n'est pas facile.

La recherche classique sert à valider des informations, parce qu'elle est jugé plus fiable que l'IA (notamment sur les prix). Quand le sujet est important pour la personne, l'IA ne lui suffit pas. Les personnes évitent l'IA pour les recherches très pointues ou sur des sujets universitaires.