Les LLM peuvent produire du texte (communiquer), mais pas informer (dire des choses vraies sur le réel). Leur fonctionnement repose sur une notion du sens des mots détachée du rapport au monde et à la vérité, et qui n'est pas celle que mobilisent les êtres humains.

Les "hallucinations" sont techniquement indistinctes des textes qui semblent "vrais" : elles opèrent selon le fonctionnement normal des LLM, et ne pourront jamais disparaitre à 100%. Les stratégies pour réduire ce problème (dont RAG) sont donc fragiles, coûteuses et inefficaces, car elles ignorent l'impasse conceptuelle.

Les usages informationnels qui nécessitent une fiabilité garantie (100%) ne pourront jamais être satisfaits par des LLM. Un LLM peut seulement "communiquer", c'est-à-dire produire des phrases qui visent à avoir un impact (convaincre, faire agir, etc.), sans prétendre à être vraies. Du bullshit.