Selon enquête auprès de 6000 professionnels du numérique anglosaxons, le temps passé à baby-sitter les IA (botsitting) pour rendre leurs résultats utilisables représente un coût caché important. Pour 11h de gagné "grâce à l'IA", il y a 6,4h de botsitting. Un botsitting qui peut représenter 2/3 du temps passé avec l'IA, et épuise mentalement.

Les 69% des sondés utilisant l'IA pratiquent aussi le "botshitting" : livrer de la merde (shit) directement sortie de l'IA, non relue non comprise. Mais plus l'IA est performante, plus le travailleur est négligent et perd en compétence...

Les utilisateurs de l'IA rejettent facilement la responsabilité de leurs erreurs sur l'IA. Mais iels perdent en crédibilité aux yeux de leurs collègues, dont certains doivent travailler plus pour compenser la qualité de livrables IA. Le gain de productivité individuel se fait au détriment du collectif : empilement d'erreurs non détectées, perte de contrôle qualité, etc.

Paradoxalement, les personnes qui ont le plus peur d'être remplacé par l'IA sont celles qui l'utilisent le plus et se sentent obligés de leur faire... pour automatiser leur travail. Quitte à cacher qu'ils utilisent l'IA à leur patron, pour éviter qu'on leur redonne encore plus de travail s'iels finissent vite leurs mission.

Les entreprises et personnes qui évitent ces risques liés aux IA consacrent plus de temps aux tâches qui entourent l'usage des IA : poser le contexte, définir les critères de réussite, choisir ce qu'on ne doit pas déléguer à l'IA... Elle voient dans l'IA une occasion de repenser le travail, pas de faire plus avec moins de personnel.

D'ailleurs, botsitting et botshitting sont plus fréquentes dans les entreprises qui ont licencié au nom de l'IA. Les licenciements créent une pression sur les personnes qui restent, qui utilisent d'autant plus l'IA (voir supra).

L'usage de l'IA pour générer du code crée trois dettes techniques : dette cognitive (code livré sans avoir été compris), dette de vérification (code approuvé sans être lu) et dette architecturale (code qui enfreint les règles de de design du système).

Après 6 mois d'extase à génerer vite, la boite de l'auteur a dû stopper toute livraison de code pendant 3 semaines pour recomprendre son code. Il donne des règles sur comment utiliser l'IA pour coder en réduisant les écueils.

Il dit aussi que son équipe a perdu l'impression d'être des artisans, que du code IA pas compris ne peut pas etre corrigé en urgence, et que l'IA a rendu le debugging et la compréhension plus longue, alors que c'était déjà long. Parce que le code c'est d'abord une logique implémentée dans l'esprit d'un programmeur, pas du texte.

Quand les gens publient leurs problèmes et questions sur des espaces ouverts (forums...), les réponses bénéficient à toustes, et les gens savent sur quoi les autres s'interrogent. Quand les gens interrogent un chatbot, la réponse est privée,et seule l'entreprise du chatbot a accès aux questions des gens.

En accédant à un grand volume de questions, l'entreprise améliore ses réponses, rend son chatbot incontournable et justifie qu'on y prenne un abonnement payant. Les bénéfices économiques sont exclusivement pour l'entreprise du chatbot, alors qu'avant ils étaient pour toustes.

Note : c'est ce qui se passe avec Gmail. Gmail a tellement de données d'utilisation, qu'il a un avantage indépassable pour faire le meilleur service mail

Les traducteurs et traductrices sont spécialement touchés par l'IA, alors qu'elle n'apporte presque rien de plus que les technos précédentes (qui menaçaient déjà leur job). Mais la hype constante aide à couper leur salaire et à supporter les mauvaises traductions.

Des groupes s'organisent pour lutter contre ça, parce qu'on perd quelque chose si on ne traduit plus rien correctement. La suite de l'article est une série de témoignages de traducteurices.

On ne peut pas "mettre des humains" pour vérifier le travail d'un IA ou limiter ses erreurs. Soit on automatise tout, soit on fait tout à main. Évaluer un résultat suppose de comprendre ce qu'a fait la machine et pourquoi : l'humain doit repenser toute la tâche lui-même pour l'évaluer.

De plus, les LLM génèrent des résultats plausibles, qu'ils découragent de vérifier : ils rendent la tâche encore plus difficile, alors que les humains ne sont pas doués pour inspecter des erreurs (lire du code est plus dur que de l'écrire).