Une étude faite en allemand montre que les résumés IA de Google citent YouTube comme première source (4,4% des citations). Même si les 25 vidéos les plus citées viennent à 95% de chaînes YouTube dédiées à la santé, ces vidéos représentent moins de 1% de toutes les vidéos YouTube citées. La deuxième source la plus citée est le site public allemand dédié à l'information en santé (3%) et un site de référence en santé (2%).

Flesh and blood therapists paste what patients say to AI chatbot and paste them back the AI answer.

Une équipe Google publie un préprint où elle démontre l'usage de son IA pour la médecine, mais l'article parle de "basilar ganglion", un terme qui n'existe pas. Alertée, elle corrige discrètement le terme dans sa communication, mais pas dans l'article scientifique, qui reste un préprint.

Les outils boostés à l'IA baissent significativement les capacités du personnel médical à détecter lui-même les signes de cancer. Après l'exposition à l'IA pendant une bonne période, le taux de détection fait avec des outils sans IA baisse significativement. Les personnels pourraient se reposer sur l'outil, être moins motivés, moins concentrés et moins responsables lorsqu'ils prennent des décisions cognitives sans l'aide de l'IA. Un problème, d'autant que l'outil fait beaucoup de faux positifs, provoquant des interventions inutiles.