Les médecins enregistrent leurs compte-rendus en audio, et les font habituellement transcrire par des secrétaires médicales. Des hôpitaux ont voulu remplacer les secrétaires par les IA pour effectuer la transcription. Une IA basée sur ChatGPT.
Soucis: Dans 1% des cas, l'IA a complètement halluciné du texte et a écrit dans le compte-rendu des choses que le médecin n'avait jamais dites. Sachant que ces comptes-rendus engagent légalement les médecins, c'est assez problématique. Et comme ChatGPT a été entrainé entre autres sur des millions d'heures de YouTube, dans certains cas les comptes-rendus contenaient le texte "Merci d'avoir regardé ma vidéo !".
Un pourcent ça semble peu, mais vu que l'entreprise se vante d'avoir déjà transcrit 7 millions de comptes-rendus, je vous laisse calculer le nombre de patients impactés...
(En même temps, c'est la nature même des LLM : Pondre à n'importe quel prix du texte.)
(Permalink)