IA générative en médecine : usages utiles et risques réels

ChatGPT, Gemini ou Claude sont désormais ouverts sur de nombreux postes de cabinets et de services hospitaliers, au Maroc comme ailleurs. Rédiger un courrier, reformuler une explication pour un patient, résumer un article : ces outils rendent des services réels. Mais ils peuvent aussi produire des erreurs convaincantes et exposer des données couvertes par le secret médical. Voici un état des lieux pragmatique, à partir des repères publiés par l'Organisation mondiale de la santé (OMS) et de la littérature récente.

Ce que sont (et ne sont pas) ces outils

Les modèles de langage génératifs prédisent une suite de mots plausible à partir d'une consigne. Ils ne consultent pas un référentiel médical validé à chaque réponse et ne « savent » pas si ce qu'ils écrivent est vrai. C'est ce qui explique à la fois leur fluidité et leur principal défaut : une réponse peut être parfaitement rédigée et factuellement fausse.

Le 18 janvier 2024, l'OMS a publié des lignes directrices consacrées aux « grands modèles multimodaux » (LMM) en santé, la famille technologique à laquelle appartiennent ces assistants. Le document formule plus de 40 recommandations à destination des gouvernements, des entreprises technologiques et des prestataires de soins. Il identifie plusieurs champs d'application — diagnostic et soins cliniques, usage par les patients, tâches administratives, formation médicale et infirmière, recherche — et met en garde contre les réponses fausses ou biaisées, ainsi que contre le « biais d'automatisation », c'est-à-dire la tendance à faire trop confiance à la machine.

Les usages qui apportent un vrai bénéfice

Les usages les plus sûrs sont ceux où le médecin reste l'auteur et le vérificateur final, et où aucune donnée identifiante n'est transmise :

Rédaction et reformulation : brouillon de courrier à un confrère, de lettre administrative, de note d'information générale, que le praticien relit et corrige.
Explications pour les patients : reformuler une notion (par exemple ce qu'est une IRM) dans un langage simple, en français ou en arabe, avant validation.
Synthèse documentaire : résumer un texte que l'on fournit soi-même (une recommandation, un article), plutôt que demander à l'outil de « citer des sources ».
Structuration : transformer des notes en plan de compte rendu, proposer une trame de rapport ou de protocole interne.
Préparation pédagogique : questions d'entraînement, cas cliniques fictifs pour l'enseignement.

Dans tous ces cas, l'outil fait gagner du temps sur la forme ; le fond reste sous la responsabilité du professionnel.

Les risques à connaître

Erreurs plausibles et références inventées

Une étude publiée dans Cureus en 2023 a demandé à ChatGPT (version 3.5) de produire 30 courts textes médicaux avec références : sur 115 références générées, 47 % étaient inventées, 46 % authentiques mais inexactes, et seulement 7 % authentiques et exactes. Les versions récentes ont progressé, mais le principe demeure : toute référence, posologie ou affirmation chiffrée doit être vérifiée à la source.

Sensibilité aux informations erronées

En 2025, une équipe du Mount Sinai a publié dans Communications Medicine une analyse de 300 vignettes cliniques contenant chacune un détail inventé (un examen biologique ou un signe qui n'existe pas). Selon les modèles et les conditions, les assistants ont repris ou développé le faux détail dans une large part des cas, jusqu'à 83 %. Une consigne de prudence réduisait nettement ces erreurs sans les supprimer.

Secret médical et données personnelles

Coller un dossier patient dans un service en ligne revient à transmettre des données de santé à un tiers, souvent hébergé hors du pays. Au Maroc, la loi 09-08 classe les données de santé parmi les données sensibles, et l'article 446 du Code pénal sanctionne la violation du secret professionnel. En mars 2025, la Commission nationale de contrôle de la protection des données à caractère personnel (CNDP) a rappelé que les systèmes d'IA traitant des données personnelles relèvent pleinement de la loi 09-08.

Responsabilité

Aucun de ces assistants grand public n'est un dispositif médical validé pour le diagnostic. Le médecin qui s'appuie sur une réponse reste responsable de la décision.

Tableau de synthèse

Usage	Niveau de risque	Condition minimale
Courrier, note administrative	Faible	Relecture, aucune donnée identifiante
Explication patient	Modéré	Validation médicale du contenu
Résumé d'un texte fourni	Modéré	Comparaison avec l'original
Aide au diagnostic, posologie	Élevé	Vérification systématique dans une source de référence
Analyse d'un dossier patient réel	Élevé	Anonymisation préalable ou outil local

Comment encadrer l'usage dans un cabinet ou une clinique

Plutôt que d'interdire ou de laisser faire, de nombreux établissements choisissent de formaliser quelques règles simples : liste des usages autorisés, interdiction de saisir des données identifiantes dans un service en ligne, obligation de relecture, et formation courte des équipes aux limites des outils. Les lignes directrices de l'OMS insistent aussi sur la transparence vis-à-vis des patients lorsque l'IA intervient dans leur prise en charge.

Pour les tâches qui impliquent des données réelles, deux approches se développent : l'anonymisation sur le poste avant tout envoi, ou l'utilisation de modèles qui tournent localement, sans transmission à un serveur externe.

En pratique

Utilisez l'IA générative pour la forme (rédaction, reformulation, structure), jamais comme source de vérité clinique.
Vérifiez chaque référence, chiffre ou posologie dans une source primaire avant de l'utiliser.
Ne saisissez aucune donnée identifiante de patient dans un service en ligne sans anonymisation préalable.
Rédigez une courte charte interne d'usage et formez l'équipe à ses limites.
Gardez la trace de votre propre validation : la responsabilité clinique reste la vôtre.

Questions fréquentes

Un médecin peut-il utiliser ChatGPT pour rédiger un compte rendu ?

Oui pour la mise en forme d'un texte qu'il relit et valide, à condition de ne pas transmettre de données identifiantes du patient à un service en ligne.

L'OMS a-t-elle publié des recommandations sur l'IA générative en santé ?

Oui. En janvier 2024, l'OMS a publié des lignes directrices sur l'éthique et la gouvernance des grands modèles multimodaux, avec plus de 40 recommandations.

Les réponses de l'IA générative sont-elles fiables en médecine ?

Elles peuvent être exactes, mais aussi fausses de manière convaincante. Toute information clinique doit être vérifiée dans une source de référence.

Sources

Dictez vos comptes rendus, sans que rien ne quitte votre ordinateur

Nabady Whisper transcrit votre voix hors ligne, en français, en arabe ou en anglais, avec des modèles de comptes rendus par spécialité.

Essayer gratuitement Voir la démo

Article d'information générale, vérifié à la date de publication ; il ne remplace ni un avis médical ni un conseil juridique.