Un algorithme signale une anomalie sur une image. Le radiologue ne la voit pas et valide néanmoins le rapport. Plus tard, le diagnostic se révèle erroné. Qui est responsable : le médecin qui a signé, l’hôpital qui a acheté l’outil, le fabricant qui l’a entraîné ou l’autorité qui l’a autorisé ? La question paraît juridique. Elle est d’abord organisationnelle, car l’erreur naît souvent de l’interaction entre plusieurs acteurs plutôt que d’une défaillance isolée.
L’intelligence artificielle en santé couvre des objets très différents : aide au diagnostic, triage, prédiction, transcription, planification ou résumé de dossier. Tous n’ont pas le même risque ni le même statut réglementaire. Confondre une fonction administrative avec un dispositif influençant un traitement empêche de poser les bonnes obligations.
La responsabilité de l’IA médicale ne peut être reportée entièrement sur le clinicien au motif qu’il reste « dans la boucle ». Elle doit être répartie selon le contrôle réel exercé par le fabricant, l’établissement, l’équipe médicale et le régulateur, depuis l’achat jusqu’à la surveillance après déploiement.
L’algorithme n’entre pas dans un laboratoire idéal
Un modèle peut présenter de bonnes performances lors de sa validation et se comporter différemment dans un autre hôpital. Les appareils d’imagerie, les protocoles, la prévalence des maladies, la langue des dossiers et la population changent. Une performance moyenne élevée peut masquer une faiblesse sur un sous-groupe.
L’établissement n’achète donc pas une précision abstraite, mais un outil destiné à une population et à un flux de travail. Avant le déploiement, il doit vérifier l’indication, la qualité des preuves, la comparabilité des données et les conditions dans lesquelles le modèle peut refuser de répondre.
Le bénéfice dépend aussi du comportement humain. Une alerte trop fréquente sera ignorée. Une interface donnant une impression excessive de certitude peut produire une confiance automatique. Un outil placé au mauvais moment du parcours peut ralentir l’équipe au lieu de l’aider.
Le marché hospitalier est déjà un acte de régulation
Le rapport 2026 de l’OCDE décrit l’achat comme une porte d’entrée essentielle de la gouvernance. Le contrat peut exiger robustesse, interopérabilité, protection des données, documentation, suivi de performance et accès aux journaux d’incidents avant même que l’outil atteigne les patients.
Or beaucoup d’hôpitaux ne possèdent pas les équipes juridiques et techniques capables d’auditer un modèle. Ils dépendent des déclarations du fournisseur et d’évaluations réalisées ailleurs. La mutualisation des achats, des tests et des référentiels peut réduire cette asymétrie.
Le contrat doit prévoir l’après-achat : fréquence des mises à jour, possibilité de suspendre l’outil, portabilité des données, audit indépendant et sortie sans verrouillage. Une intelligence artificielle peut devenir une dépendance structurelle si elle est intégrée aux dossiers et aux habitudes sans solution de remplacement.
Un dispositif qui apprend défie le modèle réglementaire classique
La réglementation des dispositifs médicaux a été conçue pour des produits relativement stables. Un algorithme peut être mis à jour, réentraîné ou modifié dans ses paramètres. Chaque évolution ne peut pas nécessairement recommencer un cycle complet d’autorisation ; aucune évolution significative ne devrait pourtant échapper au contrôle.
Les autorités développent donc des approches couvrant le cycle de vie et des plans de modification prédéterminés. La FDA publie une liste de dispositifs intégrant de l’IA autorisés selon ses voies réglementaires et travaille à mieux distinguer les fonctions, notamment celles utilisant des modèles de fondation.
L’existence sur une liste réglementaire ne signifie pas que l’outil est supérieur à un clinicien ou adapté à chaque hôpital. Elle indique qu’un dossier a été examiné pour un usage défini. L’établissement conserve la responsabilité d’une intégration sûre.
La performance peut se dégrader sans panne visible
Les données changent. Une nouvelle machine, un protocole d’imagerie différent ou l’évolution d’une maladie peuvent éloigner les cas réels des données d’entraînement. La FDA souligne que ces changements d’entrée et les données hors distribution peuvent produire des résultats inattendus et modifier l’utilité clinique après la mise sur le marché.
La surveillance doit donc mesurer les performances dans le temps, par site et par groupe pertinent. Elle doit détecter les erreurs, mais aussi les changements d’usage : le personnel peut commencer à appliquer l’outil à des patients non prévus ou interpréter son score comme une recommandation plus large.
Cette surveillance pose une difficulté de gouvernance. Le fabricant voit les performances agrégées de nombreux sites ; l’hôpital connaît son contexte ; le clinicien observe le cas individuel. Aucun acteur ne possède seul toutes les informations nécessaires. Les contrats et les règles de signalement doivent organiser leur circulation.
Exiger une validation humaine n’est pas suffisant si le professionnel ne connaît pas les limites du modèle, ne peut pas inspecter son fonctionnement, manque de temps ou subit une pression institutionnelle pour suivre la recommandation. Une supervision nominale ne constitue pas une maîtrise réelle.
Répartir la faute selon la capacité d’agir
Le clinicien reste responsable de sa décision dans de nombreux cadres, mais cette règle ne doit pas absorber les défaillances du système. Si le fabricant dissimule une limite connue, si l’hôpital déploie l’outil sans formation ou si une mise à jour modifie la performance sans information claire, la responsabilité doit suivre ces choix.
Une approche plus juste distingue quatre niveaux. Le fabricant répond de la conception, des preuves, de la documentation et des modifications. L’établissement répond de la sélection, du déploiement, de la formation et de la surveillance locale. Le professionnel répond de l’usage compatible avec ses compétences et l’indication. Le régulateur répond de la cohérence des règles et de la réaction aux signaux de sécurité.
Pour le patient, cette fragmentation ne doit pas devenir un labyrinthe. Les mécanismes d’indemnisation et d’enquête doivent permettre d’établir la chaîne causale sans exiger qu’il audite lui-même un système opaque.
Fabricant
Preuves, documentation, cybersécurité, mises à jour et signalement des changements de performance.
Hôpital
Choix du produit, validation locale, formation, surveillance et continuité en cas d’arrêt.
Clinicien
Interprétation dans le contexte du patient, détection des incohérences et explication de la décision.
Régulateur
Classification du risque, exigences de preuve et capacité à imposer correction, restriction ou retrait.
L’outil médical peut devenir une infrastructure étrangère
L’hôpital dépend déjà de logiciels, de services en nuage et d’équipements internationaux. L’IA renforce cette dépendance parce que sa performance peut nécessiter des données continues, des mises à jour et une puissance de calcul externe. Un fournisseur peut ainsi occuper une position centrale sans posséder l’établissement.
La souveraineté ne signifie pas que toutes les solutions doivent être nationales. Elle suppose la capacité à changer de fournisseur, à conserver les données, à auditer les résultats et à maintenir les soins en cas de rupture contractuelle ou géopolitique. L’interopérabilité devient une exigence de sécurité.
Les données de santé sont également une ressource scientifique. Leur utilisation peut améliorer les outils, mais elle doit reposer sur une base juridique, une gouvernance claire et des garanties contre la réidentification ou les usages secondaires non prévus. Le consentement individuel ne résout pas seul la question du pouvoir collectif sur de grandes bases.
De l’assistance prudente à la dépendance invisible
IA supervisée
Des outils limités, bien évalués et surveillés améliorent certains diagnostics sans effacer le jugement clinique.
Empilement inefficace
Les hôpitaux achètent des solutions non interopérables, multipliant alertes, coûts et charge cognitive.
Concentration
Quelques fournisseurs dominent dossiers, nuage et modèles, rendant les établissements dépendants de leurs prix et mises à jour.
Incident systémique
Une erreur ou une cyberattaque affecte simultanément plusieurs sites utilisant le même modèle ou la même infrastructure.
L’IA médicale ne doit être jugée ni par la fascination technologique ni par la peur abstraite. Il faut suivre une question simple : qui peut observer, corriger et arrêter le système lorsqu’il échoue ? Une innovation devient crédible lorsque sa responsabilité est aussi bien conçue que son algorithme.
Sources et méthode
