Intelligence artificielle en réanimation : les limites éthiques de l'aide à la décision

Pour les équipes d'anesthésie-réanimation, le signal mérite attention: les outils d'IA décisionnelle s'invitent dans les unités avec des promesses de triage automatisé, de prédiction de mortalité ou d'aide à la limitation thérapeutique, souvent sans cadre méthodologique unifié ni validation prospective.

Ce que l'on sait, et ce que l'on ne sait pas

Le matériau disponible se limite au titre du travail relayé. Aucune cohorte publiée, aucune métrique de performance, aucun intervalle de confiance, aucun détail de calibration. Je note d'abord cette opacité, car elle est rédhibitoire. Un outil clinique d'aide à la décision se juge sur des critères stricts: sensibilité, spécificité, valeur prédictive, performance stratifiée par sous-groupes. Tant que ces données ne sont pas accessibles, toute discussion d'utilité clinique reste prématurée.

Le périmètre des « situations éthiquement sensibles » recouvre en anesthésie-réanimation un terrain que les praticiens connaissent intimement: décisions de fin de vie, limitation ou arrêt des thérapeutiques actives, triage en situation de saturation, allocation de ressources rares. Ce ne sont pas des cas marginaux. C'est le cœur du métier, là où la responsabilité humaine ne se distribue pas.

Grille d'évaluation critique

Trois axes doivent structurer tout audit d'un système d'IA déployé dans ce périmètre.

D'abord, les données d'entraînement. Les cohortes de réanimation sont structurellement biaisées par les pratiques locales, les seuils d'admission, les conventions de codage diagnostique, la démographie des patients inclus. Un modèle validé sur une population nord-américaine ne transpose pas mécaniquement à une cohorte européenne, encore moins à un service particulier. La question de la représentativité ne souffre aucune approximation.

Ensuite, la performance externe. Une AUC de 0,85 sur une cohorte de développement ne préjuge en rien du comportement réel en pratique. La validation doit être prospective, indépendante, et conduite sur la population effectivement exposée à la décision. Les études rétrospectives en split-sample sur données historiques surestiment systématiquement la performance.

Enfin, la chaîne de responsabilité. L'IA propose, le clinicien dispose — la formule est classique, mais elle devient floue dès lors que l'algorithme structure la discussion avec les familles, hiérarchise les options thérapeutiques ou module le seuil d'engagement. La traçabilité de la recommandation algorithmique doit être totale pour préserver l'autonomie décisionnelle et permettre un audit a posteriori.

Ce que je retiens

Je classe cette alerte dans la catégorie « à surveiller, pas à déployer ». Avant d'intégrer un outil d'IA dans une trajectoire de décision éthique, j'exige: publication des données sources, auditabilité du modèle, validation externe prospective sur la population cible, et protocole explicite de répartition des responsabilités. L'éthique clinique ne se délègue pas à une fonction de perte, aussi sophistiquée soit-elle.