L'IA en santé : Un nouveau cadre pour garantir la supervision humaine

Le déploiement de l'intelligence artificielle (IA) dans le secteur de la santé a initié une évolution des pratiques médicales ces dernières années et a permis des avancées significatives.

Grâce à l'IA, nous assistons à une forte amélioration de la détection et du diagnostic des maladies, une gestion plus efficiente des systèmes de santé, une qualité des soins accrue et une médecine plus collaborative. Cependant, ces avancées rapides nécessitent un encadrement juridique et éthique rigoureux, compte tenu de la sensibilité du secteur médical.

La Garantie Humaine de l'IA en santé est une réponse à cette nécessité, visant à maintenir une autonomie décisionnelle humaine essentielle face à l'essor des outils de traitement de données.

Un nouveau cadre pour la supervision humaine : AFNOR SPEC 2213

En mai 2024, l'AFNOR a publié un document, l'AFNOR SPEC 2213, qui apporte des réponses concrètes aux enjeux posés par l'IA en santé. Ce document définit des lignes directrices claires pour intégrer la Garantie Humaine dès la phase de conception des systèmes d'IA et tout au long de leur utilisation. Cette publication marque un tournant important pour assurer une supervision humaine effective et renforcer la confiance des professionnels de santé et des patients envers les technologies IA.

Principes éthiques et garantie humaine

La garantie humaine en IA médicale repose sur la nécessité de maintenir une autonomie humaine dans les décisions critiques, malgré la rapidité du déploiement de l'IA. Ce principe englobe la "supervision humaine" et le "contrôle humain", impliquant une surveillance dès la conception des systèmes d'IA et durant leur utilisation réelle. L'identification des points critiques d'intervention humaine est essentielle pour garantir que les systèmes d'IA fonctionnent de manière sécurisée et éthique, sans freiner l'innovation.

Cadre juridique : national et européen

L'utilisation de l'IA dans les soins est régulée au niveau national par la loi de bioéthique de 2021, spécifiquement l'article 17, qui impose une transparence totale des systèmes d'IA utilisés, incluant leur explicabilité. À l'échelle européenne, le Règlement sur l'Intelligence Artificielle (AI Act), approuvé par le Conseil de l'UE en mai 2024, introduit des exigences de contrôle humain pour les systèmes d'IA à haut risque. Ces régulations visent à harmoniser les normes de sécurité et d'éthique à travers l'Europe, garantissant que les systèmes d'IA soient développés et utilisés de manière responsable.

Méthodologie de la Garantie Humaine

Pour mettre en œuvre la Garantie Humaine, les concepteurs de systèmes d'IA en santé doivent suivre des lignes directrices strictes dès la phase de conception. Cela inclut l'intégration de mesures pour comprendre et surveiller les capacités et les limites des systèmes d'IA, détecter et corriger les anomalies, et permettre aux utilisateurs de prendre des décisions éclairées sur l'utilisation des résultats fournis par l'IA. Le processus de gestion des risques est central, évaluant les risques connus et prévisibles et les mettant en balance avec les bénéfices potentiels des systèmes d'IA.

Évaluation et gestion des risques

L'évaluation des risques doit identifier les impacts possibles des systèmes d'IA sur les utilisateurs ou les patients, classant les risques selon plusieurs critères tels que l'étape d'intervention du système, la criticité des événements dangereux, et les mesures de mitigation prévues. Chaque risque identifié doit être lié à une fonctionnalité spécifique du système d'IA et être intégré dans le cycle de vie du système. Cela inclut la prise en compte des mises à jour, l'ajout de nouvelles fonctionnalités, et les considérations de cybersécurité.

Points critiques de supervision

Les points critiques sont des étapes spécifiques où la supervision humaine est essentielle pour améliorer la gestion des risques et garantir la sécurité et les droits des patients. Ces points doivent être déterminés par le concepteur en fonction de l'analyse des risques et doivent permettre d'améliorer le système de gestion des risques, la documentation d'utilisation et le système de management de la qualité.

L'intégration de l'IA en santé offre des opportunités importantes pour améliorer la détection, le diagnostic et la qualité des soins. Toutefois, pour garantir que ces technologies bénéficient pleinement aux patients tout en minimisant les risques, une supervision humaine rigoureuse est indispensable. Le cadre de la Garantie Humaine, soutenu par les régulations nationales et européennes, fournit les bases nécessaires pour une utilisation éthique et sécurisée des systèmes d'IA en santé. En suivant les méthodologies proposées, les concepteurs peuvent s'assurer que leurs systèmes respectent les standards éthiques et juridiques tout en promouvant l'innovation et la confiance des utilisateurs.

En définitive, l'AFNOR SPEC 2213 est une avancée majeure pour garantir une supervision humaine effective, permettant de cocher simultanément les cases de l'innovation en santé, de la protection des patients et du contrôle des progrès de l'IA.