L’éthique et la gouvernance de l’IA en Santé vues par l’OMS

mardi 28 septembre 2021, par Bruno Benque

Dans son dernier rapport dédié à l’éthique et à la gouvernance de l’intelligence artificielle (IA) de Santé, qui résulte de deux ans de consultations d’experts internationaux sur le sujet, l’OMS tente d’encadrer les pratiques autour de ces technologies. Elle élabore les principes de base qui permettront de promouvoir l’éthique et les droits de l’homme dans la conception, le déploiement et l’utilisation de l’IA dans la prestation des soins de santé.

Les applications de l’intelligence artificielle (IA) dans le système de Santé se développent à un rythme très élevé. Que ce soit pour l’aide à la décision diagnostique ou pour la gestion des organisations, entre autres, l’IA va devenir dans un futur proche un partenaire de choix.

Des outils au fort potentiel mais pouvant causer des dommages


Mais les technologies qui font fonctionner ces nouvelles solutions doivent être surveillées à plus d’un titre. C’est le message qu’a souhaité faire passer l’Organisation Mondiale de la Santé (OMS) en publiant, le 28 juin 2021, son rapport « Ethics and Gouvernance of Artificial Intelligence for Health ». Lors de sa diffusion, le Directeur Général de l’OMS, le Dr Tedros Adhanom Ghebreyesus, a souligné que « …l’intelligence artificielle recèle un énorme potentiel pour améliorer la santé de millions de personnes dans le monde, mais comme toutes les technologies, elle peut également être mal utilisée et causer des dommages. À ce titre, le rapport de l’OMS fournit un guide précieux sur la manière de maximiser les avantages de l’IA, tout en minimisant ses risques et en évitant ses pièges.

un arsenal juridique déjà bien fourni

Ce rapport évoque tout d’abord les possibilités actuelles et futures de l’IA, les champs d’application des technologies répondant du deep learning par exemple. Il traite ensuite des différentes dispositions réglementaires prises au niveau mondial pour encadrer l’IA de Santé. On y trouve tour à tour des mesures législatives liées aux droits de l’homme, à la sauvegarde des données personnelles dans le cadre du Big Data, des principes généraux sur le développement de l’IA de Santé ainsi que des recommandations concernant la bioéthique et la régulation des systèmes. Mais c’est le chapitre suivant, centré sur des principes d’éthique des usages de l’IA, qui devrait sans aucun doute avoir le plus d’impact sur les pratiques dans le domaine sanitaire.

Autonomie humaine, promotion du bien-être et protection des données

Il s’agit tout d’abord de protéger l’autonomie humaine, tout d’abord en laissant les humains maîtres des systèmes de santé et des décisions médicales, en préservant, ensuite, la vie privée et la confidentialité, en promouvant le droit au consentement éclairé valide par le biais de cadres juridiques appropriés pour la protection des données. L’éthique de l’IA passera d’autre part par la promotion du bien-être et de la sécurité des personnes, ainsi que de l’intérêt public. Ce qui obligera tous les concepteurs de solutions d’IA de satisfaire aux exigences réglementaires en matière de sécurité, de précision et d’efficacité ainsi qu’aux processus de contrôle de la qualité dans la pratique et d’amélioration de la qualité dans l’utilisation de l’IA.

Des patients informés, des acteurs formés et des solutions inclusives et accessibles au plus grand nombre

Le Rapport de l’OMS évoque ensuite la transparence, l’explicabilité et l’intelligibilité des solutions d’IA, par l’édition d’une information claire avant le développement et le déploiement des solutions. Il souhaite également favoriser la responsabilité et l’imputabilité des fournisseurs de solutions, qui devront s’assurer que ces dernières sont utilisées dans des conditions appropriées et par des personnes correctement formées. Il s’agira aussi d’assurer l’inclusion, pour des usages largement accessibles et l’équité, sans différenciation de sexe, de race, d’âge ou de revenus. Enfin, l’IA devra être réactive, pour une évaluation continue de l’adéquation entre l’attendu et le réalisé, et durable, afin de minimiser leurs conséquences environnementales et augmenter l’efficacité énergétique.

Le reste du Rapport découle de ces quelques recommandations de bases, qui encadrent de manière pertinente, du moins en théorie, les applications multiples de l’IA en Santé. Mais ce document ne nous dit pas quand, ni comment, la machine prendra un jour le pas sur l’homme. À priori, ce jour n’est pas arrivé, les algorithmes d’IA étant encore trop éloignés des capacités de l’esprit humain…

Bruno Benque
Rédacteur en chef www.cadredesante.com
bruno.benque@cadredesante.com
@bbenk34


Partager cet article

Vous recrutez ?

Publiez vos annonces, et consultez la cvthèque du site EMPLOI Soignant : des milliers de profils de soignants partout en France.

En savoir plus