Vers la création d’un régime spécial de responsabilité du fait de l’intelligence artificielle

jeudi 14 janvier 2021, par Timothy James

Alors que l’Intelligence Artificielle (IA) étend peu à peu ses prérogatives dans les technologies de Santé, la Parlement européen a instauré un nouveau régime de responsabilité pour les exploitants du secteur. Timothy James, Doctorant à l’Institut Droit et Santé, est revenu en détail sur les tenants et aboutissants de ce projet de réglement dans un article publié dans le Journal du Droit de la Santé et de l’Assurance Maladie (JDSAM) de décembre 2020.

Le Parlement européen a adopté, le 20 octobre 2020, une disposition législative visant à instaurer un nouveau régime de responsabilité à l’égard des exploitants d’intelligences artificielles (IA).

Création d’un statut d’Opérateur d’IA

La Commission ad hoc devra, sur la base de cette résolution, élaborer au cours de l’année 2021, un règlement relatif à la responsabilité pour l’exploitation des systèmes intelligents. Ce nouveau régime entrainera la consécration d’une nouvelle qualification : celle d’opérateur dont les modalités d’engagement de la responsabilité seront fonction du type d’IA en jeu. Ensuite, le régime se veut en partie indemnitaire et non pas uniquement de responsabilité, s’appuyant en grande partie sur le recours à l’assurance pour y parvenir. Ces trois considérations innervent la proposition de règlement présentée en annexe de la résolution et qui permet de nous projeter dans ce que pourrait être le système de demain. L’application de l’intelligence artificielle dans le domaine de la santé étant largement répandue désormais, cette proposition ne laissera pas indifférent le droit de la responsabilité médicale dont le fondement repose essentiellement sur la faute que la victime doit rapporter.

L’identification de l’opérateur

Si l’opérateur peut être une personne morale ou physique, il convient de distinguer l’opérateur « frontal », qui tire un profit et exerce un contrôle sur le risque engendré par l’exploitation et le fonctionnement de l’IA, de l’opérateur « d’amont », qui exerce un contrôle « de manière continue » sur le système s’illustrant par sa capacité d’intervenir sur les caractéristiques ou les données. Une absence de contrôle fait dès lors tomber la qualification d’opérateur et l’utilisateur redevient responsable en vertu du droit commun. Dans ce cadre, le professionnel de santé, tout comme l’établissement de santé, pourraient se voir qualifiés d’opérateur puisqu’il va pouvoir venir influencer le risque en agissant directement dans le système d’IA et/ou tirer un bénéfice pécuniaire, mais également médical de cette exploitation. Par ailleurs, le fabricant de l’IA pourrait potentiellement faire l’objet d’un concours de qualification en tant que producteur d’un produit défectueux et en tant qu’opérateur au sens de ce règlement.

La distinction entre l’IA à haut risque et les autres systèmes

Du fait de l’extrême diversité des formes que peut prendre l’IA, la proposition de règlement prend le soin de définir l’IA comme étant tout système qui simule l’intelligence « notamment en collectant et traitant des données, en analysant et en interprétant son environnement et en agissant avec un certain degré d’autonomie ». Face à cette hétérogénéité, elle crée les IA à haut risque et les autres. De cette inscription sur la liste des IA à haut risque, ou non, découlera un régime de risques et d’assurance différent. Ainsi, il pourrait se montrer extrêmement avantageux pour la victime et adossé à une obligation d’assurance pour l’opérateur. D’autre part, une responsabilité pour faute présumée est prévue lorsque le dommage survient du fait de l’exploitation d’une IA non inscrite comme étant à haut risque.

Une esquisse de ce que pourrait être la responsabilité civile en matière d’IA

Cette résolution est l’aboutissement d’un long travail de consultation tentant de ménager un équilibre entre protection de la victime et sauvegarde de la capacité d’innovation des acteurs économiques frileux lorsqu’il est question d’instaurer de nouveaux régimes de responsabilité. Cette première esquisse de ce que pourrait être la responsabilité civile de demain en matière d’IA permet de nous rendre compte que l’accent est mis sur l’allègement de la charge de la preuve de la victime en supprimant les conditions d’engagement de la responsabilité ou en les présumant. Décidant de légiférer de manière contraignante dans un domaine qui n’est pas encore technologiquement et juridiquement mûr, l’Union européenne se veut pionnière et modèle en matière de régulation. Reste à savoir quel accueil sera donné par la Commission à cette proposition.

Tiré du texte de Timothy James dans le JDSAM de décembre 2020
Doctorant à l’Institut Droit et Santé, Inserm UMR_S 1145
Faculté de droit, d’économie et de gestion, Université de Paris
Membre du Réseau doctoral en santé publique animé par l’EHESP


Partager cet article

Vous recrutez ?

Publiez vos annonces, et consultez la cvthèque du site EMPLOI Soignant : des milliers de profils de soignants partout en France.

En savoir plus