Une Loi européenne régulera l’utilisation de l’IA

mardi 26 mars 2024, par Bruno Benque

Le Parlement européen a publié récemment l’AI Act, une Loi visant à réguler les applications de l’intelligence artificielle présentant un risque pour les populations. Ce texte bannit notamment les systèmes de catégorisation biométriques, ainsi que de reconnaissance faciale, et des mesures de limitation des modèles puissants présentant des risques systémiques figurent également dans cette Loi.

Le développement rapide de l’Intelligence Artificielle (IA) suscite beaucoup de questions quant aux usages qui en sont faits, et même de l’inquiétude quant à la préservation de l’éthique dans les pratiques professionnelles.

Le Parlement européen publie l’AI Act pour réguler les applications de l’intelligence artificielle

Tous les domaines d’activité sont concernés et la Santé est un secteur des plus exposés, en termes de protection des données sanitaires, de reconnaissance biométrique ou de cybersécurité notamment. Si la France a pris la mesure des risques liés aux usages de l’IA depuis quelque temps, c’est bien le Parlement européen qui vient de légiférer, avec la publication du EU AI Act, afin sauvegarder les droits fondamentaux, la démocratie et la durabilité environnementale autour de ces pratiques, tout en favorisant l’innovation. Ce règlement européen, finalisé lors des négociations avec les États membres en décembre 2023, a reçu un soutien massif de la part des eurodéputés, avec 523 voix pour, 46 contre et 49 abstentions.

Les principaux objectifs de cette législation, outre la protection des droits fondamentaux et de la démocratie contre les risques posés par les applications d’IA à haut risque, visent notamment à renforcer l’innovation et à positionner l’Europe comme un leader dans le domaine de l’IA.

Un texte qui bannit les systèmes de catégorisation biométriques et de reconnaissance faciale

C’est ainsi que la Loi européenne interdit désormais plusieurs applications d’IA jugées menaçantes pour les droits des citoyens, en particulier les systèmes de catégorisation biométrique basés sur des caractéristiques sensibles et visant à la reconnaissance faciale ou la reconnaissance des émotions sur les lieux de travail, ainsi que dans les écoles.

Sont concernés également les systèmes de catégorisation sociale, la police prédictive uniquement basée sur le profilage ou la manipulation du comportement humain, particulièrement sur des personnes vulnérables. L’utilisation par les forces de l’ordre des systèmes d’identification biométrique est limitée, sauf dans des situations étroitement définies et assorties de garanties strictes. Cela s’applique notamment aux recherches ciblées de personnes disparues ou la prévention d’activités terroristes.

Des mesures de limitation des modèles puissants présentant des risques systémiques

Les systèmes d’IA à haut risque sont donc soumis à des obligations claires, en termes d’évaluation des risques, de transparence, de tenue de journaux d’utilisation ou de garantie d’une surveillance humaine de ces systèmes. Dans ce cadre, les citoyens peuvent déposer des plaintes concernant les systèmes d’IA affectant leurs droits, en respectant, en particulier la loi européenne sur le droit d’auteur et la publication de résumés détaillés des données de formation.

Des mesures plus strictes s’appliquent aux modèles d’IA puissants qui pourraient présenter des risques systémiques, exigeant des évaluations de modèles, des évaluations des risques, des rapports d’incidents et l’étiquetage des contenus artificiels ou manipulés.

Ces concepts législatifs posés, la loi attend désormais un examen linguistique final et l’approbation formelle du Conseil européen avant d’être promulguée et pleinement applicable 24 mois après sa publication, avec des dispositions spécifiques entrant en vigueur à des intervalles variables. L’approbation de l’AI Act représente à n’en pas douter, en l’état actuel, une étape importante dans l’approche européenne de la réglementation de l’IA, établissant un équilibre entre l’innovation et la sauvegarde des droits fondamentaux à l’ère numérique.

Bruno Benque
Rédacteur en chef www.cadredesante.com
bruno.benque@gpsante.fr
@bbenk34.


Partager cet article

Vous recrutez ?

Publiez vos annonces, et consultez la cvthèque du site EMPLOI Soignant : des milliers de profils de soignants partout en France.

En savoir plus