Ce que contient le pacte européen pour l'IA

Quel point commun entre ETHIQUAIS et Certifopac ? Le premier, basé en Alsace, certifie des systèmes d'IA. Le second, sis en Rhône-Alpes, certifie des organismes de formation. L'un et l'autre sont signataires du pacte européen pour l'IA.

Une quinzaine d'autres entreprises françaises ont fait de même. Parmi elles, Amadeus, Cegid, Criteo, Dassault Systèmes, Docaposte, IDEMIA, Lefebvre Sarrut, Mirakl, Orange, OVHcloud et Sopra Steria.

L'adhésion à ce pacte est volontaire et non contraignante. Elle suppose trois grands engagements en anticipation des dispositions de l'AI Act (cf. le calendrier de mise en application) :

• Définir une stratégie de gouvernance de l'IA
• Cartographier les systèmes susceptibles d'être classés "à haut risque"
• Promouvoir la sensibilisation du personnel et plus globalement des parties impliquées

De nombreux engagements "à la carte"

Le pacte comprend des engagements supplémentaires que les signataires peuvent adopter "à la carte", notamment en fonction de leur position dans la chaîne de valeur de l'IA.

Pour les développeurs de systèmes d'IA :

• Identifier les risques pour la santé, la sûreté et les droits fondamentaux
• Développer des politiques pour des datasets de qualité
• Implémenter une journalisation cohérente vis-à-vis des finalités des systèmes d'IA
• Informer ceux qui déploient les systèmes d'IA quant aux usages appropriés, aux capacités, aux limites et aux risques potentiels
• Prendre des mesures de supervision humaines des systèmes d'IA "à haut risque"
• Avoir des politiques et des processus pour limiter les risques liés à l'usage des systèmes d'IA
• Faire en sorte que les utilisateurs en interaction directe avec un système d'IA en soient informés
• Concevoir des systèmes d'IA dont le contenu en sortie puisse être marqué et détectable
• Donner à qui déploie ces systèmes d'IA la possibilité d'étiqueter les images, les audios et les vidéos générés
• Leur donner les mêmes possibilités pour les textes destinés à être publiés à des fins d'information sur des sujets d'intérêt public, sauf si ces textes font l'objet d'une révision humaine et qu'une personne physique ou morale endosse la responsabilité éditoriale

L'essentiel de ces engagements peuvent aussi valoir, par rebond, pour les organisations qui déploient des systèmes d'IA. Il en est ainsi de l'évaluation des risques, de la supervision des systèmes "à haut risque", de l'étiquetage des contenus produits, etc. S'y ajoute, entre autres, l'information des représentants du personnel lorsque des systèmes d'IA sont mis en oeuvre sur l'espace de travail.

Les signataires du pacte sont invités à partager leurs expériences et leurs connaissances. En particulier à travers des ateliers organisés par le Bureau de l'IA - entité constituée avec l'AI Act. Les bonnes pratiques discutées pourront, "en fonction des préférences des participants", faire l'objet d'une mise en ligne.

Illustration © alexlmk - Adobe Stock