Confiance.ai à l'heure des livrables : ce qu'a produit le programme

Quels résultats technologiques pour Confiance.ai ? Sur le site web du programme, la page censée les présenter est… en cours de construction.

On peut se rabattre sur les résultats scientifiques, quant à eux exposés. Au menu, une cinquantaine d’articles. Les derniers publiés touchent, entre autres, aux patchs antagonistes, à l’échantillonnage des modèles de diffusion et à la gestion des données en flux continu.

Les deux premiers impliquent des chercheurs de l’IRT SystemX. Celui-ci, établi sur le plateau de Saclay, pilote Confiance.ai depuis son lancement. C’était, officiellement, en janvier 2021. Cadre : le Grand Défi « Sécuriser, certifier et fiabiliser les systèmes fondés sur l’intelligence artificielle ».

À l’IRT SystemX s’étaient joints trois autres laboratoires et instituts : CEA, Inria et IRT Saint-Exupéry (Toulouse). Le cercle s’est par la suite élargi, notamment à la faveur d’appels à manifestation d’intérêt. L’un d’entre eux a compté, parmi ses lauréats :

– Le Centre de recherche en informatique de Lens, sur le sujet des explications intelligibles
– L’Institut de mathématiques de Toulouse, sur la robustesse par l’équité
– Le LIP6 (laboratoire d’informatique sous tutelle de Sorbonne Université et du CNRS), sur le lissage aléatoire des réseaux de neurones en apprentissage par renforcement

En toile de fond, le « moteur » de Confiance.ai : des cas d’usage qu’ont apportés des groupes industriels. Ils sont neuf associés au programme : Air Liquide, Airbus, Atos, Naval Group, Renault Group, Safran, Sopra Steria, Thales et Valedo. Pour tous, une même question : comment intégrer des IA de confiance en production ?

Quelques-uns des cas d’usage apportés par les partenaires industriels

Confiance.ai ouvre sa méthodo et ses outils

Start-up et PME innovantes ont également été sollicitées pour contribuer à la résolution des défis technologiques de Confiance.ai. Elles furent 12 primées lors du premier AMI à leur adresse, organisé en 2021. Nommément, AI Redefined, AIvidence, AzurIA, Cervval, Datakalab, Golaem, Jolibrain, Kereval, MyDataModels (liquidée depuis), OKTAL-SE, Quantmetry et Simsoft-Industry.

Un autre AMI, effectué en 2022, a ciblé la communauté de recherche en sciences humaines et sociales. Objectif : compléter les développements technologiques par des travaux sur l’appropriation de l’IA de confiance.

« Nous avons à ce jour plus de 75 défis [scientifiques] individuels », avait fait remarquer Confiance.ai il y a quelques mois, en accompagnant son propos du schéma suivant.

Au bout du compte, il y a un « environnement de confiance » voulu modulaire et interopérable. Il prend la forme d’une méthodologie transsectorielle assortie d’un catalogue de composants technologiques pour favoriser l’intégration d’IA dans des systèmes critiques existants. Confiance.ai vient de l’ouvrir aux communautés scientifiques et industrielles. Ses membres envisagent, pour en accompagner la diffusion, de constituer une fondation.

Renault, Thales et Air Liquide, les trois vitrines du programme

Le premier cas d’usage ayant permis une évaluation « de bout en bout » de cette méthodo émane de Renault. Son objet : la vérification de la qualité des soudures sur le châssis des véhicules. Ce système a préexisté à Confiance.ai et il affichait un score de réussite de plus de 97 %. Mais on ne l’avait pas déployé en usine, les équipes considérant que ce score n’était pas un critère suffisant.

Un autre cas d’usage que communique Confiance.ai concerne la gestion d’inventaire chez Air Liquide. Plus précisément, le comptage automatique de bouteilles. Le défi : maintenir le fonctionnement des modèles sous-jacents – entraînés de jour et par temps ensoleillé – dans des scénarios de nuit ou en cas de météo défavorable. La réponse a tenu en partie à un prétraitement à base de GenAI pour éliminer les gouttes de pluie et les flocons de neige, tout en transformant les images de nuit en jour.

Thales a quant à lui travaillé sur la détection d’objets d’intérêt à partir d’images aériennes.
Juliette Mattioli, l’une de ses expertes en IA à la direction technique corporate, préside le comité de pilotage* de Confiance.ai. Début 2023, elle a remplacé, à ce poste, Rodolphe Gelin (Renault Group).
Fabien Mangeant, directeur scientifique chez Air Liquide, préside le comité de direction. Il y a remplacé David Sadek (Thales).

Des jonctions avec l’Allemagne et le Québec

Confiance.ai s’est d’abord focalisé sur des approches orientées données, utilisant essentiellement les réseaux neuronaux pour le traitement d’images, de séries temporelles et de données structurées. Il a ensuite abordé des problématiques plus complexes touchant à l’IA symbolique et l’IA hybride.

Des passerelles se sont établies à l’international. Par exemple avec Confiance.ia (consortium public-privé québécois). Ou avec Zertifizierte KI, initiative allemande fédérant l’institut Fraunhofer IAIS, le DIN (institut de normalisation et le BSI (homologue de notre ANSSI). Confiance.ai s’est également rapproché de l’IEEE pour en intégrer l’un des standards, relatif à la prise en compte des valeurs éthiques dans le développement de produits et de services.

* Les 9 industriels et les 4 organisations de recherche à l’origine de Confiance.ai ont chacun un siège au comité de direction et au comité de pilotage. Bertrand Braunschweig, ancien de l’ANR et d’Inria, est coordonnateur scientifique du programme.

Illustration principale ©