IA : le Cigref médite sur l'éthique et le business des algorithmes

Le Cigref a organisé un colloque sur l'intelligence artificielle et son impact pour l'entreprise du futur. Le choix de ce thème est guidé par la publication d'un livre blanc sur ce sujet réalisé par le cercle sur l'intelligence artificielle de l'association. Pour planter le décor, l'avocat spécialisé en nouvelles technologies, Alain Bensoussan, indique : « Nous sommes à l'aube de la robot-humanité, il faudra apprendre à vivre avec et même à survivre. » Au centre de cette évolution, les algorithmes s'imposent dans beaucoup de domaine. « Les GPS ont fait disparaître les cartes et les boussoles, les robots chirurgiens sont plus précis, les robots journalistes sont capables d'écrire des articles, etc. », égrène le juriste. Mais les algorithmes posent des questions : qui sont leurs concepteurs, comment sont-ils réalisés, quels sont leur statut juridique en cas d'erreur, quelle est leur responsabilité ?

Un terme galvaudé

Ces interrogations et l'avenir de l'IA dans l'entreprise ont été posés à un panel d'intervenants lors d'une table-ronde organisée à l'occasion de ce colloque. Une première attention a été portée sur la définition du terme « intelligence artificielle ». Laurence Devillers, professeur à la Sorbonne et chercheuse sur la captation des émotions par les robots, explique que « aujourd'hui, ce terme est tellement galvaudé qu'il est difficile de définir exactement ce que regroupe l'IA ».

Idem pour Françoise Mercadal-Delassales, directrice des Ressources et de l'Innovation à la Société Générale. « Il faut faire attention aux mots et au buzz, les banques utilisent depuis plusieurs années des machines pour traiter l'information à des fins de scoring et de trading. Ce qui change depuis quelques années, c'est la façon dont nous nourrissons ces machines avec le Big Data, les datalake et tous cela dans un environnement informatique qui est basé sur le Cloud et les API. »

Une IA à géométrie variable

Pour autant pas question de voir l'IA comme quelque chose de très aboutie. « Le deep learning n'est pas la panacée », avoue Laurence Devillers, « il s'agit d'une boîte noire opaque qui ne ressemble pas à l'apprentissage humain qui, par exemple, va être capable de distinguer la différence sur deux mêmes images, mais pas la machine ».

Cécile Wendling, responsable de la Prospective à la Direction des Affaires Européennes et Institutionnelles chez Axa, précise l'existence de différents scénarios autour de l'IA. « Il y a une IA étroite qui se focalise sur 1 ou 2 usages comme la traduction ou la reconnaissance faciale. Un autre axe est sur IA contrôlé où il y a un partenariat entre les producteurs et les utilisateurs avec un volet business essentiel. Enfin, une IA dite forte avec des agents intelligents que l'on trouve dans les pays asiatiques et le Japon en particulier. »

L'automatisation de relation client en première ligne

Mais qu'apporte l'IA au sein des entreprises ? « Dans les banques, l'IA va permettre d'automatiser et d'autonomiser la relation client, on le voit avec le développement des assistants personnels (les bots). Elle va aussi avoir un impact sur le pilotage interne de l'entreprise. Et enfin, elle ouvre la voie à la création de nouveaux services », répond Françoise Mercadal-Delassales. Pour autant derrière cette automatisation se pose la question de la suppression de postes, « les robots évincent des tâches qui étaient réalisées par des humains et les dirigeants des entreprises s'interrogent sur la notion d'éviction avec des impacts sur la formation et l'accompagnement au changement », poursuit la responsable.

La relation client est clairement le terrain de jeu de l'IA pour les entreprises, précise Tony Pinville, PDG d'Euritech. « Les entreprises commencent à être matures à travers le questionnement sur leurs données. Le deep learning, reproduisant les réseaux neuronaux, permet de mieux comprendre la relation client en traitant notamment les données non structurées. »

Une éthique des algorithmes cruciale

La technologie existe, le potentiel émerge, mais le règne des algorithmes ne doit pas se faire de manière anarchique. « La plus grande problématique de l'intelligence artificielle est éthique. Nous sommes dans la gouvernance des données et il faut fixer des règles », expose Françoise Mercadal-Delassales. Des travaux sont entrepris dans ce sens, Laurence Devillers évoque les discussions au sein de l'IEEE, société savante en charge d'établir des normes et des standards IT, pour élaborer une charte sur les robots et l'éthique des algorithmes. Des réflexions similaires sont en cours au niveau européen comprenant le Parlement européen, les DG Connect et  Justice de la Commission européenne et les entreprises. « Il est dommage que dans ces groupes, une majorité des participants sont anglo-saxons », rapporte Cécile Wendling.

Et l'influence culturelle n'est pas à prendre à la légère « L'éthique sur les robots en occident n'a pas la même signification qu'en Orient. Au Japon, les robots sont considérés comme des gardiens de l'humanité, alors qu'en occident, ils sont plutôt diabolisés. Une distinction qui influencera la régulation », rappelle Laurence Devillers. Un encadrement est essentiel surtout avec la présence des GAFA (Google, Facebook, Amazon et Apple) qui disposent de fortunes immenses pour investir dans les algorithmes, mais avec des considérations plus capitalistiques que philanthropiques. La notion d'éthique ouvre également d'autres sujets comme la protection des données personnelles, « condition sine qua non pour obtenir la confiance », indique Cécile Wendling, l'efficacité des algorithmes et la façon de les interpréter. « Comment expliquer une discrimination tarifaire à un client réalisé depuis un algorithme ? », poursuit la responsable.  Autant de sujets passionnants et bouillonnants pour éviter que l'IA ne transforme l'humain en esclave technologique.

A lire aussi :

1 développeur sur 3 craint d'être remplacé par l'intelligence artificielle

?Cédric Villani : « Plus il y aura d'intelligence artificielle, plus il y aura de mathématiciens »