SIRH : New-York encadre le recours à l'IA

Alors que les systèmes d'information dédiés à la gestion des ressources humaines (SIRH) utilisent depuis longtemps des technologies d'intelligence artificielle (IA) et d'apprentissage automatique (ML), la montée en puissance de l'IA générative rebat les cartes.

Avec sa loi locale 144 [PDF], la ville de New York fait partie des premières à souhaiter poser les règles applicables aux décisions automatisées en matière d'emploi.

La « LL 144 » exigera qu'un audit concernant les biais potentiels soit effectué avant la mise en production d'un outil de décision automatisée (« AEDT ») par un employeur ou une agence de placement. Les candidats, de leur côté, devront être informés de l'utilisation d'un tel outil pour les évaluer, les classer et les départager.

Du SIRH dopé à l'apprentissage automatique

Qu'est-ce qu'un outil « AEDT » (automated employment decision tool) en vertu de la LL 144 ?

Un tel système inclut « tout processus de calcul dérivé de l'apprentissage automatique, de la modélisation statistique, de l'analyse de données ou de l'intelligence artificielle (IA), qui génère une sortie simplifiée, y compris un score, une classification ou une recommandation, utilisée pour aider ou remplacer de manière substantielle la prise de décision discrétionnaire qui impacte des personnes physiques en matière d'emploi. »

Le Département de la protection des consommateurs et des travailleurs (DCWP) de la ville a proposé une première version du projet en septembre dernier. Le texte, qui prévoit des sanctions en cas d'infraction, a été révisé en décembre, à la suite d'une audience publique.

La loi locale devait entrer en vigueur en janvier dernier. Le DCWP a indiqué la semaine dernière qu'il en contrôlera l'application effective à partir du 5 juillet 2023.

L'ambition s'inscrit dans une tendance plus globale visant à encadrer les développements de l'IA, intelligence artificielle générative en particulier.

La montée en puissance de ChatGPT d'OpenAI ayant bouleversé l'agenda.

Les Etats-Unis ont récemment ouvert une consultation publique sur un potentiel régime de responsabilité pour l'intelligence artificielle.

La Chine, qui elle aussi investit des milliards $ dans l'IA, a déclaré son intention de réguler le secteur en phase d'expansion accélérée.

L'Europe, à travers son Comité européen de la protection des données (EDBP), a créé un groupe de travail qui devra « favoriser la coopération et échanger des informations sur d'éventuelles mesures d'exécution » menées dans ce domaine par les autorités concernées.

_{(crédit photo © Shutterstock)}