IA : suspendre les développements, pourquoi ils y pensent

Plus d'un millier de signataires, dont Steve Wozniak, Elon Musk et bien d'autres, lancent un appel invoquant « des risques pour l'humanité » associés à l'intelligence artificielle (IA). Ils ambitionnent, en conséquence, d'interrompre les développements de systèmes d'IA plus puissants que GPT-4, le modèle de traitement du langage lancé mi-mars par OpenAI.

Leur lettre ouverte est accessible sur le site de l'organisation Future of Life Institute.

Il est indiqué dans le document :

« Nous appelons tous les laboratoires d'IA à suspendre immédiatement et pour au moins 6 mois la formation de systèmes d'IA plus puissants que GPT-4. Cette pause devrait être publique et vérifiable, et inclure tous les acteurs clés. Si une telle pause ne peut pas être mise en place rapidement, les gouvernements devraient intervenir et instituer un moratoire. »

Et de poursuivre :

« Ces derniers mois ont vu les laboratoires d'intelligence artificielle s'enfermer dans une course incontrôlée pour développer et déployer des cerveaux numériques toujours plus puissants, que personne - pas même leurs créateurs - ne peut comprendre, prédire ou contrôler de manière fiable », s'inquiètent les signataires.

L'objectif d'une telle supension serait de se donner du temps pour réguler le marché.

IA : MM. Wozniak, Musk, Mostaque et Shazeer parmi les signataires

La pétition a reçu, à ce jour, plus de 1400 signatures, dont celles de personnalités des technologies de l'information et du monde des affaires. On y trouve notamment Steve Wozniak, cofondateur d'Apple, Elon Musk, propriétaire de SpaceX, Tesla et Twitter, Emad Mostaque, CEO de Stability AI, ou encore Noam Shazeer, contributeur du modèle LaMDA de Google et cofondateur de l'entreprise Character.AI dorénavant valorisée 1 milliard $.

Comme d'autres protagonistes, Elon Musk a déjà exprimé publiquement des craintes concernant l'évolution à grande échelle de l'IA. Or, le milliardaire a lui même investi dans OpenAI lors de sa création en 2015, avant de laisser le champ libre à d'autres. Microsoft est ainsi entré en jeu en 2019 en annonçant son intention d'investir 1 milliard $ dans OpenAI.

Le retour sur investissement peut faire des envieux.

Depuis son lancement public, ChatGPT bat le record de croissance la plus rapide d'une base d'utilisateurs réguliers. L'agent conversationnel aurait en effet attiré 100 millions d'utilisateurs « actifs » deux mois seulement après son lancement.

Autant d'individus qui alimentent l'IA générative. Un tel pouvoir d'attraction relance le débat sur l'éthique et ses garde-fous dans ce domaine. Malgré tout, il est peu probable que la pétition médiatisée emporte l'adhésion de toute une filière en forte croissance.

Les sceptiques donnent de la voix.

« La lettre publiée est totalement vague ou obscure quant à ce qu'il conviendrait de faire dans une telle situation », a ainsi déclaré le CEO de Box, Aaron Levie, dans un entretien accordé à CIO Dive. « Je ne pense pas que l'approche qui consiste à dire simplement 'nous allons faire une pause en tant qu'industrie dans son ensemble pendant six mois' soit pertinente, car personne ne serait d'accord sur le moment propice à la reprise des développements. »

_{(crédit photo via Pexels)}