Lancement de ChatGPT : un secret trop bien gardé…par Sam Altman

« Lorsque ChatGPT est sorti en novembre 2022, le conseil d’administration n’a pas été informé à l’avance. Nous avons découvert ChatGPT sur Twitter », a déclaré Helen Toner sur le podcast The TED AI Show.

Cet incident est  la raison pour laquelle elle et d’autres membres du conseil d’administration ont voté pour évincer le directeur général Sam Altman en novembre dernier. Le conseil d’administration estimait qu’il n’avait pas de surveillance efficace de l’entreprise.

L’ancienne membre du conseil d’administration d’OpenAI donne la description la plus complète à ce jour des événements qui ont conduit au limogeage surprise de Sam Altman l’année dernière.

Sharing this, recorded a few weeks ago. Most of the episode is about AI policy more broadly, but this was my first longform interview since the OpenAI investigation closed, so we also talked a bit about November.

Thanks to @bilawalsidhu for a fun conversation! https://t.co/h0PtK06T0K

— Helen Toner (@hlntnr) May 28, 2024

À l’époque, le conseil d’administration avait simplement déclaré que Sam Altman n’avait pas été
« toujours franc » avec le conseil d’administration.

Manque de transparence de Sam Altman face au conseil d’administration

Il avait été réintégré quelques jours plus tard, tandis que Helen Toner et d’autres ont quitté le conseil d’administration.

Sam Altman n’a pas divulgué au conseil d’administration qu’il était propriétaire du OpenAI Startup Fund et a donné des informations inexactes sur les processus de sécurité de l’entreprise « à plusieurs reprises », affirme Helen Toner.

En conséquence, il était « fondamentalement impossible pour le conseil d’administration de savoir dans quelle mesure ces processus de sécurité fonctionnaient ou ce qui pourrait devoir changer », soutient-elle.

La sécurité – faisant référence aux processus conçus pour empêcher les systèmes d’IA super intelligents de devenir un danger pour l’humanité – a été un problème pour OpenAI alors qu’elle est devenue une entreprise à but lucratif.

La société a dissous son équipe de sécurité de  » superalignement  » pour créer  un nouveau comité de « sûreté et de sécurité  » cette semaine.

Helen Toner a déclaré qu’elle avait été personnellement ciblée par Sam Altman après avoir publié un document de recherche qui l’avait mis en colère. Elle soutient que deux dirigeants s’étaient adressés au conseil d’administration, accusant le CEO d’ « abus psychologique » et fournissant des preuves qu’Altman « mentait et était manipulateur dans différentes situations ».

Le nouveau CA réfute les allégations

Helen Toner révèle  que les membres du conseil d’administration estimaient qu’ils devaient faire un geste surprise. A défaut,  Sam Altman « ferait tout ce qui était en son pouvoir pour saper le conseil d’administration, pour nous empêcher même d’arriver au point de pouvoir le licencier ».

Elle affirme que les employés soutenaient massivement la réintégration d’Altman parce qu’on leur présentait la destruction de l’entreprise comme la seule alternative.

« Ce n’était pas un problème spécifique aux personnalités du conseil d’administration, même s’il aimerait le décrire de cette façon » affirme-t-elle.

Le président actuel du conseil d’administration d’OpenAI, Bret Taylor, a déclaré que la société était « déçue que Mme Toner continue de revenir sur ces questions ».

Il a ajouté qu’un examen indépendant du limogeage d’Altman a révélé que la décision du conseil d’administration n’était pas fondée sur « des préoccupations concernant la sûreté ou la sécurité des produits, le rythme de développement, les finances d’OpenAI ou ses déclarations aux investisseurs, clients ou partenaires commerciaux » et que plus de 95 % des employés ont demandé la réintégration d’Altman.

Matthew Broersma, Silicon UK