OpenAI dissout son équipe dédiée aux risques liés à l'intelligence artificielle
OpenAI a confirmé vendredi avoir dissous une équipe chargée d'atténuer les dangers à long terme de l'intelligence artificielle super intelligente.
Selon la société basée à San Francisco, OpenAI a commencé il y a quelques semaines à dissoudre le groupe dit de « superalignement », en intégrant des membres dans d'autres projets et recherches.
Le co-fondateur de la société Ilya Sutskever et le co-chef d'équipe Jan Leike ont annoncé cette semaine leur départ du créateur de ChatGPT.
Le démantèlement d’une équipe OpenAI axée sur le contrôle de l’intelligence artificielle sophistiquée intervient alors que cette technologie fait l’objet d’une surveillance accrue de la part des régulateurs et que les craintes grandissent quant à ses dangers.
« OpenAI doit devenir une entreprise d'AGI (intelligence artificielle générale) axée sur la sécurité », a écrit Leike vendredi dans un article sur X, anciennement Twitter.
Leike a appelé tous les employés d'OpenAI à « agir avec le sérieux » que justifie ce qu'ils construisent.
Le directeur général d'OpenAI, Sam Altman, a répondu au message de Leike par l'un des siens, le remerciant pour son travail au sein de l'entreprise et disant qu'il était triste de voir Leike partir.
« Il a raison, nous avons encore beaucoup à faire », a déclaré Altman. « Nous nous engageons à le faire. »
Altman a promis d’en dire davantage sur le sujet dans les prochains jours.
Sutskever a déclaré sur X qu'il quittait après près d'une décennie chez OpenAI, dont « la trajectoire a été tout simplement miraculeuse ».
« Je suis convaincu qu'OpenAI créera une AGI à la fois sûre et bénéfique », a-t-il ajouté, faisant référence à la technologie informatique qui cherche à fonctionner aussi bien, voire mieux, que la cognition humaine.
Sutskever, le scientifique en chef d'OpenAI, a siégé au conseil d'administration qui a voté la destitution de son collègue directeur général Altman en novembre de l'année dernière.
L'éviction a plongé la startup basée à San Francisco dans le tumulte, le conseil d'administration d'OpenAI ayant réembauché Altman quelques jours plus tard après la révolte du personnel et des investisseurs.
OpenAI a publié en début de semaine une version plus performante et encore plus humaine de la technologie d'intelligence artificielle qui sous-tend ChatGPT, la rendant gratuite pour tous les utilisateurs.
« Cela ressemble à l'IA des films », a déclaré Altman dans un article de blog.
Altman a déjà souligné le personnage de Scarlett Johansson dans le film « Her », où elle exprime une assistante virtuelle basée sur l'IA sortant avec un homme, comme source d'inspiration pour savoir où il aimerait que les interactions avec l'IA se déroulent.
Le jour viendra où « les cerveaux numériques deviendront aussi bons, voire meilleurs, que le nôtre », a déclaré Sutskever lors d'une conférence lors d'un sommet TED sur l'IA à San Francisco à la fin de l'année dernière.
« AGI aura un impact considérable sur tous les domaines de la vie. »
