Les pessimistes de l’IA accusés d’être à l’origine de la perte d’OpenAI
OpenAI est passé de la direction du monde de l’intelligence artificielle avec ChatGPT au chaos, son directeur général étant apparemment évincé pour avoir avancé trop vite et trop loin avec cette technologie risquée.
Le départ de Sam Altman a déclenché une série d’événements qui ont vu le plus grand investisseur de la nouvelle entreprise, Microsoft, intervenir pour embaucher le PDG déchu et entamer un processus de construction d’un clone d’OpenAI chez le géant de la technologie basé à Redmond, dans l’État de Washington.
D’une certaine manière, le résultat imminent de la saga du week-end n’est guère une surprise, beaucoup se demandant comment les membres du conseil d’administration pourraient être assez naïfs pour penser qu’ils pourraient déjouer Altman.
La Silicon Valley a été consternée par le licenciement d’Altman, la communauté des investisseurs et le personnel d’OpenAI étant furieux que le conseil d’administration de quatre personnes ait empêché d’entrer plus rapidement dans l’ère de l’IA.
« Nous n’en sommes pas contents. Nous voulons de la stabilité ici », a déclaré Ryan Steelberg, PDG de Veritone, une entreprise qui aide les entreprises à développer l’intelligence artificielle.
Au lieu qu’OpenAI devienne le nouvel Apple ou Google, les critiques acerbes voient une startup profondément troublée, victime des efforts d’un conseil d’administration incompétent.
« Nous avons atteint ce point parce que des risques minuscules ont été amplifiés de manière hystérique par la pensée exotique des mentalités de science-fiction et le journalisme clickbait de la presse », a écrit Vinod Khosla, un capital-risqueur chevronné, l’un des premiers investisseurs dans OpenAI, dans The Information.
« Des gens faillibles »
D’autres observateurs ont averti que le drame de San Francisco a prouvé que l’IA était trop vitale pour être laissée entre les mains de ses créateurs.
« C’est un rappel important que, aussi brillants que soient les concepteurs de technologies comme l’IA – scientifiques ou ingénieurs -, ils ne sont que des personnes faillibles », a déclaré Paul Barrett, directeur adjoint du NYU Stern Center for Business and Human Rights.
« C’est pourquoi il est important de ne pas s’en remettre à eux sur une technologie dont tout le monde reconnaît qu’elle comporte des risques importants, même si elle promet d’énormes avantages », a-t-il ajouté.
Gary Marcus, un expert respecté en IA, a déclaré que la guerre civile d’OpenAI « met en évidence le fait que nous ne pouvons pas vraiment faire confiance aux entreprises pour autoréguler l’IA, là où même leur propre gouvernance interne peut être profondément conflictuelle ».
Une réglementation gouvernementale, notamment de la part d’une Union européenne plus dure, est plus que jamais nécessaire, a-t-il ajouté.
OpenAI a en fait été créé en 2015 dans le but de faire contrepoids à Google, qui était de loin le leader dans le développement de technologies d’IA imitant les opérations du cerveau humain.
Bien que rien ne soit sûr, de nombreuses hypothèses sont répandues selon lesquelles les efforts accrus d’Altman pour monétiser le modèle phare GPT-4 de l’entreprise, tout en gardant secret son fonctionnement interne, devenaient trop problématiques pour le conseil d’administration de l’entreprise.
Déjà, plusieurs cadres supérieurs d’OpenAI ont abandonné l’entreprise en 2021 pour créer son rival Anthropic, craignant qu’Altman n’avance trop imprudemment.
« OpenAI est terminé »
Beaucoup sont choqués que le conseil d’administration ait eu autant de pouvoir, ou aient été assez naïfs pour penser qu’ils pourraient réellement l’utiliser.
On pense que trois de ces membres du conseil d’administration ont des liens avec le mouvement altruiste efficace, qui s’inquiète des risques de l’IA, mais qui, selon les critiques, est coupé de la réalité.
Quelles que soient leurs convictions, lundi, le conseil d’administration ne supervisait une entreprise que de nom, la quasi-totalité du personnel s’étant engagé à quitter l’entreprise pour le projet d’Altman chez Microsoft si le conseil d’administration refusait de partir.
« À moins qu’OpenAI ne puisse bloquer ces départs, OpenAI est pratiquement terminé à ce stade », a déclaré à l’AFP l’analyste Rob Enderle.
Cela pourrait signifier une victoire historique pour Microsoft, qui a déjà vu le cours de son action atteindre des niveaux records grâce à ses liens avec OpenAI.
« C’est comme le meilleur scénario possible pour eux, et j’en suis sûr, le conseil d’administration d’OpenAI s’en prend à lui-même. Ils étaient clairement détachés de la réalité », a déclaré Carolina Milanesi, analyste chez Creative Strategies.
