Sam Altman construit un empire avec Openai. Un avec quelques lumières et avec de nombreuses ombres

Sam Altman est un maître de l'empathie. Il vous écoute comme si vous étiez la personne la plus intéressante du monde, apprenez ce dont il a besoin de vous et son discours correspond à ce que vous voulez. Et te convaincre donc.

C'est l'une des premières conclusions que Karen Hao arrive dans son nouveau livre «Empire of Ai». Nous y sommes racontés Openai Origins et son évolution Grâce à des centaines d'entretiens avec des employés et d'anciens employés de l'entreprise, en plus de ceux qui ont fait des professionnels d'autres entreprises de l'industrie de l'intelligence artificielle.

Altman est aimé ou détesté, il n'y a pas de terrain d'entente

Nous connaissons réellement l'histoire – à Simseo, nous parlons d'Openai depuis des années – mais ce que Hao propose est une visite à ce qui se passe dans les coulisses, contribuant de nombreux détails qui nous aident à comprendre le passé, le présent et peut-être l'avenir de l'entreprise.

Beaucoup de ces détails se concentrent sur la figure de Sam Altman, qui ne se déroule pas particulièrement bien. Brillant en tant que vendeur de projets apparemment impossibles, Altman est clairsemé dans ses communications avec d'autres collègues. Écrivez des e-mails avec un seul mot, « Meet »pour organiser des rendez-vous, et parfois utiliser un simple « ? » Parce que qui écrit moins semble gagner le match. C'est ce que Jeff Bezos sait beaucoup.

Bien sûr, quand j'ai écrit quelque chose, car selon Hao Altman ne laisse presque rien d'écrit. Tout est verbal, quelque chose qui lui a permis de discuter après que les gens ne se souviennent pas bien de ce qu'il lui avait parlé.

Les opinions de ceux qui parlent de lui dans le livre sont importantes. L'un d'eux a commenté que « c'est tellement attentif. Mais l'utilise en partie pour savoir comment vous influencer de différentes manières ». D'autres ont commenté comment Altman évite l'expression d'émotions négatives et également la confrontation. Il a esquivé le mot «non» dans les conversations avec d'autres personnes. « D'autres ont commencé à le voir comme quelqu'un de diaboliquement capable de battre des situations en sa faveur. »

Ilya Sutskever, l'un des co-fondateurs qui est sorti après ses différences avec lui, a laissé une déclaration inquiétante: « Je ne pense pas que Sam soit la bonne personne pour être celui qui a le doigt sur le bouton AGI. »

Openai vit son propre «  Game of Thrones ''

Paul Graham, son mentor dans YC Combinator, a laissé deux citations qui laissent une idée claire de ce qu'est Sam Altman. Dans le premier, il a commenté que « vous pouviez jeter parachute sur une île pleine de cannibales, revenir dans cinq ans et il serait le roi ». Dans le second, a renforcé cette vision de son protégé: « Sam est extrêmement bon en devenant quelqu'un avec le pouvoir. »

C'est quelque chose que Hao mentionne souvent dans le livre et qui montre clairement qu'Altman fait très bien une chose: Gagnez les batailles pour le pouvoir. Il existe deux exemples clairs, également connus. Le premier, quand il a réussi à arracher la direction d'Openai au début de cette aventure unique. La seconde, alors qu'après son licenciement scandaleux, il est revenu plus fortement que jamais en tant que PDG tout-puissant d'Openai.

Ces deux moments de l'histoire de cette entreprise reflètent en fait ce qui se passe dans n'importe quel empire: la vue vue est généralement impeccable, grande, puissante. Le visage caché est plein de conflits et de guerres internes, de batailles pour le pouvoir, de rivalités et de différences de critères qui se terminent mal.

Dans toutes ces batailles, un Altman a été imposé à maintes reprises que, selon Hao, a utilisé une tactique singulière: il a changé son discours selon l'interlocuteur. Ce qu'il avait dit était souvent ce qu'il avait dit à B. le problème s'est posé lorsque A et B parlaient de ce qu'Altman les avait dit tous les deux.

Cela s'est également produit avec la vision originale d'Openai. Créé comme laboratoire pour le développement d'un bénéfique pour le monde, L'approche changerait bientôt. Pour partager les connaissances et les détails sur ses modèles, l'entreprise est devenue un bunker sécrétique.

Cherchant à être le monopole de l'IA

En tant qu'Oppenheimer, Altman croit que « la technologie se produit parce que c'est possible », et comme les autres avant lui – y compris l'un de ses mentors et amis, Peter Thiel – son objectif (comme ses concurrents, bien sûr) est clair comme Hao: ce qu'il veut, c'est créer un monopole de l'AI.

Nous avons vu qu'avec l'évolution de leurs modèles, de plus en plus puissante et que Ils étaient là pour gagner de l'argent. C'était la vision qui a fini par gagner. L'autre, pour essayer de développer un coffre-fort et « aligné sur les objectifs de la race humaine » a été en arrière-plan.

En fait, Hao le reflète bien dans le livre. Si OpenAI mène la carrière de l'IA aujourd'hui, il est non seulement d'avoir été le premier à lancer un chatbot comme Chatgpt, mais pour son escaladation apparemment disproportionnée.

Il a investi plus que quiconque depuis le début. Pour commencer, capturer des talents. Lorsque le projet a commencé à créer Openai Ilya Sutskever, j'ai travaillé dans Google Brain et j'étais déjà considéré comme une superlla de ce segment.

Le reste des membres fondateurs s'est vu offrir un salaire de 175 000 $ et des actions de YC Combinator ou SpaceX. Mais SUTSKEVER s'est vu offrir près de deux millions de dollars par anmais Google Counteroffiert sur une offre dont le chiffre final n'est pas connu.

Ce que l'on sait, c'est que Sutskever a fini par abandonner Google pour signer pour Openai – puis le quitter. En 2016 sur les 11 millions d'Openai, sept étaient pour les salaires. Initialement, la société « ne savait pas vraiment ce que je faisais », explique Hao: peu de choses dont ils ont travaillé fonctionnaient, et ceux qui l'ont fait « semblaient peu originaux ou quelque chose que quelqu'un avait déjà fait ».

Il y avait des paris plus ambitieux. Il est démontré par la célèbre démo de ce type de « GPT 2.5 » qui a fait Bill Gates en avril 2019. Jusque-là, ceux qui ont enquêté sur le développement de modèles fondamentaux de l'IA ont ainsi entraîné ces modèles avec quelques dizaines de GPU. Darío Amodei – qui a fini par quitter Openai à Co -confound Anthropic – a lancé cette nouvelle version de GPT dans 10 000 GPU Nvidia V100.

Probablement à ce moment-là, beaucoup cette extravagance très chère, un déchet – comme tant d'autres plus tard. Cette décision a été un témoignage du pari total d'Openai pour son approche. Celui qui lui a permis d'aller de l'avant pendant des années. Cette « démo des portes » C'est celui qui a fini par quitter le co-fondateur de Microsoft. Et c'était sans aucun doute l'une des raisons pour lesquelles Microsoft finit par investir ces premiers 1 000 millions de dollars dans l'entreprise. Comme les e-mails l'ont révélé entre Kevin Scott (CTO de Microsoft) à Satya Nadella et Bill Gates, la préoccupation concernant l'avantage de cette entreprise a conduit à l'avoir préféré comme allié en tant qu'ennemi. Comme nous le savons, la chose a fini par se tordre.

Le visage sombre de l'AI

Mais dans «Empire of Ai», il y a aussi une forte critique avec le côté plus sombre d'Openai. Un tragique et terrible qui nous dit comment l'entreprise a profité de la main-d'œuvre bon marché Des pays comme Kenia, où les travailleurs ont acquis une misère étiquetant le contenu toxique pour polir le fonctionnement de Chatgpt.

Les utilisateurs sont surpris par la façon dont il réagit et poliment, mais si le chatbot se comporte comme ça, c'est beaucoup grâce aux personnes qui ont maintenant un trouble de stress post-traumatique que les modérateurs YouTube ou Facebook l'avaient déjà fait.

Comme d'autres, Openai a également exploité des travailleurs des pays d'Amérique du Sud comme la Colombie, Chili – terrible ce que l'auteur détaille là-bas – ou Uruguay. Non seulement cela: Hao explique comment les géants technologiques tels que Google ont tenté de conclure des accords controversés avec certains de ces pays pour construire des centres de données qui menaceraient encore les maigres réserves d'eau potable du pays.

Cela s'est produit en Uruguay: Google a acheté 29 hectares là-bas pour construire un centre de données qui consommerait 7,6 millions de litres d'eau par jour pour refroidir les tâches. Cela équivaut à la consommation quotidienne de 55 000 personnes, dont beaucoup ne pouvaient pas permettre d'acheter de l'eau en bouteille.

Il y a bien plus que de découvrir ce travail de recherche frappant par Hao, sans aucun doute. Dans son prologue, il souligne déjà l'une de ses conclusions non seulement sur OpenAI, mais le reste des sociétés de l'IA: « Au fil des ans, je n'ai trouvé qu'une métaphore qui résume la nature de ce que sont ces pouvoirs de l'IA: empires. »

Dans un autre reflet de Hao, en parlant des origines d'Altman, il était encore plus brut:

« Cela révélerait dans quelle mesure le domaine de cette technologie – qui restructait déjà la société et transformant notre planète – est basé sur des valeurs polarisées, les egos sont confrontés et l'humanité désordonnée de Une petite poignée de personnes faillibles« 

Et à la fin, c'est toujours ça.

Disponibilité de «l'empire de l'IA»

«  Empire of AI '' de Karen Hao est disponible en anglais via la maison d'édition au pingouin aléatoire dans différentes librairies et magasins spécialisés en ligne. Pour le moment, il n'y a pas de détails ou de date de départ d'une édition possible en espagnol.

Plus d'informations | Livres aléatoires Penguin