GPT-4 était déjà un pas de géant par rapport à ChatGPT. GPT-4 à 32K est tout simplement un changeur de jeu

La sortie de GPT-4 en mars 2023 a démontré que ce que ChatGPT avait proposé n’était qu’un début. Le nouveau modèle est beaucoup plus puissant, mais il n’y a pas non plus de version unique de GPT-4. Celle que nous connaissons est la version « de base », mais il en existe une autre qui est encore plus puissante et offre des capacités étendues et vraiment frappantes.

Version de base de GPT-4. Comme ils l’expliquent à OpenAI, GPT-4 a une longueur de contexte de 8 192 jetons (8K). Qu’est ce que ça signifie? Nous pouvons tout au plus utiliser des invites dans lesquelles le nombre total de jetons est de 8 192. Un jeton peut être équivalent à un mot mais aussi à un groupe de mots selon le texte, mais en termes simples on pourrait penser que GPT-4 dans cette version « de base » supporte environ 12 pages de texte.

Qu’en est-il de ChatGPT ? Selon des estimations d’experts, GPT-3, sorti en 2020, avait une longueur de contexte de 2 048 jetons. Pour sa part, ChatGPT, qui est basé sur ce qui serait GPT-3.5, a doublé ce chiffre à 4 096 jetons. Cela a une conséquence fondamentale sur la façon dont nous utilisons ces modèles : nous ne pouvons pas entrer de très longues questions ou certainement de très longs documents sur lesquels nous pouvons ensuite poser des questions sur GPT-3 ou ChatGPT.

GPT-4 32K. Mais en plus de la version standard ou de base, OpenAI propose une version de GPT-4 avec une longueur de contexte de 32 768 jetons, ce qui signifie pouvoir saisir environ 50 pages de texte en entrée. Cette version a un accès encore plus limité que GPT-4. Le prix pour pouvoir utiliser cette version change, et il est le double de celui avec GPT-4 8K.

Mais ces 32K donnent beaucoup de marge de manœuvre. Qui l’a essayé indiquer que « GPT-4 32K fait ressembler la version régulière de GPT-4 à un jouet. » Les options qu’il offre sont beaucoup plus nombreuses, en particulier lorsque vous travaillez avec de longs documents. L’exemple clair est de résumer ces documents et de répondre aux questions à leur sujet, quelque chose de très utile qu’un entrepreneur nommé Matt Shumer vers avec une étude de recherche.

plus de code s’il vous plait. Il en est de même pour les développeurs. L’introduction du code complet d’applications de taille respectable -on insiste, ici les jetons de 32K donnent une grande marge de manœuvre- rend GPT-4 capable de analyser ce code et suggérer des améliorations ou corriger des erreurs. Les options dans ce domaine sont également énormes.

acheter de temps en temps. GPT-4 et ChatGPT vous permettent de gagner du temps et de le consacrer à d’autres choses, et GPT-4 32K fait exactement la même chose, mais avec une plus grande capacité. Il est possible, par exemple, de passer des dizaines d’articles complets sur internet pour obtenir plus tard un résumé personnalisé de l’actualité.

Une IA personnelle. Shumer a également expliqué comment cette longueur de contexte lui permettait de saisir des données sur lui-même et sur son entreprise, HyperWrite. À partir de là, GPT-4 pourrait répondre aux questions et discuter des problèmes liés aux données saisies, devenant ainsi un assistant plus personnel.

Ce n’est pas bon marché (ou peut-être que ça l’est). De toute évidence, le prix d’utilisation du GPT-4 32K signifie que profiter de ces options peut être quelque peu coûteux. En tenant compte du fait que le coût est de 0,06 dollar pour 1 000 jetons, l’utilisation d’une invite qui tire parti de la pleine capacité du modèle implique que pour chaque question de ce type, nous payons 2 dollars. Ce nombre peut être considéré comme élevé si l’on ne fait pas un usage trop rentable de ces options, mais pour de nombreuses personnes – entreprises, développeurs, utilisateurs professionnels – la rentabilité de quelque chose comme cela peut être spectaculaire en temps et en ressources, et GPT-4 32K pourrait être dans ces cas le contraire de cher.

À Simseo | « Nous nous trompons »: l’IA d’OpenAI était trop ouverte, donc GPT-4 est totalement secret