Votre IA générative pour PC compatible avec GeForce RTX 30 et 40 est ici

Les processeurs graphiques sont à l’aise avec l’intelligence artificielle (IA). Très confortable. Plus que des processeurs. La raison est que ces algorithmes bénéficient d’une architecture qui privilégier le parallélisme massif, c’est précisément ce que nous proposent les GPU, mais pas les CPU. Les puces de la famille GeForce RTX de NVIDIA intègrent notamment plusieurs sous-systèmes spécifiques qui cherchent précisément à augmenter leurs performances lors de l’exécution des processus d’IA.

Les cœurs tenseurs sont des unités fonctionnelles matérielles spécialisées dans la résolution d’opérations matricielles prenant en charge une parallélisation élevée. En fait, ils ont été expressément conçus pour exécuter efficacement les opérations requises par les algorithmes d’apprentissage profond et le calcul haute performance. De plus, ils jouent un rôle essentiel dans la technologie DLSS (), ils ont donc un rôle évident dans la reconstruction d’images à l’aide du DLSS 3.

La décision que NVIDIA vient de prendre a tout son sens si l’on garde à l’esprit ce que nous venons de passer en revue. Si vos derniers GPU sont prêts à exécuter des algorithmes d’IA avec une efficacité remarquable, pourquoi ne pas en profiter au-delà des jeux ? C’est exactement ce que cette entreprise nous propose aujourd’hui. Et les utilisateurs de les GeForce RTX 30 et 40 Pour les ordinateurs de bureau ou portables, vous pouvez désormais installer « Chat with RTX » sur votre ordinateur, un outil qui, en quelque sorte, agit comme un ChatGPT personnalisé.

Un modèle d’IA personnalisé basé sur notre propre contenu

Comprendre ce qu’est et n’est pas « Chat avec RTX » n’est pas difficile. NVIDIA le définit comme une application qui nous permet de personnaliser un grand modèle de langage en l’alimentant avec notre propre contenu, comme des documents texte, des notes ou des vidéos. En pratique, cela signifie que cet outil met entre nos mains un modèle d’intelligence artificielle qui nous permettra de faire des requêtes en prenant comme contexte nos propres informations. En fait, il prend en charge plusieurs types de fichiers, tels que .pdf, .docx ou .xml.

Cependant, nous pouvons également vous donner l’URL d’une playlist YouTube et l’application renverra la transcription du contenu des vidéos collectées par ce référentiel. De là, nous pouvons effectuer des requêtes sur le contenu de la transcription. Ça n’a pas l’air mal du tout. Une remarque importante : tout fonctionne localementsur notre propre PC, de sorte que les requêtes que nous effectuons sont sécurisées dans la mesure où aucune de nos données ne part vers Internet.

Selon NVIDIA, « Chat with RTX » profite des unités fonctionnelles implémentées dans les GPU GeForce RTX 30 et 40 expressément pour gérer les algorithmes d’intelligence artificielle, tels que les cœurs Tensor et RT. La mise en place de la version test de cet outil à laquelle nous avons eu accès pour préparer cet article n’a pas été anodine, mais après quelques ajustements cela a fonctionné correctement. Cet exemple illustre bien quel type d’opérations nous pouvons réaliser avec cet outil en agissant sur nos données.

Comme nous l’avons vu, l’entrée que nous devons fournir pour « Discuter avec RTX » doit être un dossier contenant nos documents .docx, .pdf ou similaires, ou l’URL d’une playlist YouTube. Pour la tester, je lui ai remis un dossier dans lequel je garde plusieurs documents PDF avec mes fiches de paie, mon contrat de travail et autres documents professionnels, et une fois qu’elle a tout indexé, je lui ai posé des questions sur mon salaire, mes retenues, etc. Et il avait raison. Avec tout. Le modèle d’IA que j’ai utilisé (l’outil nous permet d’utiliser Mistral, qui est celui que j’ai utilisé, ou LLaMA) fonctionne à merveille. Fiancé.

Plus d’informations | Nvidia

À Simseo | L’IA a fait monter en flèche les prévisions de ventes de NVIDIA. À tel point que TSMC ne fournira pas de puces