Distillé Deepseek-R1: tester avec AMD Ryzen et Radeon Cards

LE modèles de raisonnement Ils sont une nouvelle classe de grands modèles linguistiques (LLM) conçus pour faire face à des tâches très complexes en utilisant le Raisonnement de la chaîne de réflexion (COT)avec l’inconvénient de demander plus de temps pour répondre. Deepseek-R1 est le modèle du « raisonnement » d’une frontière récemment libérée et dont le monde entier parle, qui a été distillé dans des modèles plus petits très compétents.

Voici comment la mise en œuvre de ces modèles distillés Deepseek-R1 peut avoir lieu sur les processeurs AMD Ryzen et sur les cartes graphiques Radeon, à travers Studio LM.

Comment fonctionnent les modèles de raisonnement

Les modèles de raisonnement Ajouter une phase « réflexion » Avant la sortie finale, qui peut être vue en élargissant la fenêtre « Réflexion » avant que le modèle ne fournisse la réponse finale. Contrairement au LLM conventionnel, qui donne une seule réponse, les Cots LLM effectuent un raisonnement approfondi avant de répondre. Les hypothèses et l’auto-réflexion que le LLM effectue est visible pour l’utilisateur et cela améliore la capacité de raisonnement et d’analyse du modèle, même si au prix d’un temps beaucoup plus long pour obtenir le premier (sortie finale) jeton (ou jeton).

Un modèle de raisonnement peut dépenser des milliers de jetons (et l’utilisateur peut voir cette chaîne de pensées!) Pour analyser le problème avant de donner une réponse finale. Cela permet au modèle d’être excellent dans les tâches complexes de résolution des problèmes mathématiques et scientifiques et de traiter un problème complexe sous tous les angles avant de décider d’une réponse.

Selon le matériel AMD, chacun de ces modèles offrira une capacité de raisonnement à coupure sur le processeur AMD Ryzen vers ou sur les cartes graphiques Radeon.

Comment effectuer les modèles de « raisonnement » Deepseek R1 Distillé sur AMD Ryzen AI et Radeon Graphic Cards

Pour effectuer Deepseek-R1 distillé, suivez simplement quelques étapes simples pour être immédiatement opérationnelle (selon la vitesse de téléchargement).

Phase 1: Assurez-vous d’utiliser Le Adrénaline en option 25.1.1, qui peut être téléchargé directement à partir de Ce lien.

Phase 2: Télécharger LM Studio 0.3.8 ou supérieur par lmstudio.ai/ryzenai.

Phase 3: Installer LM Studio et sautez l’écran de démarrage.
Phase 4: Cliquez sur la carte Scouvertures.

Phase 5: Choisissez le distillateur Depseek R1. LE divertir plus petit, comme le Qwen 1.5bOffrez des performances très rapides (et ils sont le point de départ recommandé), tandis que les plus grandes distils offrent une capacité de raisonnement plus élevée. Tout le monde est extrêmement capable.

Le tableau suivant illustre les dimensions maximales recommandées pour le distillateur Deepseek R1:

ProcesseurEt	*Deepseek R1 Distill (max soutenu)**
AMD Ryzen ™ AI Max + 395 32 Go¹64 Go²et 128 Go	Deepseek-R1-Distil-Late-70B (64 Go et 128 Go uniquement) Deepseek-R1-Distil-Qwen-32B
AMD Ryzen ™ AI HX 370 et 365 24 Go et 32 Go	Deepseek-R1-Distil-Qwen-14b
AMD Ryzen ™ 8040 et Ryzen ™ 7040 32 Go	Deepseek-R1-Distil-Late-14b

Carte graphique	*Deepseek R1 Distill (max soutenu¹)**
AMD RADEON ™ RX 7900 XTX	Deepseek-R1-Distil-Qwen-32B
AMD RADEON ™ RX 7900 XT	Deepseek-R1-Distil-Qwen-14b
AMD RADEON ™ RX 7900 GRE	Deepseek-R1-Distil-Qwen-14b
AMD RADEON ™ RX 7800 XT	Deepseek-R1-Distil-Qwen-14b
AMD RADEON ™ RX 7700 XT	Deepseek-R1-Distil-Qwen-14b
AMD RADEON ™ RX 7600 XT	Deepseek-R1-Distil-Qwen-14b
AMD Radeon ™ RX 7600	Deepseek-R1-Distil-Late-8b

Phase 6: Sur le côté droit, assurez-vous que la quantification est sélectionnée « Q4 km » et cliquer « Télécharger ».
Phase 7: Une fois téléchargé, revenez dans l’onglet Chat et sélectionnez le distillateur de Depseek R1 dans le menu Drop -Down et assurez-vous que l’option « Sélectionnez manuellement l’option Paramètres » est sélectionnée.
Phase 8: Dans les niveaux de GPU de déchargement, déplacez le curseur au maximum.

Phase 9: Faire un clic Modèle de charge.

Étape 10: Maintenant, nous pouvons interagir avec un modèle de raisonnement qui va complètement sur le matériel AMD local!

Notes

GD-97 – Les liens vers des sites de troisième partie sont fournis pour la commodité et, sauf indication contraire, AMD n’est pas responsable du contenu de ces sites connectés et aucune approbation n’est implicite.
Gd-220e – Ryzen Ai est défini comme La combinaison d’un moteur au dédié, du moteur graphique AMD Radeon et le noyau du processeur Ryzen qui permettent la fonctionnalité de l’IA. La qualification de l’OEM et de l’ISV est nécessaire et certaines fonctionnalités des fonctionnalités peuvent ne pas encore être optimisées pour les processeurs Ryzen AI. Ryzen AI est compatible avec: (a) AMD Ryzen Processeurs 7040 et 8040 Série et Ryzen Pro Processeurs 7040/8040, à l’exception des processeurs Ryzen 5 7540U, Ryzen 5 8540U, Ryzen 3 7440U et Ryzen 3 8440u; (b) Processeurs AMD Ryzen aux 300 Série et processeurs AMD Ryzen à la Série Pro 300; (c) Tous les processeurs de bureau AMD Ryzen 8000g Series, à l’exception de Ryzen 5 8500G / GE et Ryzen 3 8300G / GE; (d) les processeurs AMD Ryzen 200 Série et Ryzen Pro 200, à l’exception de Ryzen 5 220 et Ryzen 3 210; (e) Les processeurs AMD Ryzen de la série Max et Ryzen à la série Pro Max.

Avant d’acheter, vérifiez la disponibilité des fonctions avec le fabricant du système.