La Corée du Sud vient d'activer son IA hyperscale. Cela s'appelle AX K1 et ils veulent que ce soit « une IA pour tout le monde »
La course à l’intelligence artificielle est le nouveau diamant de l’économie de nombreux pays. Une situation dans laquelle ils jettent de l'argent comme si c'était la fin du monde et qui a de graves implications sur des questions qui touchent les citoyens comme l'énergie, l'emploi et avec une dernière controverse : le prix exorbitant de la mémoire RAM. Les grandes puissances veulent être souveraines dans ce domaine, et la Corée du Sud vient de mettre en marche son premier modèle d’intelligence artificielle hyperscale.
Son nom pourrait être celui d'un des fils d'Elon Musk : AX K1.
En bref. Développé par le géant SK Telecom, AX K1 est un modèle qui compte 519 milliards de paramètres au total, même si lors de l'inférence, qui est le cas d'utilisation pratique, il n'en active « que » environ 33 milliards. Il est toujours précis (aussi précis que peut l’être une IA) mais consomme beaucoup moins de ressources. Ce mode 519B – A33B est basé sur l'architecture « mélange d'experts » qui sélectionne dynamiquement les sous-ensembles de paramètres optimaux pour chaque tâche en temps réel.
Ces paramètres sont comme les connexions neuronales qui permettent au modèle « d'apprendre » pendant l'entraînement, et le fait que la Corée du Sud dispose déjà d'un modèle hyperscale constitue un énorme pas en avant dans la position du pays dans le paysage mondial de l'IA.
Modèle maître. La conception de ce modèle permet des performances stables dans des tâches telles que le raisonnement avancé, les mathématiques et la compréhension multilingue, mais il existe également un concept intéressant : il fonctionne comme un « modèle maître ». Ces modèles sont ceux qui transfèrent les connaissances vers des modèles plus petits. Alors que le maître sait tout, le modèle plus léger est spécialisé dans une tâche précise.
Et, alors que le grand modèle consomme une énorme quantité de ressources, « l’étudiant » qui hérite de fonctionnalités complexes sans avoir à gérer autant de paramètres peut fonctionner sur des appareils et des environnements dotés de ressources plus limitées. Par exemple, l'AX K1 avec ces 512B peut « transférer son savoir » à ceux en dessous de l'échelle 70B, beaucoup plus spécialisés et moins chers.
« En tant que leader coréen de l'IA, nous continuerons à poursuivre nos efforts pour offrir l'IA à tous » – Tae Yoon Kim
« L'IA pour tous. » En moins de mots : le modèle maître permet d’accélérer l’expansion de l’IA car l’hyperscale est utilisée pour la recherche, mais l’échelle inférieure est utilisée pour des produits plus quotidiens. Et c'est précisément ce que souhaite SK Telecom : que son IOA soit la base sur laquelle le pays opère. En collaboration avec différentes universités, associations et grâce au fabricant de mémoire SK Hynix – l'un des géants du secteur et membre de SK Telecom -, l'entreprise espère qu'elle sera la base d'une « IA pour tous ».
Cela implique qu'ils le déploieront dans leurs services et, comme elle est open source, son API peut servir de base à d'autres modèles dans les écosystèmes universitaires, commerciaux et même nationaux. En fait, on parle déjà de solutions très spécifiques, comme l'accès à l'IA via des SMS et même des appels téléphoniques, mais aussi des services de recherche multilingues et même un renforcement de l'IA dans les jeux vidéo. Et bien sûr pour la robotique humanoïde ou pour l’éducation.
Le grand avantage du consortium propriétaire d'AX K1 est qu'il est l'un des plus grands groupes au monde, présent dans les secteurs des semi-conducteurs, de la téléphonie, des transports, de la construction, de l'énergie et des jeux vidéo. Par conséquent, vous pouvez facilement faire évoluer cette technologie.
Troisième en lice. SK Telecom a confirmé son intention de continuer à étendre son modèle avec une exécution basée sur des agents et ces 519B permettront à la Corée de devenir « l'un des trois premiers pays en matière d'intelligence artificielle au monde », selon les mots de Tae Yoon Kim, l'un des responsables du modèle.
L'intention du groupe est d'aider à « consolider la Corée du Sud comme l'un des trois premiers pays en matière d'intelligence artificielle au monde », une course qui accapare des ressources difficiles à contextualiser tant aux États-Unis qu'en Chine et qui écrase des marchés tels que la RAM grand public.
Images | SK Télécom
À Simseo | Le déploiement exorbitant de centres de données pour l'IA pose un nouveau problème : les cavernes de sel
