Microsoft a déjà un rival pour Gemini Nano. Ça s’appelle Phi-2 et ça peut fonctionner sur les téléphones portables (plus ou moins)

Il y a quelques jours, Google a lancé l’ère de l’IA de poche avec Gemini Nano, son modèle d’IA textuelle générative capable de fonctionner directement depuis le téléphone mobile et sans connexion au cloud. Microsoft vient de surprendre tout le monde avec le lancement de son rival, un Small Language Model (SLM) appelé Phi-2, qui peut également être utilisé sur les téléphones mobiles.

Phi-2. Chez Microsoft Research ils ont indiqué que ce nouveau modèle de synthèse texte-texte est « suffisamment petit pour fonctionner sur un ordinateur portable ou un appareil mobile ». Satya Nadella nous en avait déjà parlé lors du récent événement Ignite 2023, et il s’agit de l’évolution de Phi-1, qui n’avait que 1,3 milliard de paramètres.

Un ChatGPT dans un format compact. Nous avons affaire à un modèle avec 2,7 milliards de paramètres (2,7 milliards), un chiffre qui le guide clairement précisément pour être utilisé dans des appareils plus modestes. Sur Google Gemini Nano, il existe deux versions avec par exemple 1 800 (1,8 B) et 3,25 milliards (3,25 B) de paramètres.

Minuscule mais tyrannique. C’est le cas, du moins selon les responsables. La raison? Il est capable d’égaler et même de surpasser les performances et la précision de modèles théoriquement plus performants tels que le Llama 2-7B ou le Mistral-7B. Dans les tests effectués en interne, les performances sont excellentes malgré près d’un tiers des paramètres de ces modèles.

Il surpasse également Gemini Nano. Le nouveau modèle de Microsoft est également capable de surpasser les performances du Gemini Nano 3.25B, le modèle « mobile » le plus ambitieux de Google, et selon les chercheurs de l’entreprise, il est également capable d’offrir moins de « toxicité » et d’être plus subjectif dans les réponses que celles proposées. , par exemple, par Llama 2.

Les comparaisons sont odieuses. Lors de la présentation du modèle, Microsoft a rappelé que la spectaculaire démonstration de Gemini Ultra n’avait pas été aussi spectaculaire. Il avait un peu triché. Dans l’une des sections, Google a montré comment Gemini Ultra était capable d’aider un étudiant ayant des problèmes de physique, et chez Microsoft, ils ont utilisé les mêmes invites avec Phi-2 et on a vu qu’il était également capable de résoudre ces doutes même si c’était le cas. un modèle beaucoup plus petit. .

Juste pour enquêter. Malgré cette capacité, Phi-2 n’atteindra pas nos téléphones portables, du moins pour le moment. Le modèle est sous licence « à des fins de recherche » uniquement et ne peut pas être déployé commercialement. On parle de la possibilité de l’utiliser « à des fins non commerciales qui ne génèrent pas de revenus », mais son application pratique est un peu moins directe. Il est toutefois accessible via le catalogue de la nouvelle plateforme Azure AI Studio.