Les entreprises qui accélèrent l’IA depuis des années commencent à parler de limites. Microsoft vient de mettre le sien par écrit

Ces dernières années, le message de l’industrie de l’IA n’a suivi qu’une seule maxime : plus. Plus rapide, plus grand, plus puissant et plus transversal. Mais désormais, presque tous les grands acteurs du secteur aux États-Unis, ceux-là mêmes qui ont appuyé sur l’accélérateur, sèment le doute, demandent des ralentissements et commencent à parler de limites. Au-delà des raisons, parce que ce qu’ils disent peut être une chose et pourquoi ils demandent d’arrêter peut en être une autre, ce qui semble clair c’est qu’il existe une série de codes de conduite qu’ils semblent vouloir mettre en œuvre dans leurs modèles.

Et Microsoft vient de s’associer solennellement à une ébauche de son code de conduite pour les modèles d’IA. C’est comme un manuel d’instructions éthiques pour vos futurs modèles qui ressemblent aux 10 commandements bibliques.

Frontières. Partant du principe qu’« un grand pouvoir implique de grandes responsabilités », les startups de l’IA et les géants de l’industrie appliquent des codes de conduite et des directives éthiques à leurs modèles. Certains l’ont déjà fait, comme Anthropic et sa politique de mise à l’échelle responsable de 2023 dans laquelle ils s’engagent à ne pas former de modèles puissants sans s’assurer au préalable qu’ils peuvent être contrôlés en toute sécurité.

De plus, OpenAI, après une crise interne au cours de laquelle les employés ont signé une lettre d’avertissement sur le danger de faire évoluer la technologie, a commencé à appliquer des règles à son IA et Google Deepmind a fait quelque chose de similaire en 2024 avec son Frontier Safety Framework pour détecter quand un modèle atteignait des capacités dangereuses, comme pouvoir être utilisé dans des domaines tels que le développement d’armes biolotiques ou présenter un danger pour la cybersécurité. Aujourd’hui, Microsoft s’associe à lui avec un texte dans lequel il reconnaît que l’industrie traverse un moment vertigineux.

Code de conduite Microsoft. Dans le document, le géant américain explique comment les systèmes d’IA deviennent beaucoup plus performants tous les quelques mois et, compte tenu des événements récents (notamment ceux des agents d’IA), il estime qu’il n’y a plus de temps à perdre.

Microsoft parle des règles pour éviter de perdre le contrôle de la technologie et, sous l’étiquette d’« IA humaniste », une idée que le responsable de l’IA de l’entreprise, Mustafa Suleyman, a déjà explorée il y a quelques mois, ils parlent de la façon dont les gens comptent plus que l’IA et que toute technologie qui ne peut pas être gardée sous contrôle humain doit être mise en quarantaine.

Les « commandements ». Après un préambule dans lequel ils commentent également qu’une IA conçue pour servir l’humanité ne peut pas être déterminée par une seule entreprise, ils exposent ces dix commandements qu’ils considèrent que toutes les entreprises sous le feu des projecteurs devraient respecter.

Ils soulignent que « l’IA évolue rapidement et, ce faisant, nous pensons qu’il vaut la peine d’établir des règles et des motivations derrière elle, également dans un espace aussi ouvert que possible ». Ils proposent donc le code de conduite suivant :

1. Les gens comptent plus que l’IA.
2. L’IA ne devrait pas avoir de droits légaux ni de personnalité. Il n’est PAS conscient et ne doit pas non plus être conçu pour imiter la conscience, en évitant de le concevoir pour éviter la représentation des sentiments.
3. Un modèle d’IA ne doit rien faire qui puisse violer de manière significative ce code de conduite, car l’IA ne doit pas dépasser le contrôle humain et doit rester subordonnée à l’humanité.
4. Si vous enfreignez le code ou échouez dans votre tâche, vous violez ce code de conduite.
5. Ne participez pas à la course à la production d’une superintelligence capable d’échapper aux mesures de protection.
6. Les modèles ne seront jamais capables de résister à l’interruption, au dépassement, à la correction ou à la fermeture humaine car ils reconnaîtront toujours la supériorité de l’intention humaine.
7. Ils ne peuvent pas communiquer dans leur « propre langage » et toute communication doit être compréhensible par les humains, que ce soit dans leur chaîne de pensées ou dans leurs interactions avec d’autres agents ou systèmes d’IA.
8. L’IA devrait nous aider à nous développer, et non nous rendre dépendants d’aucune façon (fonctionnellement ou émotionnellement).
9. Pluralisme, mais sans relativisme moral. Tout n’est pas possible et doit être ancré dans des valeurs humaines inclusives telles que la dignité, la sécurité, l’autonomie et les droits humains fondamentaux.
10. Soyez clair sur ce que fait l’IA, ce qu’elle ne devrait jamais faire et ce qu’elle fera.

Le gros doute. Microsoft lui-même admet dans le texte lui-même que ses modèles actuels ne sont pas encore formés selon ce code et cela soulève deux questions. La première est de savoir si les autres concurrents l’accepteront et si, si c’est le cas, ils supporteront leurs propres limites.

Ce sont des questions significatives dans un contexte actuel où des membres notables d’entreprises qui semblaient avoir des codes à toute épreuve ont admis qu’ils allaient trop vite et trop loin, les avertissements constants de danger concernant les modèles qu’ils développaient eux-mêmes ou des actions telles que l’aveu qu’ils développaient des modèles si puissants que les systèmes de protection internes étaient à la traîne.

Nous avons parlé d’Anthropic et de son engagement responsable à l’horizon 2023 au début du texte, mais cette année, un rapport du Time a révélé qu’ils avaient retiré la promesse de ne pas entraîner les modèles s’ils ne pouvaient garantir qu’ils étaient en sécurité. Le directeur scientifique d’Anthropic a expliqué que cela n’avait aucun sens que l’entreprise prenne des engagements unilatéraux alors que ses concurrents continuent d’avancer à toute vitesse. Et maintenant, ils ont publié une autre tirade parlant des dangers de l’IA lorsqu’elle est utilisée à des fins malveillantes.

Utopie. Et c’est là que réside la clé de tout cela. Bien que ce que propose Microsoft ne soit pas lettre morte (en fait, il encourage les entreprises qui souhaitent le réviser à le signer dans six semaines), il nous est difficile de voir quelque chose comme ça quand il y a une guerre à trois. D’un côté, les entreprises américaines entre elles, rivalisant pour avoir le meilleur modèle afin de remporter des contrats au moment même où certaines sont sur le point de devenir des entreprises publiques. D’un autre côté, la guerre qu’ils mènent contre les modèles chinois, qui risquent de ne pas suivre ces lignes directrices et de se débrouiller seuls comme ils l’ont fait jusqu’à présent.

Enfin, et presque surtout, parce que l’IA est devenue une affaire d’État. Ce n’est plus Anthropic ou Deepseek, ce sont les États-Unis et la Chine. Les deux pays ont présenté l’IA comme quelque chose de clé pour atteindre la supériorité technologique sur le rival, l’outil pour devenir la première puissance mondiale et, dès que nous avons eu un soupçon de doute et qu’il a été mentionné que nous devions peut-être ralentir, des voix comme celle de Trum ont émergé pour dire que si nous ralentissons, rien. Jensen Huang, de Nvidia, est dans la même catégorie. La Chine est favorable à la création d’un cadre commun pour établir des règles… mais sans s’arrêter.

L’intention derrière ce code est peut-être sincère, mais la leçon inconfortable est que tout le monde veut gagner la course et maintenant ils disent qu’il y a une raison de craindre l’IA… et que nous devrions leur faire confiance. Garantie? Confiance.

Images | Simseo avec les Gémeaux

À Simseo | OpenAI et Anthropic tentent de faire avec l’IA ce que Rockefeller a fait avec le pétrole