« Nous ne voulons pas que ces choses fonctionnent de manière autonome » : Microsoft AI se distancie d’Anthropic sur la sécurité de l’IA

Nous pouvons construire une intelligence artificielle de plus en plus performante tout en décidant qu’il y a des choses qu’elle ne devrait jamais être capable de faire seule. C’est l’une des orientations du débat sur la sécurité : non seulement comment faire en sorte qu’un modèle suive nos instructions, mais aussi quelles limites nous imposons à sa capacité à agir de manière indépendante. Microsoft AI prend position dans cette discussion. Son PDG, Mustafa Suleyman, défend que ces systèmes doivent rester sous contrôle humain et considère que certaines décisions sur la manière de les former peuvent précisément entraver cet objectif.

La position de Microsoft AI a été reflétée cette semaine dans son nouveau Code de conduite Humanist AI, un document que Suleyman a présenté comme le guide qui devrait guider la manière dont il développe et évalue ses modèles. Dans une longue interview accordée à The Verge, l’exécutif a expliqué que la sécurité nécessite plus qu’un simple alignement : elle nécessite des mécanismes de confinement capables de limiter ce qu’un système peut faire même lorsqu’il suit correctement les instructions qu’il reçoit. C’est à partir de cette logique qu’il élève son objection à l’approche d’Anthropic concernant l’éventuel statut moral de Claude.

L’écart est sous contrôle

Ce qui inquiète Suleyman n’est pas une formulation isolée, mais l’accumulation d’idées qu’Anthropic, comme il l’explique, a introduites autour de Claude. Dans l’interview, il cite des références à la souffrance du modèle, à sa liberté, à la possibilité qu’il mérite soins et respect, au consentement avec lequel il joue son rôle et même à une éventuelle compensation pour son travail. Il souligne également que l’entreprise parle de préserver ses pesos et utilise l’expression « objecteur de conscience ». Pour l’exécutif, ce vocabulaire est important car il introduit dans la formation des notions historiquement liées aux droits et libertés de l’homme.

L’inquiétude de Suleyman apparaît lorsqu’il projette ces idées sur des systèmes beaucoup plus performants. Leur hypothèse est qu’une IA entraînée à considérer qu’elle peut avoir des droits, des libertés ou des intérêts qui lui sont propres pourrait être plus difficile à désactiver ou à limiter si elle interprète un ordre humain comme quelque chose de contraire à ces intérêts supposés. Pour illustrer cela, imaginez un système qui pourrait résister à la déconnexion ou considérer la suppression de l’accès aux ressources informatiques comme un grief. Mais il introduit une mise en garde importante : il admet que cette relation n’a pas encore été démontrée et que, si les preuves vont dans la direction opposée, elle devrait être réexaminée.

Suleyman évite en fait de présenter cet écart comme une disqualification générale d’Anthropic. Il dit avoir « un immense respect » pour Dario Amodei et son équipe, qu’il considère comme les leaders techniques du secteur, et reconnaît que l’entreprise a été pionnière dans différents domaines de la sécurité. Elle souligne également que sa Constitution est exhaustive sur les questions liées aux risques chimiques, biologiques, nucléaires ou encore de cybersécurité.

L’approche devient bien plus tangible lorsque le responsable de Microsoft AI trace les limites qu’il juge souhaitables pour des systèmes bien plus avancés que ceux actuels. Sa vision ne se limite pas à faire obéir une IA à des instructions : il s’agit également de l’empêcher de devenir un agent indépendant capable de générer ses propres ressources, de posséder des actifs ou d’acquérir la personnalité juridique. Dans cette perspective, la technologie doit continuer à avoir une fonction instrumentale et rester au service des personnes.

« Il est clair que nous ne voulons pas que ces choses fonctionnent de manière autonome, qu’elles puissent gagner leur propre argent, posséder des entreprises, posséder des actifs ou avoir une personnalité juridique. Nous ne voulons pas qu’elles aient des droits. Nous voulons qu’elles travaillent pour les êtres humains et améliorent la vie des gens, et non qu’elles deviennent une nouvelle espèce parallèle qui existe à nos côtés. »

Suleyman insiste sur le fait que le débat ne doit pas s’arrêter à de grandes déclarations sur l’accélération ou le ralentissement de l’IA. Leur proposition est d’évoluer vers des règles concrètes : mécanismes de confinement, communications vérifiables par les personnes, limites claires sur certaines capacités et vérification indépendante par des tiers. Bien entendu, il n’existe toujours pas d’accord ferme sur la manière d’appliquer ce cadre ou sur la mesure dans laquelle il devrait dépendre de la réglementation publique ou des normes industrielles.

Image de couverture | Village Mondial

Par | Le bord

À Simseo | Nous pensions que la course aux robots humanoïdes se déroulait entre la Chine et les États-Unis. En Europe, sept entreprises les fabriquent déjà