Brad Smith, président de Microsoft : « À l’heure actuelle, votre machine à laver est soumise à plus de règles de sécurité que l’IA »

Brad Smith, président de Microsoft, a récemment fait une déclaration sur l’état du paysage de l’IA en termes de réglementation. Il n’y a rien d’extraordinaire, et Smith lui-même soutient que même un carton de lait a plus de protocoles de sécurité que les systèmes d’IA les plus grands et les plus puissants au monde (ce qui, d’un autre côté, n’est pas un point si controversé étant donné que c’est quelque chose que nous ingérons dans notre vie quotidienne). Smith réclame des normes mondiales précisément à un moment où la Maison Blanche préfère que l’industrie se régule elle-même.

Collision frontale. Smith représente l’un des postes les plus importants au sein de l’une des entreprises les plus impliquées dans l’IA. Microsoft exploite une infrastructure d’IA et est actionnaire d’OpenAI. Sa pétition place donc l’entreprise en contradiction avec la position du président Donald Trump, qui a déclaré que le secteur devrait s’autoréguler afin que les entreprises américaines ne perdent pas de terrain dans la course à l’IA contre la Chine.

Ce que ça dit. S’adressant au podcast Big Boss Interview de la BBC, Smith a déclaré que « à l’heure actuelle, votre machine à laver est soumise à davantage de normes de sécurité que l’IA », ajoutant que chaque carton de lait dans un supermarché est soumis à des normes de sécurité et d’inspection. Il a décrit l’IA comme à la fois un « outil et une arme » et a déclaré que la technologie progresse « plus vite que la vitesse de la sécurité ».

Ce qu’il veut. Smith a établi trois mesures :

• Un frein d’urgence. Cela permettrait aux entreprises de suspendre ou de ralentir un système d’IA qui devient incontrôlable. Smith a déclaré lors de l’entretien que cela devrait s’appliquer aux systèmes qui contrôlent les appareils autonomes ou les infrastructures critiques, et incomber aux entreprises qui gèrent les modèles et l’infrastructure cloud qui les sous-tendent. C’est une mesure à laquelle Satya Nadella lui-même, PDG de Microsoft, a également fait référence récemment.
• Déclaration obligatoire des incidents. Si un agent malveillant ou un agent d’IA malhonnête s’infiltre dans un système, la « victime » doit en être informée, tout comme les organisations sont déjà tenues d’informer leurs clients en cas de faille de sécurité.
• Approbation indépendante avant le lancement. Smith considère cette décision comme la plus importante, insistant sur le fait que les testeurs gouvernementaux examineraient les modèles frontières avant qu’ils n’atteignent le public, comme c’est déjà le cas pour des produits comme les avions commerciaux de passagers.

« Nous savons comment procéder pour d’autres produits », a déclaré Smith. « Nous devrions tirer parti de ces connaissances et réfléchir à la manière de les appliquer à l’IA. »

Pourquoi le Royaume-Uni. Smith a fait valoir que la Grande-Bretagne est la mieux placée pour diriger les normes mondiales grâce à son AI Safety Institute (AISI), créé sous l’ancien Premier ministre Rishi Sunak.

Selon Politico, la Maison Blanche aurait demandé le mois dernier à Anthropic et OpenAI de ne pas mettre leurs nouveaux modèles à la disposition des testeurs britanniques. Lundi, l’AISI a confirmé qu’elle pouvait toujours accéder et tester les derniers modèles, selon TechCrunch.

La voie volontaire. À la fin du mois dernier, Trump a réuni les dirigeants d’OpenAI, Anthropic, Nvidia, SpaceX, Meta et Google à la Maison Blanche. Lors de cette réunion, de nombreuses entreprises ont signé un document « moralement contraignant », selon Trump lui-même, dans lequel les entreprises acceptaient de travailler avec des auditeurs indépendants pour vérifier que leurs systèmes fonctionnent sans comportement erratique. Microsoft n’a pas signé à ce moment-là.

Smith a déclaré qu’il applaudissait la déclaration et que Microsoft était « ravi de la signer ». Mais il l’a décrit comme « un bon pas, c’est un pas nécessaire. Mais je ne pense plus que ce soit suffisant ». La faiblesse de l’autorégulation, affirme-t-il, réside dans le fait que « les bonnes entreprises feront ce qu’on leur demande de faire », alors que « celles dont vous devez vous inquiéter sont celles qui ne sont pas aussi responsables ».

Image de couverture | Microsoft

À Simseo | Le risque lié à l’IA ne ressemblera pas à celui de Terminator. Ce sera similaire à ce qui vient de se passer dans 500 supermarchés français