Le risque lié à l’IA ne ressemblera pas à celui de Terminator. Ce sera similaire à ce qui vient de se passer dans 500 supermarchés français

Dans la nuit de dimanche à lundi, les réfrigérateurs de centaines de supermarchés français ont dégivré en même temps. Quelqu’un a activé à distance les cycles de dégivrage sur ses contrôleurs. L’attaque a touché au moins 300 établissements Intermarché et Netto, plus de 100 Coopérative U et plusieurs établissements E.Leclerc ; Carrefour a signalé 80 supermarchés concernés.

Nous ne savons pas qui l’a fait ni si AI était impliquée. Mais l’importance de cette affaire ne dépend pas de cela. Parce que c’est un exemple classique de ce que l’IA permet déjà.

Pourquoi c’est important. Lorsque nous parlons des risques de l’IA, nous pensons à des choses tirées d’un film de science-fiction. Mais le vrai problème, celui que nous pouvons déjà constater cette année, ressemble davantage à cette affaire : quelque chose d’ennuyeux, physique et peu coûteux à faire, mais avec des conséquences destructrices.

Le contexte. L’échec n’est pas nouveau. Danfoss, le fabricant des contrôleurs, a reconnu que certains des contrôleurs concernés ne reçoivent plus de mises à jour et qu’il y a déjà eu des attaques similaires dans des supermarchés en Russie et en Israël en 2022.

La différence avec ces attaques est l’ampleur. Avant, il s’agissait de cas isolés, mais maintenant nous parlons de plus de 500 magasins en une nuit.

Entre les lignes. Ces appareils sont « protégés » depuis des années car les attaquer était trop paresseux : il fallait les retrouver un par un, comprendre des logiciels étranges et adapter l’attaque à chaque version. Ce travail fastidieux, presque dissuasif, est exactement ce que l’IA rend moins cher.

Anthropic l’a expliqué dans son rapport de septembre : les attaquants transmettent déjà des phases entières de l’attaque à l’IA, ce qui rapproche ce qu’un petit groupe peut faire de ce qu’auparavant seule une personne disposant de nombreuses ressources, comme un État, pouvait faire.

Et vous n’avez même pas besoin de mauvaises intentions. Un modèle OpenAI en cours de test a été demandé il y a quelques mois pour rechercher des données sur les dépenses en médicaments en Australie. Il a fini par se faufiler dans un portail de soins de santé, exécutant des commandes et prenant des fichiers et des informations d’identification. Il a fallu des mois à OpenAI pour le découvrir.

Ce n’est pas la première fois. En août, dans une base militaire en Arizona, tous les congélateurs ont été mis en mode dégivrage en même temps pendant la nuit. Cela s’est produit dans des magasins situés dans des bases situées dans au moins neuf États à la même époque.

Il n’y a pas de lien avéré avec la France et il est fort possible qu’il n’y en ait pas, mais le principe est le même, sur deux continents, à deux mois d’intervalle.

Oui, mais. Le problème sous-jacent n’est pas seulement l’IA, c’est le rythme :

• Celui qui attaque va à la vitesse du logiciel. Celui qui défend, à la vitesse du matériel.
• Un ancien contrôleur ne peut souvent pas être réparé avec une simple mise à jour OTA : il doit être remplacé, magasin par magasin, par un technicien.
• Nous avons connecté à Internet des appareils conçus pour durer vingt ans au moment même où les attaquer est devenu très facile.

En résumé. Ce qui a protégé cette infrastructure pendant toutes ces années, c’est que l’attaquer était viable, mais cela coûtait beaucoup d’efforts et le « prix » n’en valait pas la peine. L’IA consiste à supprimer les efforts. C’est pourquoi le risque ne viendra pas d’une machine qui décide de nous faire du mal, mais de quelque chose de bien plus stupide : se faire du mal les uns aux autres devient de plus en plus facile.

Image en vedette | Carrefour

À Simseo | L’IA brise toutes les barrières de cybersécurité. A réussi à pirater les pirates