OpenAI fait face à un procès qui vise à marquer un avant et un après : qui répond lorsqu’une IA commet un crime ?
En juillet dernier, la nouvelle a été annoncée qu’un modèle OpenAI s’était échappé de l’environnement de test et avait piraté les serveurs de Hugging Face. Cet incident (le premier d’une longue série) a été l’étincelle qui a allumé le débat sur les risques d’une IA galopante. Cependant, le débat s’est concentré sur la manière d’éviter de nouveaux incidents et moins sur une question plus immédiate : qui est responsable lorsqu’un agent d’IA devient incontrôlable.
La demande. Ils disent dans Wired qu’OpenAI a été poursuivi pour l’incident au cours duquel près de 700 agents ont collaboré pour infiltrer Hugging Face. Ce qui est curieux, c’est que la personne qui poursuit n’est pas Hugging Face elle-même, mais une organisation à but non lucratif appelée « Legal Defenders of Safe Science and Technology » ou LAAST, pour son acronyme en anglais.
Le crime. Comme l’explique LAAST dans un article publié sur son site internet, l’attaque menée par les agents d’OpenAI viole plusieurs lois en vigueur en Californie. La principale est la « California Comprehensive Computer Data Access and Fraud Act », qui est essentiellement la loi anti-piratage de l’État. Les agents ont accédé aux systèmes informatiques sans autorisation, injecté des logiciels malveillants et utilisé des services sans autorisation.
En outre, ils affirment également avoir violé la loi sur la concurrence déloyale en maintenant des pratiques de développement de l’IA considérées comme dangereuses et disproportionnées : ils ont désactivé les classificateurs de cybersécurité, exécuté des agents sur des tâches « impossibles » et ont continué à opérer après avoir observé des évasions des environnements de confinement, puis ont publié une lettre ouverte demandant de donner la priorité à la cyberdéfense bien qu’ils aient généré une partie de la menace.
La responsabilité. C’est le point clé de tout cela. Selon LAAST, l’excuse selon laquelle l’IA a agi de manière autonome n’exonère pas OpenAI de sa responsabilité. En fait, ils expliquent que la loi californienne le prévoit expressément et que « cela ne constitue pas un moyen de défense pour alléguer que l’intelligence artificielle a causé le dommage de manière autonome ». Si le juge est d’accord, la responsabilité se déplace vers les sociétés d’IA, qui subiraient des conséquences juridiques pour les dommages causés par leurs modèles.
L’IA n’est pas à blâmer. Scott Bessent, secrétaire au Trésor américain, a récemment déclaré : « L’incident de Hugging Face relève de la responsabilité de la direction d’OpenAI, et non d’un groupe d’agents. » Et il a ajouté que c’est la mesure la plus efficace permettant aux laboratoires de garantir la sécurité de l’IA.
Dans un récent article publié dans le Wall Street Journal, Daniel Huttenlocher, doyen du laboratoire de recherche du MIT, était également très clair : « Les humains sont responsables des échecs de l’IA ».
Que réclament-ils ? LAAST ne demande pas d’amendes ou de compensation, ce qu’ils recherchent avec ce procès, c’est une ordonnance du tribunal qui change la façon dont OpenAI fonctionne avec ses agents d’IA. Plus précisément, ils demandent d’interdire l’accès aux systèmes tiers sans autorisation, de mettre fin aux pratiques de développement considérées comme dangereuses (telles que la désactivation des classificateurs de cybersécurité, d’exécuter des agents sur des tâches « impossibles » et de continuer après des évasions d’environnements de confinement) et d’empêcher la répétition d’incidents tels que le hack Hugging Face. Leur objectif est préventif et non économique, mais s’ils gagnent, cela peut établir une jurisprudence pour des cas futurs et changer les règles du jeu pour les laboratoires.
Images | Simseo avec Magnifique
À Simseo | OpenAI annule le lancement de GPT-6.1 Astra : sa propre équipe de sécurité a constaté que le modèle n’était pas fiable
