Le gouvernement américain ne croit pas à l’histoire d’OpenAI : si une IA « incontrôlée » commet un crime, votre entreprise en sera responsable

En juillet de cette année, ce qui a été surnommé « l’incident du Hugging Face » s’est produit. L’un des modèles d’OpenAI a obtenu un accès non autorisé à Hugging Face, une autre startup d’IA, lors d’une expérience dans laquelle OpenAI a réduit les restrictions de sécurité de GPT-5.6 Sol lors d’une évaluation interne. Ce test s’est avéré être une attaque « sans précédent » d’une IA et OpenAI a reconnu qu’ils auraient pu réagir plus tôt pour l’arrêter, mais ils ont essentiellement déclaré que ce n’était pas la première fois et ont haussé les épaules en attendant que l’averse passe.

Le problème est que la tempête ne s’apaise pas et dans un contexte où OpenAI et Anthropic demandent la modération avec l’IA (avec de nombreuses nuances) et provoquent des tensions avec le gouvernement des États-Unis, le secrétaire au Trésor du pays a déclaré que si quelque chose comme cela se reproduisait, la responsabilité n’incombe pas à quelque chose d’éthéré comme une IA : la responsabilité incombe aux propriétaires de l’IA.

Sucer. Scott Bessent est le secrétaire au Trésor des États-Unis et, lors d’une récente conférence de presse, il a été interrogé sur l’incident. Bessent n’a laissé aucune place à l’ambiguïté, assurant que « l’incident de Hugging Face relève de la responsabilité de la direction d’OpenAI, et non d’un groupe d’agents ». L’homme politique s’aligne ainsi sur les avis de Daniel Huttenlocher, doyen du laboratoire de recherche du MIT, qui considère que de tels événements relèvent de la responsabilité d’humains responsables et non de l’IA.

Cela a du sens si l’on considère que l’IA n’est rien de plus qu’un logiciel, pas quelque chose qui décide de ce qu’elle peut ou ne peut pas faire, et est régie par une série de codes et de directives. En fait, lors de l’attaque contre Hugging Face, les protocoles de sécurité pour qu’il ne puisse pas faire ce qu’il a fait étaient au minimum, la responsabilité incombait donc au côté humain.

Sans aucun doute dans d’autres domaines. Dans ses déclarations, Bessent a ajouté qu’il n’a vu à aucun moment que quiconque ait assumé la responsabilité de ce qui s’est passé lors de l’incident et qu’il est clair que ce qui ne devrait pas être fait, c’est « donner à ces laboratoires une exonération de responsabilité, ce qu’ils demandent ». Récemment, plusieurs voix dans le domaine de l’IA ont souligné que chacun devrait faire confiance à sa technologie et que c’est à lui de s’autoréguler. Jensen Huang a déclaré au G20 que les pays (en référence à l’Union européenne) devraient autoriser de facto les innovations technologiques, ne pas se méfier et réglementer.

Ici, Bessent explique que la chaîne de responsabilité ne doit pas être floue, et il est curieux que cela se produise avec l’intelligence artificielle alors qu’il n’y aurait aucun doute avec d’autres entreprises. Dans toute autre industrie comme l’automobile ou la pharmacie, si quelque chose échoue, la responsabilité incombe à celui qui a lancé le produit. Si l’on prend l’exemple le plus simple, celui d’une voiture dont les freins tombent en panne, le constructeur ne s’en sortira pas en prétendant que la voiture a décidé de ne pas freiner.

Souche. Cette tentative de déplacer les objectifs des startups de l’IA n’est pas formulée dans le vide, mais à une époque où des profils tels que Dario Amodei d’Anthropic, Sam Altman d’OpenAI ou Elon Musk de SpaceX ont signalé que le rythme du développement de l’IA devrait peut-être être ralenti. Nous avons déjà vu que cela, plus que par responsabilité, pourrait être dû au fait qu’ils ont besoin d’oxygène, mais l’administration Trump n’a pas cru au discours.

Le président des États-Unis a déclaré que ce ralentissement n’allait pas se produire pour une raison évidente : l’IA n’est plus un produit appartenant à une entreprise spécifique ni un produit dans lequel des entreprises privées sont en concurrence. Or, l’IA est géopolitique. Arrêter, ce serait donner un avantage à la Chine et, d’ailleurs, personne ne veut s’arrêter car on ne sera jamais sûr que le voisin a ralenti.

Pirater en Chine. Parlant de la Chine, Bessent a également déclaré que, malgré tout le bruit généré par les actions des entreprises américaines, cela se produit également en Chine, mais nous ne nous en rendons tout simplement pas compte. Le secrétaire au Trésor assure que « bien sûr, ils ont eu des incidents similaires, mais en raison de leur nature et du manque de transparence de leur système, ils ne les rendront pas publics ».

Politique. Et, curieusement, les déclarations de Bessent sont intervenues quelques jours après que Donald Trump a annoncé son intention de nommer un « tsar de l’IA », une personnalité chargée de superviser les problèmes liés à l’industrie de l’intelligence artificielle au niveau des États afin que les États-Unis continuent de « gagner la course ».

Dans ses déclarations, la technologie américaine est en avance « sur celle de la Chine et sur celle du reste du monde » et, pour conserver cet avantage, il a déclaré que « nous n’empêcherons ni ne ralentirons en aucun cas la croissance de cette incroyable industrie ».

La vie continue de la même manière. En fin de compte, tout cela fait partie d’une lutte acharnée entre les entreprises d’IA et le gouvernement de leur pays, mais il est curieux que, en même temps qu’ils demandent de passer à la vitesse supérieure, OpenAI lance deux nouveaux modèles et Anthropic un dans un exemple clair que si vous voulez du bouillon, vous avez deux tasses.

Par | Bloomberg

Images | « Tu ferais mieux d’appeler Saul » (édité)

À Simseo | Daniel Púa, responsable de la sécurité chez Magnific : « Les appels vidéo vont arriver avec une vidéo d’un membre de la famille et les choses vont se compliquer »