50 morts ou 1 milliard de dollars de dégâts : la barre qu’Anthropic veut fixer pour que le gouvernement puisse arrêter un modèle d’IA
Anthropic a présenté en coulisses un projet de loi sur la sécurité des modèles d’IA les plus avancés de Capitol Hill, selon Politico. Ce n’est certainement pas souvent qu’un laboratoire d’IA essaie d’écrire ses propres normes industrielles. Mais ce qui a fait sourciller plus d’un, c’est que sa proposition placerait la barre très haute avant que le gouvernement puisse arrêter un modèle, concentrant ce pouvoir dans un seul ministère. Nous vous expliquons les détails.
Travaux en cours. Aux États-Unis, le Congrès étudie actuellement plusieurs propositions en matière de sécurité de l’IA, et Anthropic a rédigé deux ou trois éléments notables. Un porte-parole d’Anthropic a déclaré à Politico que le projet de loi reflète le cadre d’IA avancé de l’entreprise, qu’elle promeut auprès des législateurs depuis juin, qualifiant son contenu de « politiques judicieuses sur lesquelles nous pensons que le Congrès devrait agir ».
Le seuil. Selon Politico, qui a eu accès au projet, le gouvernement ne pourrait bloquer le lancement ou l’utilisation d’un modèle que s’il présente un risque prévisible et imminent de plus d’un milliard de dollars de dommages, ou causant la mort ou des blessures graves à plus de 50 personnes. Le danger devrait également venir de :
- Une arme biologique.
- Un modèle qui échappe aux contrôles de son développeur.
- Une cyberattaque.
Comment ça fonctionnerait. Les médias rapportent que des institutions indépendantes, enregistrées auprès du ministère du Commerce, évalueraient périodiquement un laboratoire d’IA et ses modèles pionniers. Les laboratoires pourraient les rémunérer, à condition que le paiement ne dépende pas du résultat de l’évaluation. Si un évaluateur détecte un « risque imminent répertorié », il doit en informer le ministère du Commerce dans les 72 heures suivant la fin de l’évaluation. Après cela, selon les médias, le Commerce pourrait demander à un juge du tribunal fédéral de stopper le lancement d’un modèle. Tom’s Hardware ajoute que le Commerce devrait présenter ses preuves devant ledit juge, qui prend la décision finale.
Un seul organisme possède le commutateur. Politico précise que le texte interdit explicitement à tout autre « département, agence ou fonctionnaire » de suspendre le développement, le déploiement ou l’utilisation interne d’un modèle. Donc, si nous combinons cela avec le seuil que nous avons expliqué précédemment, cela ferait du ministère du Commerce le seul organe exécutif à arrêter un modèle, et seul un tribunal peut l’ordonner.
Peu importe qui aurait ce bouton rouge, Politico affirme que les laboratoires d’IA devraient créer des cadres de sécurité, publier des rapports de transparence pour les nouveaux modèles frontières, protéger ceux qui signalent des problèmes de sécurité des modèles et signaler les incidents de sécurité critiques au ministère du Commerce.
Un moment délicat. Les inquiétudes concernant la sécurité de l’IA se sont intensifiées après plusieurs incidents notables au cours des derniers mois, notamment le piratage de Hugging Face par des centaines d’agents OpenAI, ou l’intrusion de plusieurs agents IA sur des sites Web gouvernementaux, entre autres moments compliqués.
Politico ajoute que plusieurs des incidents survenus cet été n’ont pas entraîné de victimes mortelles ou de dommages économiques supérieurs à 1 milliard de dollars, donc du point de vue du projet partagé par Anthropic, ces incidents n’auraient pas dépassé ce seuil.
Il ne s’agit pour l’instant que d’une ébauche, et Anthropic n’a encore officiellement approuvé aucun projet de loi spécifique au Congrès. Il faudra attendre pour savoir si les législateurs considèrent ce seuil de 1 milliard de dollars et 50 victimes comme une mesure de sécurité raisonnable. Voyant que l’idée a fortement agité le secteur, des doutes subsistent.
À Simseo | Zhang Yiming, le propriétaire de TikTok, a doublé sa fortune. Leur secret : l’IA, bien sûr
