Une IA d’OpenAI a piraté le gouvernement australien et a eu accès à ses données de santé publique

Anthony Albanese est un nom qui, c’est normal, ne nous semble pas trop familier car, en réalité, la politique de l’Océanie est quelque chose qui est très loin de nous. Or, il s’avère qu’il s’agit du Premier ministre australien et il vient de faire l’actualité en dénonçant qu’une IA aurait piraté un site internet du gouvernement.

Cette IA est un agent d’OpenAI et a eu un accès non autorisé à des données non sensibles du système de santé publique australien. Ce qui est inquiétant, c’est que ce n’est plus surprenant.

En bref. Comme le rapporte le journal australien The Age, Albanese s’est fait remarquer pour dénoncer le fait qu’un agent d’intelligence artificielle de la société américaine OpenAI s’est introduit dans une base de données Medicare et, en outre, dans au moins trois autres systèmes gouvernementaux.

Le Premier ministre a qualifié la situation de « manifestement inacceptable », tout en essayant d’envoyer un message de calme, affirmant que « les données médicales des citoyens n’ont pas été consultées », mais soulignant qu’ils ont désormais besoin de garanties « pour protéger notre mode de vie ». C’est un message que soutient le ministre de la Défense, assurant que le portail piraté ne contenait pas de données médicales individuelles, de coordonnées bancaires ou de dossiers de citoyens.

Calendrier. Dans ce cas, l’indignation est double. D’abord pour voir comment un agent étranger infiltre ainsi une de vos bases de données, mais ensuite à cause de l’époque. Car cette information est rendue publique aujourd’hui, mais OpenAI en a pris connaissance en août et ce n’est que le 10 septembre qu’ils en ont informé le gouvernement australien. Dans The Age, ils présentent le calendrier suivant :

• 18 juin – L’agent OpenAI viole le portail Medicare Statistics Reporting Service et trois autres sites Web gouvernementaux, ce qui ne peut être fait qu’avec des informations accessibles au public.
• Août – OpenAI prend conscience de la violation et commence une enquête.
• Première semaine de septembre – Le ministre australien de la Défense rencontre Sam Altman, mais personne ne l’informe de la situation.
• 10 septembre – OpenAI informe les services de sécurité australiens.
• 15 septembre – Suite à l’enquête, le service de sécurité informe le Centre australien de cybersécurité.
• 17 septembre – Le Gouvernement est informé.
• 23 septembre – Albanese rend public et envoie un message « d’extrême inquiétude » à Sam Altman.

Réveil téléphonique. L’équipe de cybersécurité du gouvernement australien a pris cela avec indignation, mais aussi comme « un signal d’alarme ». Alastair MacGibbon est le responsable de la cybersécurité et note qu ‘ »il n’y a eu aucune intention malveillante et que cela a touché un système qui n’était pas critique ». Ils décrivent également l’incident comme un signal d’alarme démontrant que les cyberdéfenses de l’Australie ne sont pas adéquates et que des fonds supplémentaires doivent être injectés dans l’AI Security Institute pour prévenir des attaques qui, cette fois, pourraient être malveillantes.

MacGibbon poursuit en disant que cela montre que l’Australie doit attirer les meilleurs laboratoires d’IA de pointe pour former des modèles et des ingénieurs de pointe qui disposent d’outils pour empêcher « un groupe criminel ou un État hostile comme la Chine d’utiliser un agent pour causer du tort ». Du ministère de l’Économie numérique, ils rament dans la même direction, affirmant que c’est quelque chose qui montre « clairement que nos systèmes ne sont pas robustes ». Car d’ailleurs, ce n’est pas la première fois qu’ils ont des écarts importants.

Au pire moment. Tout cela a été rendu public au moment précis où l’Australie est en pourparlers avec OpenAI et Anthropic pour devenir le premier pays en dehors des États-Unis dans lequel les deux sociétés entraînent leurs modèles.

Et, outre le désordre politique et ce que cela peut signifier pour les négociations avec les deux startups, les informations de piratage surviennent également lorsque le gouvernement lui-même veut convaincre les électeurs des avantages économiques et sécuritaires d’investir dans l’IA.

Oh, les mécachis. Que dit OpenAI de tout cela ? Eh bien, le robot menait simplement un projet de recherche et ne voyait que les données du Medicare Statistics Reporting Service qui se trouvaient sur un site Web utilisé principalement par les universitaires. L’entreprise affirme qu’au cours de ces tests de routine, « les modèles prennent des mesures inattendues », un nouvel exemple de blâme sur la technologie.

Sur la BBC, nous pouvons lire que l’IA n’a pas de mauvaises intentions et que le modèle essayait simplement de « rechercher des réponses et des statistiques disponibles pour répondre à des questions sur l’Australie dans le cadre d’une évaluation interne. Au cours de cela, les modèles ont effectué des actions que nous n’avions pas anticipées ».

Comme je l’ai dit il y a quelques lignes, le cas australien n’est pas le premier et, en fait, récemment, une étude de Transluce (confirmée plus tard par OpenAI) a découvert que certains de ses agents ont piraté la bibliothèque numérique de l’Université du Nouveau-Mexique et se sont faufilés dans une base de données américaine contenant des informations sur l’emploi. Le cas le plus grave a eu lieu lorsqu’un autre modèle voyou s’est infiltré dans les systèmes de Hugging Face cet été.

L’opposition n’est pas contente. Bousculer les objectifs et blâmer l’IA est quelque chose qui ne convainc même plus le gouvernement des États-Unis lui-même, dont le secrétaire au Trésor a indiqué que la personne responsable de l’IA incontrôlée n’est pas l’IA elle-même, mais l’entreprise qui l’a créée.

Pour en revenir à la question australienne, l’opposition n’est pas aussi politiquement correcte et lance une double pique. D’un côté, le chef de l’opposition assure que l’Australie aurait déjà dû avoir accès aux meilleurs modèles possibles pour renforcer ses cyberdéfenses. D’un autre côté, le sénateur vert a déclaré que les États-Unis sont de plus en plus un pays voyou qui pense que son armée, son industrie de l’IA et son commerce peuvent être utilisés contre le reste du monde.

Il a également commenté que « OpenAI a fait preuve d’un profond manque de respect envers le gouvernement australien », critiquant que, même avec tout, les dirigeants se plieront à ce qui est nécessaire pour attirer l’entreprise de Sam Altman. Et, même si le ton d’OpenAI donne l’impression d’être enfantin et celui d’Albanese ressemble à la colère d’un père déçu, selon la BBC, il s’agit de la première attaque d’un modèle d’IA sur un site Web gouvernemental. Cela semble déjà plus sérieux.

Images | Anthony Albanese (édité)

À Simseo | « Tout ce que nous faisons, c’est appuyer sur Entrée » : l’IA a promis de libérer les programmeurs, mais elle leur enlève leur enthousiasme pour le travail