L'IA pourrait faciliter la création de bio-armes qui contournent les protocoles de sécurité actuels

L'intelligence artificielle transforme la biologie et la médecine en accélérant la découverte de nouveaux médicaments et protéines et facilitant la conception et la manipulation de l'ADN, les éléments constitutifs de la vie. Mais comme pour la plupart des nouvelles technologies, il y a un inconvénient potentiel. Les mêmes outils d'IA pourraient être utilisés pour développer de nouveaux agents pathogènes et toxines dangereux qui contournent les contrôles de sécurité actuels. Dans une nouvelle étude de Microsoft, les scientifiques ont utilisé un test de style hacker pour démontrer que les séquences générées par l'AI pourraient échapper aux logiciels de sécurité utilisés par les fabricants d'ADN.

« Nous pensons que l'avancement continu de la conception des protéines assistée par l'IA est très prometteuse pour relever les défis critiques de la santé et des sciences de la vie, avec le potentiel de proposer des impacts extrêmement positifs sur les personnes et la société », a commenté les chercheurs de leur article publié dans la revue dans la revue Science. « Comme pour les autres technologies émergentes, il est également crucial d'identifier et d'atténuer de manière proactive les risques résultant de nouvelles capacités. »

Tester les défenses

Lorsque les entreprises biotechnologiques fabriquent de l'ADN pour les chercheurs, ils utilisent le logiciel de dépistage de biosécurité (BSS) pour rechercher des similitudes entre la nouvelle séquence et une base de données de menaces connues. Et c'est à la fois une force et une faiblesse car elle ne peut dépister que ce qui est répertorié dans la base de données.

Pour tester cet écart de biosécurité, les chercheurs de Microsoft ont utilisé des programmes d'IA accessibles au public pour créer plus de 76 000 variantes synthétiques de protéines dangereuses connues, y compris la ricine. Ils n'ont pas réellement produit les protéines; Ils ont conçu les instructions génétiques pour leur synthèse. Ensuite, ils ont exécuté les séquences à travers quatre outils logiciels de dépistage différents pour voir si l'on pouvait passer. Et ils l'ont fait – en grand nombre. Un pourcentage significatif de ces séquences conçues par l'IA a abaissé par les contrôles.

Après avoir découvert les défauts, l'équipe Microsoft a travaillé avec les fournisseurs de BSS pour développer des correctifs. Ceux-ci comprenaient la mise à jour des bases de données de menaces et le réglage fin du logiciel de dépistage. Le résultat? Les outils de dépistage renforcés ont attiré 97% des séquences les plus dangereuses d'un deuxième test.

La recherche sert d'un avertissement clair. Même si les patchs ont augmenté le taux de détection, ils n'étaient pas infaillibles, car 3% des séquences potentiellement dangereuses ont été manquées. On ne sait pas non plus comment les protéines résultantes se produiraient dans le monde réel, car les séquences étaient des prédictions informatiques.

De toute évidence, plus de travail sera nécessaire pour construire des défenses robustes contre les techniques d'IA de plus en plus sophistiquées, mais cet effort sera en cours. Une course aux armements évolutives constante est inévitable. Tout comme les vaccins doivent suivre le rythme des nouvelles mutations virales, les outils de dépistage de la biosécurité nécessiteront également des mises à jour continues pour contrer les menaces générées par l'IA.