L'IA pourrait être utilisée pour développer des armes biologiques si elle n'est pas réglementée de toute urgence, selon un nouveau rapport

Un nouveau rapport de la Nuclear Threat Initiative (NTI) appelle les gouvernements à prendre des mesures urgentes pour gérer la menace de « catastrophe biologique mondiale » développée par l’intelligence artificielle.

Le rapport, intitulé « La convergence de l’intelligence artificielle et des sciences de la vie : sauvegarder la technologie, repenser la gouvernance et prévenir les catastrophes », paraît alors que le gouvernement britannique organise cette semaine le sommet sur la sécurité de l’IA.

Pour développer les recommandations du rapport, les auteurs du NTI, de Science Policy Consulting et de l’Université de Birmingham ont interrogé plus de 30 experts en IA, biosécurité, recherche en biosciences, biotechnologie et gouvernance des technologies émergentes. Ils ont évalué les risques associés à la nouvelle technologie, évalué les implications en matière de biosécurité et discuté des options permettant de sauvegarder les capacités de l’IA-bio qui progressent rapidement.

Le rapport recommande six mesures urgentes nécessaires aux niveaux national et international pour réduire les risques associés aux nouvelles technologies d’IA-bio sans entraver les progrès scientifiques. Ils comprennent:

Créer un « Forum AI-Bio » international pour développer et partager des garde-fous de modèles d’IA qui réduisent les risques biologiques.
Développer une approche radicalement nouvelle et plus agile de la gouvernance nationale des capacités de l’IA-bio.
Implémentation de garde-fous de modèles d’IA prometteurs à grande échelle.
Poursuivre un programme de recherche ambitieux pour explorer d’autres options de garde-fou en matière d’IA.
Renforcer les contrôles de biosécurité à l’interface entre les outils de conception numérique et les systèmes biologiques physiques.
Utiliser des outils d’IA pour créer des capacités de préparation et de réponse aux pandémies de nouvelle génération.

Le Dr Nicole Wheeler, chercheuse à l’Institut de microbiologie et d’infection et à l’École d’informatique de l’Université de Birmingham, et co-auteur du rapport, a déclaré : « Les progrès des technologies de l’IA-bio peuvent offrir des avantages incroyables pour les technologies modernes. les biosciences et la bio-ingénierie, comme le développement rapide de vaccins et de nouveaux médicaments, la recherche de moyens de développer de nouveaux matériaux et la lutte contre l’urgence climatique.

« Mais il existe également la possibilité que l’intelligence artificielle puisse être utilisée, accidentellement ou délibérément, pour nuire à autrui à grande échelle. À mesure que cette technologie continue d’évoluer, il est impératif que les gouvernements et la communauté scientifique la maîtrisent parfaitement. pour éviter que cela se produise. »