L'IA présente des risques pour la sécurité nationale, les élections et les soins de santé. Voici comment les réduire

L'intelligence artificielle a commencé à apparaître presque partout dans nos vies. Nous profitons de ses avantages, tels que la découverte plus rapide de nouveaux médicaments, ou la médecine plus personnalisée qui résulte de sa fusion des données et du jugement d'experts, souvent sans s'en rendre compte. L'IA générative, qui permet la création rapide du contenu et automatise la résumé et la traduction via des outils tels que Chatgpt, Deepseek et Claude, est sa forme la plus populaire, mais l'IA est beaucoup plus: ses techniques, principalement des objectifs, des statistiques et de la logique, aident les décisions et les prédictions générées tout en étant guidées par des objectifs fixés par les utilisateurs.

Mais alors que la technologie de l'IA peut certainement aider à accélérer les processus de recherche qui ont déjà pris des années, les outils, les principes et les stratégies de l'IA peuvent également permettre l'identification des éléments des armes biochimiques. L'IA permet de nouvelles technologies telles que des véhicules autonomes, mais leurs systèmes de vision peuvent être dupés, convertissant potentiellement les véhicules en armes.

Les risques d'IA sont divers et spécifiques, et doivent être compris comme tels, ne serait-ce que parce que les systèmes d'IA sont complexes et s'adaptent au fil du temps, ce qui les rend plus imprévisibles. Les menaces d'IA incluent les données qui forment ses modèles sous-jacents, car les données biaisées conduisent à des sorties biaisées. De plus, les adversaires peuvent utiliser l'IA pour automatiser les attaques à une vitesse plus rapide et à plus grande échelle. Lorsque l'IA contrôle les systèmes critiques, une attaque peut avoir des conséquences de grande envergure. Et comme les outils d'IA sont largement accessibles, il y a une faible barrière à causer des dommages avec eux.

Menaces pour les élections et les soins de santé

Le Forum économique mondial plus tôt cette année a mentionné les «résultats défavorables des technologies de l'IA» dans son rapport mondial sur les risques, en raison du potentiel de ces technologies à perturber la stabilité géopolitique, la santé publique et la sécurité nationale.

Les risques pour la géopolitique sont liés aux élections politiques. Avec l'IA, les possibilités de désinformer les gens ont explosé: en quelques clics, un utilisateur peut générer de faux profils sociaux et fabriquer un faux contenu en langue ciblant pour manipuler avec une précision alarmante. Les élections présidentielles roumaines de 2024 ont été suspendues en raison d'une ingérence étrangère flagrante par le biais de plateformes sociales. À moyen terme, ces risques s'intensifieront à mesure que l'IA évolue.

Les impacts financiers de l'IA ne peuvent pas non plus être ignorés. Les fausses nouvelles générées par l'AI sont en cours d'armement pour manipuler les marchés pour influencer les investisseurs et affecter les cours des actions. Par exemple, une image générée par AI-AI d'une explosion près du Pentagone en 2023, juste après l'ouverture des marchés américains, aurait entraîné une baisse de la valeur de certaines actions. Et les attaques contradictoires – traitant de tromper un modèle d'apprentissage automatique en modifiant les données d'entrée pour provoquer des résultats incorrects – il a été démontré qu'il manipule des modèles de notation de crédit basés sur l'IA, les principaux systèmes de prêts pour approuver les candidats inaptes.

L'IA peut également constituer de graves menaces pour les systèmes de soins de santé. Rappelez-vous la pandémie Covid-19, lorsque la désinformation sur les vaccins et les verrouillage se propagera rapidement et alimentait la résistance dans certaines communautés. Au-delà de cela, les systèmes de santé de l'IA formés sur des données biaisées peuvent produire des résultats discriminatoires, refusant le traitement aux populations sous-représentées. Par exemple, une récente étude de Cedars Sinaï a révélé que plusieurs modèles majeurs de grande langue (LLM) « ont souvent proposé des traitements inférieurs » lorsqu'un patient psychiatrique était « explicitement ou implicitement indiqué » comme afro-américain. Enfin, l'IA a également élargi la surface d'attaque des hôpitaux, ce qui en fait des cibles principales.

Nous devons également prêter attention aux problèmes de sécurité nationale posés par l'IA. La guerre en Ukraine les illustre. Pensez à la pertinence militaire accrue des drones dans ce conflit, dont beaucoup sont propulsées par les outils d'IA. Les attaques sophistiquées alimentées par l'IA ont des réseaux d'énergie désactivés et des réseaux de transport. La désinformation soutenue par l'AI a été diffusée pour tromper les ennemis, manipuler la perception du public et façonner le récit de la guerre. Sans aucun doute, l'IA redéfinit les domaines traditionnels de la guerre.

L'impact de l'IA s'étend également dans le domaine sociétal, en raison de la suprématie technologique de certains pays et entreprises, et du domaine environnemental, en raison de l'énergie consommée par une AI générative. Ces impacts compliquent un paysage mondial déjà fragile.

Une route vers une IA plus sûre

Les risques de l'AI évoluent et, s'ils ne sont pas contrôlés, pourraient avoir des conséquences potentiellement catastrophiques. Pourtant, si nous agissons de toute urgence et sagement, nous n'avons pas besoin de craindre l'IA.

En tant qu'individus, nous pouvons jouer un rôle puissant en nous engageant en toute sécurité avec les systèmes d'IA et en adoptant des pratiques sûres. Cela commence par choisir un fournisseur conforme aux normes de sécurité en place, aux réglementations spécifiques à l'industrie et au principe de la confidentialité des données. Le fournisseur devrait essayer d'atténuer les préjugés et de résilier aux attaques contradictoires. Nous devons également remettre en question les informations fournies par un système d'IA en vérifiant les sources, en restant vigilant pour des manipulations potentielles et en rapportant des inexactitudes ou des abus que nous rencontrons. Nous devons rester informés, aider les autres à faire de même et promouvoir de manière proactive une utilisation responsable de l'IA.

Les institutions et les sociétés devraient tenir les développeurs de l'IA responsables de la construction de systèmes résilients contre les attaques contradictoires. Les efforts des développeurs devraient inclure l'intégration des techniques avancées d'apprentissage automatique contradictoires, l'intégration des mécanismes de détection d'attaque, le renforcement des algorithmes et, si nécessaire, l'incorporation de garanties humaines en boucle.

Les grandes organisations doivent également surveiller les risques émergents et les équipes de réponse à la formation dans l'analyse des risques contradictoires. Surtout, le secteur de l'assurance développe une couverture spécifique à l'IA, avec de nouveaux produits émergeant pour répondre aux risques croissants des attaques contradictoires.

Enfin, les pays ont également beaucoup à dire. De nombreux citoyens s'attendent à la conformité aux droits de l'homme et aux accords internationaux, qui nécessitent de solides cadres législatifs. La récente loi de l'UE AI, le premier règlement favorisant le développement responsable de l'IA basé sur les niveaux de risque des systèmes d'IA, est un excellent exemple. Certains considèrent l'acte comme un fardeau excessif, mais je pense qu'il devrait être considéré comme un catalyseur pour stimuler l'innovation de manière responsable.

Les gouvernements devraient également soutenir la recherche et les investissements dans des domaines tels que l'apprentissage automatique sécurisé, ainsi que pour favoriser la collaboration internationale dans le partage des données et les renseignements, pour mieux comprendre les menaces mondiales. (La base de données sur les incidents de l'IA, une initiative privée, est un merveilleux exemple de partage de données.) Ce n'est pas une tâche facile, étant donné la signification stratégique de l'IA. Mais l'histoire nous montre que la coopération est possible. Alors que les nations se sont réunies sur l'énergie nucléaire et les armes biochimiques, nous devons ouvrir la voie à des efforts similaires dans la surveillance de l'IA.

En prenant ces mesures, nous pouvons exploiter davantage l'immense potentiel de l'IA tout en réduisant ses risques.