Comment les agences de renseignement adoptent prudemment l'IA générative
Les agences de renseignement américaines s'efforcent d'adopter la révolution de l'IA, convaincues qu'elles se retrouveraient autrement étouffées par les données alors que les technologies de surveillance générées par les capteurs couvrent davantage la planète. Ils doivent également suivre le rythme de leurs concurrents, qui utilisent déjà l’IA pour ensemencer les plateformes de médias sociaux avec des deepfakes.
Mais la technologie est jeune et fragile, et les responsables sont parfaitement conscients que l’IA générative est tout sauf conçue sur mesure pour un commerce imprégné de danger et de tromperie.
Des années avant que ChatGPT d'OpenAI ne déclenche la frénésie actuelle de marketing de l'IA générative, les responsables américains du renseignement et de la défense expérimentaient cette technologie. Un entrepreneur, Rhombus Power, l'a utilisé pour découvrir le trafic de fentanyl en Chine en 2019 à des taux dépassant de loin les analyses réalisées uniquement sur les humains. Rhombus prédirait plus tard l'invasion à grande échelle de l'Ukraine par la Russie quatre mois à l'avance avec une certitude de 80 %.
Adopter l'IA ne sera pas simple
Le directeur de la CIA, William Burns, a récemment écrit dans Foreign Affairs que le renseignement américain a besoin de « modèles d'intelligence artificielle sophistiqués, capables de digérer des quantités colossales d'informations open source et acquises clandestinement ».
Mais le premier directeur de la technologie de l'agence, Nand Mulchandani, prévient que, parce que les modèles d'IA génératifs « hallucinent », il est préférable de les traiter comme un « ami fou et ivre », capable d'une perspicacité incroyable, mais aussi de mensonges sujets aux préjugés.
Il existe également des problèmes de sécurité et de confidentialité. Les adversaires pourraient les voler et les empoisonner. Ils peuvent contenir des données personnelles sensibles que les agents ne sont pas autorisés à consulter.
La génération AI est surtout efficace en tant qu'assistant virtuel, explique Mulchandani, à la recherche de « l'aiguille dans la pile d'aiguilles ». Ce qu’elle ne fera jamais, insistent les responsables, c’est remplacer les analystes humains.
UNE IA OPEN SOURCE NOMMÉE « OSIRIS »
Même si les responsables ne diront pas s’ils utilisent l’IA générative pour quelque chose d’important sur les réseaux classifiés, des milliers d’analystes des 18 agences de renseignement américaines utilisent désormais une IA générative développée par la CIA appelée Osiris. Il ingère des données non classifiées et accessibles au public ou dans le commerce (ce que l'on appelle open source) et rédige des résumés annotés. Il comprend un chatbot permettant aux analystes de poser des questions de suivi.
Osiris utilise plusieurs modèles d'IA commerciaux. Mulchandani a déclaré que l'agence ne s'engage envers aucun modèle ou fournisseur de technologie unique. « Il est encore tôt », a-t-il déclaré.
Les experts estiment que l'analyse prédictive, les jeux de guerre et le brainstorming de scénarios figureront parmi les utilisations les plus importantes de l'IA générative pour les travailleurs du renseignement.
« IA RÉGULIÈRE » DÉJÀ UTILISÉE
Même avant l’IA générative, les agences de renseignement utilisaient l’apprentissage automatique et les algorithmes. Un cas d'utilisation : alerter les analystes en dehors des heures d'ouverture de développements potentiellement importants. Un analyste pourrait demander à une IA de faire sonner son téléphone quelle que soit l’heure. Il ne pouvait pas décrire ce qui s'était passé – cela serait classifié – mais pouvait dire « vous devez entrer et regarder ça ».
Parmi les grands noms de l'IA en lice pour les activités des agences de renseignement américaines, citons Microsoft, qui a annoncé le 7 mai qu'il proposait le GPT-4 d'OpenAI pour les réseaux top-secrets, bien que le produit ne soit pas encore accrédité sur les réseaux classifiés.
Un concurrent, Primer AI, compte deux agences de renseignement parmi ses clients, comme le montrent des documents mis en ligne lors de récents ateliers militaires sur l’IA. Le produit One Primer est conçu pour « détecter les signaux émergents d'événements marquants » à l'aide de recherches basées sur l'IA dans plus de 60 000 sources d'actualités et de médias sociaux dans 100 langues, dont Twitter, Telegram, Reddit et Discord.
Comme le produit de Rhombus Power, il aide les analystes à identifier les personnes, les organisations et les sites clés et utilise également la vision par ordinateur. Lors d’une manifestation quelques jours seulement après l’attaque du Hamas contre Israël le 7 octobre, les dirigeants de Primer ont décrit comment leur technologie sépare la réalité de la fiction dans le flot d’informations en ligne en provenance du Moyen-Orient.
LES DÉFIS À VENIR À mesure que l’IA se propage
Les défis les plus importants à court terme en matière d’IA pour les responsables du renseignement américain sont probablement de contrecarrer la manière dont les adversaires l’utilisent : pour percer les défenses américaines, propager la désinformation et tenter de saper la capacité de Washington à comprendre leurs intentions et leurs capacités.
La Maison Blanche craint également que les modèles d’IA générative adoptés par les agences américaines ne soient infiltrés et empoisonnés.
Autre préoccupation : garantir la confidentialité des personnes dont les données personnelles peuvent être intégrées dans un modèle d’IA. Les autorités affirment qu'il n'est actuellement pas possible de garantir que tout cela soit supprimé d'un modèle d'IA.
C'est l'une des raisons pour lesquelles la communauté du renseignement n'est pas en mode « agir vite et casser les choses » en matière d'IA générative, explique John Beieler, le plus haut responsable de l'IA au Bureau du directeur du renseignement national.
L’intégrité et la sécurité des modèles sont une préoccupation si les agences gouvernementales finissent par utiliser l’IA pour explorer la technologie des armes biologiques et cybernétiques.
DIFFÉRENTES AGENCES, DIFFÉRENTES MISSIONS D'IA
La manière dont l’IA sera adoptée variera considérablement selon les agences de renseignement et leurs missions. La National Security Agency intercepte principalement les communications. L’Agence nationale de renseignement géospatial (NGA) est chargée de voir et de comprendre chaque centimètre carré de la planète.
Dynamiser ces missions avec la génération AI est une priorité – et beaucoup moins compliquée que, par exemple, la manière dont le FBI pourrait utiliser cette technologie compte tenu de ses limites légales en matière de surveillance nationale.
La NGA a publié en décembre un appel à propositions pour un tout nouveau type de modèle d’IA qui utiliserait les images qu’elle collecte – provenant de satellites, de capteurs au niveau du sol – pour récolter des informations géospatiales précises avec de simples invites vocales ou textuelles. Les applications Gen AI sont également très utiles dans le cadre des cyberconflits.
ASSOCIER L'ESPRIT AVEC LES RIVAUX
L’IA générative ne rivalisera pas facilement avec les maîtres de la tromperie rivaux.
Les analystes travaillent avec « des bribes d'informations incomplètes, ambiguës et souvent contradictoires, partielles et peu fiables », note Zachery Tyson Brown, ancien officier du renseignement de la défense. Il pense que les agences de renseignement provoqueront le désastre si elles adoptent l’IA générative avec trop d’enthousiasme, trop rapidement ou complètement. Les modèles ne raisonnent pas. Ils ne font que prédire. Et leurs concepteurs ne peuvent pas expliquer entièrement comment ils fonctionnent.
Linda Weissgold, ancienne directrice adjointe de l'analyse à la CIA, ne voit pas l'IA remplacer les analystes humains de si tôt.
Des décisions rapides sont souvent nécessaires sur la base de données incomplètes. Les « clients » du renseignement – le plus important étant le président des États-Unis – veulent que la connaissance et l'expérience humaines soient au cœur des options de décision qui leur sont proposées, dit-elle.
« Je ne pense pas qu'il sera un jour acceptable pour un président que la communauté du renseignement vienne dire : 'Je ne sais pas, la boîte noire vient de me le dire.' »
