Un expert en cybersécurité se penche sur les avantages et les risques de l’IA

L’intelligence artificielle a pris d’assaut le monde à mesure que les pouvoirs d’outils tels que ChatGPT et d’autres sont devenus accessibles au public.

Chercheuse en sécurité, la Dre Natalia Stakhanova (Ph.D.) est titulaire de la Chaire de recherche du Canada sur la sécurité et la confidentialité et professeure agrégée d’informatique au USask College of Arts and Science, dont les travaux de recherche ont été axés sur des solutions de sécurité pratiques pour problèmes quotidiens. L’un d’eux consiste à sécuriser les systèmes informatiques. Elle a publié de nombreux articles sur la sécurité des logiciels et des réseaux et plus récemment sur la façon de tirer parti de l’IA en matière de sécurité. Elle est titulaire de quatre brevets dans le domaine de la sécurité informatique et est membre de la Table ronde interculturelle canadienne sur la sécurité (CCT).

Alors que le public continue de s’intéresser et d’adopter l’IA dans son usage quotidien, Stakhanova a déclaré qu’il est important de reconnaître que la technologie de l’IA existe depuis longtemps. Aujourd’hui, elle est ancrée dans notre quotidien, même si elle n’est pas toujours reconnue.

« Par exemple, l’assistance téléphonique des banques est souvent alimentée par l’IA, qui vous aide à naviguer parmi les différentes options et à fournir les réponses que vous recherchez », a déclaré Stakhanova. « Quelque chose comme ça est une simple utilisation de l’IA. »

L’IA est également sous surveillance dans le monde de la cybersécurité pour un large éventail d’applications dans lesquelles elle pourrait éventuellement contribuer aux problèmes liés à la cybercriminalité.

Dans un monde où la collecte et l’exploitation des données constituent des menaces croissantes à mesure que les produits numériques stockant des informations personnelles et financières, tels que les plateformes de médias sociaux, ont conquis le monde, la sécurité et la compréhension de l’IA sont primordiales pour lutter contre les craintes liées à son utilisation.

« Du point de vue de la sécurité, il existe deux manières d’envisager l’IA », a déclaré Stakhanova. « D’un côté, l’IA semble permettre une exploitation plus efficace des données et des utilisateurs. Cependant, de l’autre côté, l’IA a un grand potentiel pour être utilisée à des fins de défense. »

Lorsque des personnes stockent des données via un compte de réseau social, ces données sont stockées sur les systèmes informatiques de l’entreprise, dont la plupart sont conçus pour être sécurisés. Mais la plupart de ces systèmes informatiques ne sont pas à l’abri de piratages astucieux qui pourraient mettre en danger la sécurité des données.

Si l’IA peut être utilisée pour trouver des moyens d’attaquer des systèmes sécurisés d’un côté, l’inverse devrait également être vrai : l’IA peut potentiellement fournir aux individus ou aux entreprises un moyen de tester et de défendre la sécurité de leurs systèmes informatiques.

« La question est : quelle est l’efficacité de vos défenses contre l’IA ? dit-elle. « Je peux imaginer qu’à l’avenir, nous utiliserions l’IA pour attaquer et défendre un système, en éliminant complètement l’humain. »

Stakhanova a déclaré que la capacité de l’IA à construire et tester des systèmes de sécurité peut être une excellente nouvelle pour ceux qui travaillent dans le domaine de la création d’un cyberespace plus sécurisé, où des données et des informations importantes sont échangées des milliards de fois par jour autour de la planète.

« D’une manière ou d’une autre, nous avons tendance à penser aux aspects négatifs, mais nous devrions aussi penser aux aspects positifs », a-t-elle déclaré. « Si les cybercriminels exploitent l’IA pour attaquer, les défenseurs peuvent également l’utiliser pour tester en permanence la sécurité de leurs systèmes. Cela nous offre un avantage significatif en permettant de tester à une échelle impossible pour un humain et de tester des menaces qui peuvent sembler infaisables. maintenant, mais potentiellement tout à fait réaliste dans un avenir très proche. »

Bien que ce que l’IA peut accomplir présente des avantages – comme rechercher des informations, rédiger des communications cohérentes, créer du code, fournir des informations et analyser des données à un rythme impossible pour les humains – il existe encore des limites qui limitent son utilité et sa fiabilité et qui doivent être prises en compte. lorsque vous utilisez un outil d’IA.

« L’IA a des capacités limitées pour un raisonnement complexe », a déclaré Stakhanova. « Il y a beaucoup de limites lorsque nous parlons de la chaîne de pensée que les humains peuvent générer facilement et sur laquelle ils peuvent tirer des conclusions. Il ne s’agit pas seulement de nos connaissances immédiates, mais aussi des expériences, du « bagage » que nous avons et de quelque chose que nous avons. j’ai vu ou lu [that can influence our actions]et l’IA n’est toujours pas capable d’utiliser cette chaîne de pensée de manière efficace. »

On hésite beaucoup à introduire des capacités d’IA sur les lieux de travail, dans les écoles et dans d’autres lieux qui pourraient potentiellement modifier les structures de travail et les flux de travail.

« C’est compréhensible. En ce moment, c’est le Far West et il n’y a pratiquement aucune réglementation en place », a-t-elle déclaré. Même avec ses limites, l’essor de l’IA constitue une innovation qui, selon Stakhanova, mérite d’être adoptée. « Je pense que l’adoption de l’IA se poursuivra et probablement plus rapidement que nous le souhaiterions », a-t-elle déclaré.

Stakhanova a participé à la création de ressources éducatives destinées aux jeunes sur la cybersécurité et la sécurité en ligne. Selon elle, la cybersécurité est un sujet important à aborder auprès des enfants qui grandissent dans un monde largement numérique.

Les prochaines étapes importantes consisteront à élaborer des lignes directrices et des recommandations de sécurité autour de l’IA et de son utilisation afin de contribuer à protéger les personnes et d’en guider autant que possible l’utilisation.

« Avoir des conversations autour de l’IA est un premier pas dans la bonne direction, mais nous sommes définitivement en retard dans la réglementation de cette technologie. [Using] L’IA nous apportera d’énormes bénéfices, mais sans contrôle, elle peut aussi être destructrice. »