Le danger de l'IA est qu'elle est tellement efficace qu'on ne peut tout simplement pas y résister, affirme un expert

Inga Strümke ne croit pas que l’intelligence artificielle va prendre le contrôle du monde avec des robots tueurs, mais elle pourrait bien tuer votre étincelle. C’est un domaine qui a besoin de règles, et l’Europe est sur le point de les obtenir.

Son bureau n'est pas forcément ennuyeux, mais la pièce ressemblant à une cellule derrière la porte vitrée de la NTNU ne révèle pas non plus exactement qu'il s'agit de la base de l'un des chercheurs les plus renommés de Norvège.

La professeure associée Inga Strümke est devenue une sorte de gourou pour les personnes intéressées par l'intelligence artificielle en Norvège, en partie à cause de son livre « Machines That Think », mais surtout parce qu'elle aime partager ce qu'elle peut avec le reste d'entre nous.

L’Union européenne a mis en place de nouvelles règles plus strictes pour l’utilisation de l’intelligence artificielle, la loi dite AI Act. En tant que membre de l’EEE, la Norvège devrait adopter les mêmes règles.

« Je ne suis pas un partisan de la réglementation pour la réglementation », déclare Strümke.

Elle voit néanmoins plusieurs raisons pour lesquelles la Norvège devrait participer.

« La Norvège fait partie de l’Europe et du monde. Il est politiquement important que nous continuions à travailler en étroite collaboration avec l’UE sur ces questions. Mais au-delà des aspects purement politiques, la loi sur l’IA est importante pour vous et moi. Nous ne devrions pas avoir d’IA qui exploite les faiblesses des gens », dit-elle.

L’utilisation de l’IA qui peut être dangereuse ou déloyale sera soumise à des réglementations beaucoup plus strictes que les utilisations qui semblent plus innocentes. Certaines utilisations seront tout simplement interdites dans l’EEE et l’UE. Vous pouvez en voir un résumé dans l’encadré ci-dessous.

« Ces règles protégeront les consommateurs. Elles garantiront que nous sommes en sécurité et que nous pouvons faire confiance à l'utilisation de l'IA », explique Strümke.

Et si nous n'avions aucune règle ?

Serait-ce vraiment si grave si ces règles n’étaient pas mises en place ? Tout le monde sait que les règles peuvent être ennuyeuses.

« Nous pourrions aussi ignorer le code de la route. Chacun pourrait conduire aussi vite qu’il le souhaite. Pendant une courte période, du moins jusqu’à ce que quelque chose tourne mal. L’IA est une force commerciale très puissante. Lorsque Chat GPT a été lancé, il n’a fallu que cinq jours pour qu’il atteigne 1 million d’utilisateurs », explique Strümke.

Chat GPT est actuellement le chatbot le plus connu. De nombreux élèves et étudiants ont déjà pris des raccourcis en l'utilisant.

« Nous n’avons pas encore fini de traiter de l’utilisation de l’IA dans le secteur de l’éducation. On n’apprend pas grand-chose en laissant l’IA faire presque tout le travail », explique Strümke.

Réglementation déjà en place

Mais il n’est pas certain que le reste du monde suivra nécessairement les mêmes règles strictes que l’UE et la Norvège. Qu’est-ce qui empêche par exemple la Chine ou les États-Unis d’adopter des règles plus souples et d’obtenir ainsi un avantage concurrentiel ?

« Rien. Nous ne pouvons pas empêcher d’autres pays d’avoir des règles différentes. Mais c’est un mythe de penser que seule l’UE réglemente l’utilisation de l’intelligence artificielle. Au début de cette année, les États-Unis disposaient déjà de 58 réglementations différentes sur l’utilisation de l’intelligence artificielle, même si elles étaient réparties entre plusieurs États. Mais partout ailleurs, ce n’est pas non plus la loi du plus grand nombre. Nous devons choisir le type de société dans lequel nous voulons vivre. L’UE a tendance à créer un précédent pour les autres », explique Strümke.

L’UE montre souvent la voie

D’autres régions du monde suivent souvent le même chemin que l’UE. Strümke illustre ce point en montrant un câble USB-C, la nouvelle norme pour les câbles de charge dans une grande partie du monde. Il a été récemment introduit malgré de nombreuses protestations initiales de la part des entreprises technologiques.

Cela signifie que nous évitons d'avoir des piles de câbles de charge différents qui traînent, un seul type suffit. Autre avantage, l'USB-C transfère le plus de données et d'énergie, et le câble peut être utilisé dans les deux sens. Nous pouvons remercier l'UE d'avoir fait de l'USB-C la norme.

De même, une grande partie du monde a suivi le règlement général sur la protection des données (RGPD) de l’UE, qui nous donne à tous un plus grand contrôle et des droits sur le type d’informations que les entreprises peuvent collecter à notre sujet.

Elle estime que la même chose pourrait se produire concernant la réglementation de l’intelligence artificielle.

Des machines qui pensent

Il y a quelques années à peine, l'intelligence artificielle la plus avancée n'aurait probablement pas imaginé qu'une experte en intelligence artificielle puisse devenir une sorte de célébrité de la recherche. Pourtant, cela ne lui a pas donné des tendances de prima donna, et c'est peut-être là une partie du secret.

Inga Strümke parle si clairement qu'on a presque l'impression de comprendre ce qu'implique son travail. Mais un seul coup d'œil à son écran d'ordinateur suffit à nous faire comprendre qu'elle ne nous partage pas exactement tout ce qu'elle sait. Son travail est rempli de langage de programmation.

Elle est en réalité physicienne et titulaire d’un doctorat en physique des particules, mais elle s’est concentrée sur l’intelligence artificielle ces dernières années.

Sa spécialisation est l'apprentissage automatique, qui implique la formation de l'intelligence artificielle et l'intelligence artificielle explicable. Cette dernière s'intéresse à ce que l'intelligence artificielle a réellement compris et à l'origine de ces connaissances.

Mais ce n'est pas pour cela qu'elle est surtout connue. Si vous vivez en Norvège, vous devez vivre sur une autre planète si vous ne l'avez pas vue à la télévision ou dans un journal. Elle a décidé de donner la priorité à l'information publique, tout en consacrant beaucoup de temps à la recherche.

Plus tôt cette année, son livre « Machines qui pensent » figurait depuis un an sur la liste des best-sellers de l’Association des libraires norvégiens, mais ce n’était pas à l’origine son idée de l’écrire.

Quelqu'un à la maison d'édition Kagge Forlag a eu l'intelligence de le lui demander, et après avoir obtenu quelques garanties que ce ne serait pas une perte de temps, elle a commencé à écrire.

« J'ai vu cela comme une opportunité d'avoir une vue d'ensemble appropriée du domaine de l'intelligence artificielle », dit-elle, « mais c'est devenu plus qu'un exercice privé. »

Le livre a été achevé après six mois d'écriture et trois mois de va-et-vient avec les éditeurs. « Machines That Think » est devenu une introduction au domaine pour des dizaines de milliers de lecteurs, et Strümke a depuis longtemps renoncé à essayer de participer à tous les événements auxquels on l'invite.

Pas de Terminator, mais…

Inga Strümke ne craint pas que des robots tueurs pilotés par l’IA prennent bientôt le contrôle du monde, mais les avancées massives et rapides de l’IA présentent encore de nombreux problèmes.

Elle a peur que nous perdions notre étincelle.

« Nous avons toujours été habitués à nous affaler devant la télévision et à nous divertir, mais ce n'est plus la même chose aujourd'hui. Beaucoup de gens sont sédentaires toute la journée », dit-elle.

« Ces services vous donnent de si bonnes recommandations et vous connaissent si bien que vous ne pouvez tout simplement pas résister. Divers services de divertissement et médias sociaux apprennent rapidement ce que nous aimons et nous en donnent simplement davantage. Soudain, vous réalisez que vous êtes assis à regarder TikTok ou YouTube bien plus longtemps que prévu. »

« C'est pire que la coercition. Ces services vous donnent de si bonnes recommandations et vous connaissent tellement bien que vous ne pouvez tout simplement pas résister », explique Strümke. « Ces services peuvent le faire parce qu'ils collectent des informations sur vous. Nous avons presque tous cliqué sur les boutons qui leur donnent l'autorisation de le faire, et cela devient alors légal. Les nouvelles réglementations européennes peuvent rendre cette collecte de données plus délicate, du moins lorsqu'il s'agit d'utiliser ces informations pour nous garder rivés devant l'écran pendant des heures. »

Strümke elle-même n'utilise quasiment plus les réseaux sociaux. À part Instagram. Elle est de toute façon bien trop occupée.

Un aspect plus sinistre est que l’IA ne menace pas seulement notre temps libre, elle menace également la démocratie.

Qui obtient votre vote ?

Les élections politiques sont également influencées par l'intelligence artificielle. Le politicien le plus divertissant peut attirer le plus d'attention.

Ce n’est pas nouveau, mais la désinformation peut se propager par le biais de deep fakes, de manipulations d’images et de fausses nouvelles ciblées.

Les messages peuvent être spécifiquement adaptés à des individus ou à des groupes à l’aide de l’intelligence artificielle et des médias sociaux, ce qui est quelque chose de plus problématique.

Les mensonges et les avantages accordés aux candidats séduisants ont toujours fait partie de la politique. Lors de l'élection présidentielle américaine de 1960, Richard Nixon a perdu face à John F. Kennedy, et le fait qu'il soit apparu à la télévision avec une apparence instable et maladroite, et sans maquillage, par rapport à son rival plus charmant, n'a certainement pas aidé sa cause.

« Je ne sais pas encore si ce que nous voyons aujourd’hui est quelque chose de complètement nouveau. Mais c’est différent d’avant. Il n’est plus nécessaire de disposer d’une grande organisation avec de nombreuses personnes pour influencer une campagne électorale. Il suffit d’avoir suffisamment d’ordinateurs », explique Strümke.

« Par exemple, une stratégie de propagande russe typique ne consiste pas nécessairement à mentir directement tout le temps. Au lieu de cela, les gens sont bombardés d'informations contradictoires jusqu'à ce qu'ils en aient assez. Les gens sont touchés par la fatigue numérique. Ils en ont assez. Cela peut aussi avoir un effet apaisant. »

Cette stratégie ouvre également la porte aux populistes, des gens qui véhiculent des messages simples et qui parviennent à percer le chaos, en délivrant exactement ce que vous voulez entendre, souvent accompagnés d’une rhétorique qui blâme une minorité ou présente un autre ennemi commode.

Donc ça va être un cauchemar, n'est-ce pas ?

L’utilisation de l’intelligence artificielle présente de nombreux dangers et pièges. Le monde change et tout ne semble pas évoluer dans le bon sens.

Selon Strümke, que va-t-il se passer ?

« On me demande souvent si je suis optimiste ou pessimiste. Je peux dire que je ne suis jamais entre les deux. Les choses peuvent vraiment mal tourner, mais elles peuvent aussi se terminer très bien », explique Strümke.

« D’un côté, il y a tous les problèmes auxquels nous sommes confrontés dans le monde. Nous, les humains, détruisons la planète, éradiquons des espèces, détruisons des habitats, achetons des tas de choses dont nous n’avons pas besoin et qui viennent de loin, et pour couronner le tout, il y a la menace imminente du changement climatique. Nous avons connu moins de démocratie et plus de troubles ces dernières années.

« Individuellement, nous ne sommes pas stupides, mais nos systèmes et l’organisation de nos communautés ne sont pas toujours aussi intelligents. Parfois, l’intelligence artificielle fait partie du problème.

« D’un autre côté, toutes les possibilités sont là, et les solutions pourraient bien bénéficier de l’intelligence artificielle, si nous l’utilisons à bon escient.

« Je ne vois aucun domaine dans lequel l’IA ne serait pas utile », déclare Strümke.