Le chef de l’ONU appelle à une réponse « unie » aux menaces de l’IA

Le secrétaire général de l’ONU, Antonio Guterres, a appelé jeudi à une « réponse mondiale unie, soutenue » aux menaces liées à l’intelligence artificielle, alors que les alliés occidentaux se sont mis d’accord sur un cadre de sécurité pour les nouveaux modèles de pointe lors d’un premier sommet mondial en Grande-Bretagne.

Le chef de l’ONU a déclaré que le monde « rattrapait son retard » et devait « prendre de l’avance sur la vague », alors qu’il s’adressait au premier Sommet sur la sécurité de l’IA auquel participaient diverses personnalités politiques, technologiques et autres du monde entier.

Le rassemblement de deux jours à Bletchley Park, au nord de Londres, s’est terminé jeudi avec l’accord des gouvernements occidentaux et des entreprises impliquées dans ce que l’on appelle l’IA « frontière » de nouvelle génération sur un nouveau régime de tests de sécurité.

Les gouvernements des pays du G7 et de l’UE, ainsi que l’Australie, la Corée et Singapour, ont conclu un accord avec des sociétés leaders en IA telles que OpenAI, Anthropic, Google DeepMind et Microsoft, pour tester leurs derniers modèles avant et après leur sortie.

Cela survient dans un contexte d’inquiétudes croissantes concernant les technologies émergentes, allant des pertes d’emplois et des cyberattaques à la capacité des humains à garder le contrôle des futurs systèmes.

Guterres a déclaré lors du sommet que l’IA avait « des conséquences négatives possibles à long terme » sur tout, de l’emploi à la culture, tandis que sa concentration dans quelques pays et entreprises « pourrait accroître les tensions géopolitiques ».

Prévenant que cela pourrait « exacerber les énormes inégalités qui affligent déjà notre monde », il a exigé une « stratégie mondiale unie et soutenue, basée sur le multilatéralisme et la participation de toutes les parties prenantes ».

Saluant le nouvel accord « historique » autour des tests, le Premier ministre britannique Rishi Sunak a déclaré qu’il pensait que cela contribuerait à « faire pencher la balance en faveur de l’humanité ».

‘Collaboration’

Sunak, qui a adopté un ton alarmiste dans un récent discours mettant en garde contre les dangers potentiels de l’IA, a également annoncé que le célèbre universitaire en IA Yoshua Bengio dirigerait une équipe produisant un rapport inaugural sur la sécurité de l’IA.

« Le regretté Stephen Hawking a dit un jour que l’IA serait probablement la meilleure ou la pire chose qui puisse arriver à l’humanité », a déclaré Sunak lors d’une conférence de presse concluant le sommet.

« Si nous parvenons à maintenir la collaboration que nous avons favorisée au cours de ces deux derniers jours, je crois profondément que nous pouvons en faire le meilleur. »

Le rassemblement a débuté mercredi avec un accord signé par 28 pays et l’Union européenne reconnaissant la « nécessité d’une action internationale ».

Jeudi, de hauts représentants des principaux pays occidentaux se sont officiellement réunis, en présence de Sunak, de la vice-présidente américaine Kamala Harris et de la chef de l’UE, Ursula von Leyen.

Des personnalités technologiques de premier plan étaient également présentes, notamment Elon Musk, PDG de SpaceX et de Tesla, présent les deux jours, aux côtés de représentants du monde universitaire et de la société civile.

La Chine, qui était présente mercredi, n’a pas été invitée aux discussions plus sensibles sur les sessions du deuxième jour, largement tenues à huis clos.

Les participants ont convenu d’organiser d’autres sommets sur la sécurité de l’IA en Corée du Sud et en France au cours de l’année à venir.

La sortie de ChatGPT et d’autres systèmes d’IA générative, capables de produire rapidement du texte, des images et du son à partir de commandes simples dans le langage courant, a captivé le public et a offert un aperçu du potentiel de la technologie.

Le sommet a coïncidé avec la sortie d’une « nouvelle » chanson des Beatles produite avec l’aide d’AI plus de quatre décennies après son enregistrement initial en tant que démo.

‘Existentiel’

Londres et Washington ont tous deux annoncé cette semaine la création d’instituts chargés d’effectuer ce travail et d’identifier et d’atténuer les autres risques posés par l’IA.

Harris a parlé aux délégués des efforts déployés par les États-Unis pour aider à distinguer le contenu numérique authentique produit par le gouvernement du contenu généré par l’IA, et pour empêcher l’utilisation d’algorithmes d’IA discriminatoires, a indiqué son bureau.

Le ministre britannique des Affaires étrangères, James Cleverly, avait déclaré plus tôt à l’AFP que les pays répondaient au besoin urgent d’une réponse coordonnée.

« Nous devons avancer à un rythme qui correspond au rythme de l’évolution technologique, nous n’avons pas le choix », a-t-il déclaré.

« Et en réalité, ce que nous constatons, c’est une volonté à l’échelle mondiale, tant au niveau gouvernemental que dans le monde commercial, d’agir très, très rapidement. »

Musk a qualifié le sommet de « opportun », reconnaissant que l’IA est « l’un des risques existentiels auxquels nous sommes confrontés ».

« C’est potentiellement la question la plus urgente si l’on considère le calendrier et le rythme d’avancement », a-t-il déclaré.

Les puissances du G7 se sont mises d’accord lundi sur un « code de conduite » non contraignant pour les entreprises développant les systèmes d’IA les plus avancés, tandis que le président américain Joe Biden a également publié un décret les réglementant au niveau national.

A Rome, les ministres d’Italie, d’Allemagne et de France ont appelé à une « approche favorable à l’innovation » pour réglementer l’IA en Europe, tout en appelant à davantage d’investissements pour défier les États-Unis et la Chine.