La Corée du Sud et la Grande-Bretagne organisent un sommet sur l'IA avec la sécurité en tête de l'ordre du jour
La Corée du Sud et la Grande-Bretagne lancent cette semaine à Séoul un sommet international majeur sur l'intelligence artificielle, où les gouvernements prévoient de faire pression sur les entreprises technologiques sur la sécurité de l'IA.
Cette réunion fait suite au premier sommet mondial sur la sécurité de l'IA à Bletchley Park en Grande-Bretagne l'année dernière, au cours duquel des dizaines de pays ont fait part de leurs craintes aux principales entreprises d'IA concernant les risques posés par leur technologie.
La sécurité est à nouveau à l'ordre du jour du sommet AI de Séoul qui débute mardi et des représentants sont attendus de grandes sociétés d'IA, notamment le fabricant de ChatGPT OpenAI, Google DeepMind, la société française d'IA Mistral, Microsoft et Anthropic.
« Comme toute nouvelle technologie, l'IA entraîne de nouveaux risques, notamment une utilisation abusive délibérée de la part de ceux qui veulent nous faire du mal », ont déclaré lundi le président sud-coréen Yoon Suk Yeol et le Premier ministre britannique Rishi Sunak dans un article commun.
« Cependant, avec la sortie de nouveaux modèles presque chaque semaine, nous sommes encore en train de déterminer où ces risques peuvent apparaître », ont-ils déclaré dans l'article publié par le quotidien sud-coréen JoongAng Ilbo et le journal britannique i.
Le succès stratosphérique de ChatGPT peu après sa sortie en 2022 a déclenché une ruée vers l’or dans le domaine de l’IA générative, les entreprises technologiques du monde entier investissant des milliards de dollars dans le développement de leurs propres modèles.
Les modèles d’IA générative peuvent générer du texte, des photos, de l’audio et même de la vidéo à partir de simples invites, et leurs partisans les ont présentés comme une percée qui améliorera la vie et les entreprises dans le monde entier.
Mais les critiques, les militants des droits de l'homme et les gouvernements ont averti qu'ils peuvent être utilisés à mauvais escient dans une grande variété de situations, y compris la manipulation des électeurs au moyen de fausses nouvelles ou de photos et vidéos dites « deepfakes » de politiciens.
Des changements dramatiques
Beaucoup ont réclamé des normes internationales pour régir le développement et l’utilisation de l’IA.
« Lorsque nous rencontrerons les entreprises lors du sommet AI de Séoul, nous leur demanderons de faire davantage pour montrer comment elles évaluent et réagissent aux risques au sein de leur organisation », ont écrit Yoon et Sunak.
« Nous prendrons également les prochaines mesures pour définir des normes mondiales qui éviteront un nivellement par le bas. »
Le sommet de Séoul intervient quelques jours après qu'OpenAI a confirmé avoir dissous une équipe chargée d'atténuer les dangers à long terme de l'IA avancée.
Le sommet de deux jours sera en partie virtuel, avec un mélange de séances à huis clos et d'autres ouvertes au public à Séoul.
Cependant, un groupe de six organisations de la société civile sud-coréenne, dont l'éminente Solidarité des peuples pour la démocratie participative, a critiqué les organisateurs du sommet pour ne pas avoir inclus davantage de pays en développement.
« Il serait bénéfique de discuter des normes internationales en matière d'IA dans un forum plus ouvert où tous les pays et diverses parties prenantes du monde entier peuvent participer sur un pied d'égalité, plutôt que dans un club d'élite composé de quelques pays développés », ont-ils déclaré dans une déclaration commune. Lundi.
Outre la sécurité, le sommet discutera de la manière dont les gouvernements peuvent contribuer à stimuler l’innovation, notamment dans la recherche sur l’IA dans les universités.
Les participants réfléchiront également aux moyens de garantir que la technologie soit ouverte à tous et puisse contribuer à lutter contre des problèmes tels que le changement climatique et la pauvreté.
« Cela fait seulement six mois que les dirigeants mondiaux se sont réunis à Bletchley, mais même en si peu de temps, le paysage de l'IA a radicalement changé », ont déclaré Yoon et Sunak.
« Le rythme du changement ne fera que s'accélérer, notre travail doit donc également s'accélérer. »
La France accueillera le prochain sommet sur la sécurité de l’IA.
