Le PDG d’OpenAI suggère qu’une agence internationale comme le chien de garde nucléaire de l’ONU pourrait superviser l’IA
L’intelligence artificielle représente un « risque existentiel » pour l’humanité, a averti un innovateur clé lors d’une visite aux Émirats arabes unis mardi, suggérant qu’une agence internationale comme l’Agence internationale de l’énergie atomique supervise la technologie révolutionnaire.
Le PDG d’OpenAI, Sam Altman, est en tournée mondiale pour discuter de l’intelligence artificielle.
« Le défi auquel le monde est confronté est de savoir comment nous allons gérer ces risques et nous assurer que nous pouvons toujours profiter de ces énormes avantages », a déclaré Altman, 38 ans. « Personne ne veut détruire le monde. »
ChatGPT d’OpenAI, un chatbot populaire, a attiré l’attention du monde entier car il offre des réponses de type essai aux invites des utilisateurs. Microsoft a investi environ 1 milliard de dollars dans OpenAI.
Le succès de ChatGPT, offrant un aperçu de la façon dont l’intelligence artificielle pourrait changer la façon dont les humains travaillent et apprennent, a également suscité des inquiétudes. Des centaines de leaders de l’industrie, dont Altman, ont signé une lettre en mai qui avertit que « l’atténuation du risque d’extinction de l’IA devrait être une priorité mondiale aux côtés d’autres risques à l’échelle de la société tels que les pandémies et la guerre nucléaire ».
Altman a tenu à faire référence à l’AIEA, l’organisme de surveillance nucléaire des Nations Unies, comme exemple de la façon dont le monde s’est réuni pour superviser l’énergie nucléaire. Cette agence a été créée dans les années après que les États-Unis ont largué des bombes atomiques sur le Japon à la fin de la Seconde Guerre mondiale.
« Assurons-nous de nous rassembler en tant que globe – et j’espère que cet endroit pourra jouer un véritable rôle à cet égard », a déclaré Altman. « Nous parlons de l’AIEA comme d’un modèle où le monde a dit ‘OK, technologie très dangereuse, mettons tous des garde-corps.’ Et je pense qu’on peut faire les deux.
« Je pense que dans ce cas, c’est un message nuancé car il dit que ce n’est pas si dangereux aujourd’hui, mais que cela peut devenir dangereux rapidement. Mais nous pouvons enfiler cette aiguille. »
Les législateurs du monde entier examinent également l’intelligence artificielle. L’Union européenne des 27 nations poursuit une loi sur l’IA qui pourrait devenir la norme mondiale de facto pour l’intelligence artificielle. Altman a déclaré au Congrès américain en mai que l’intervention du gouvernement serait essentielle pour gérer les risques liés à l’IA.
Mais les Émirats arabes unis, une fédération autocratique de sept émirats gouvernés héréditairement, offrent le revers des risques de l’IA. La parole reste étroitement contrôlée. Des groupes de défense des droits avertissent que les Émirats arabes unis et d’autres États du golfe Persique utilisent régulièrement des logiciels d’espionnage pour surveiller les militants, les journalistes et autres. Ces restrictions affectent le flux d’informations précises – les mêmes détails que les programmes d’IA comme ChatGPT s’appuient sur les systèmes d’apprentissage automatique pour fournir leurs réponses aux utilisateurs.
Andrew Jackson, PDG de l’Inception Institute of AI, qui est décrit comme une entreprise du G42, figurait parmi les orateurs d’ouverture d’Altman lors de l’événement au marché mondial d’Abu Dhabi.
Le G42 est lié au puissant conseiller à la sécurité nationale et vice-dirigeant d’Abu Dhabi, le cheikh Tahnoun bin Zayed Al Nahyan. Le PDG de G42 est Peng Xiao, qui a dirigé pendant des années Pegasus, une filiale de DarkMatter, une société de sécurité émiratie sous surveillance pour avoir embauché d’anciens membres du personnel de la CIA et de la NSA, ainsi que d’autres en provenance d’Israël. G42 possède également une application d’appel vidéo et vocal qui aurait été un outil d’espionnage pour le gouvernement émirati.
Dans ses remarques, Jackson s’est décrit comme représentant « l’écosystème d’IA d’Abu Dhabi et des Émirats arabes unis ».
« Nous sommes une puissance politique et nous serons au cœur de la réglementation de l’IA à l’échelle mondiale », a-t-il déclaré.