Microsoft, Amazon, IBM, xAI, OpenAI s'engagent en faveur de la sécurité

MMicrosoft, Amazon, IBM, Méta, Anthropique, xAI, OpenAI et neuf autres sociétés se sont engagées à publier des mesures de sécurité pour les modèles d'IA et à divulguer publiquement les risques posés par leurs modèles. Pendant le'Au sommet de Séoul, qui a eu lieu en Corée les 21 et 22 mai 2024, 16 entreprises de haute technologie ont convenu de publier des cadres de sécurité sur la manière dont elles mesurent les risques liés à l'IA lors de la création de modèles. Lors du Sommet, leForum mondial sur l'IA. Toutes les entreprises ont convenu de ne pas développer ou déployer un modèle d’IA si les risques qu’il pose ne peuvent être contrôlés ou atténués.

L’engagement envers les modèles fondateurs ou « frontières »

L’engagement concerne les modèles de base, ou « frontières », généralement un système multimodal capable de gérer des images, du texte et d’autres entrées. Parmi les signataires figurent également Samsung, l'Institut pour l'innovation technologique basé à Dubaï et le fournisseur Internet coréen Naver.

Zhipu AMoi, la startup qui construit la réponse chinoise à ChatGPT, je fais partie des entreprises qui ont signé les engagements élaborés par les gouvernements britannique et coréen.

« Nous sommes convaincus que Engagements en matière de sécurité de l’IA aux frontières s'imposera comme une meilleure pratique dans l'écosystème mondial de l'industrie de l'IA et nous espérons que les entreprises poursuivront le dialogue avec les gouvernements, le monde universitaire et la société civile et construiront des réseaux de coopération avec l'Institut pour la sécurité de l'IA à l'avenir « , a-t-il déclaré. Lee Jong Ho, Ministre coréen des sciences et des technologies de l'information et de la communication. Chaque entreprise qui a signé ces engagements exposera publiquement le niveau de risque de ses modèles de base et ce qu'elle compte faire pour garantir leur sécurité lors de leur déploiement.

Les signataires devront publier leurs conclusions avant le prochain sommet sur la sécurité de l’IA, qui se tiendra en France début 2025.

Les engagements en matière de sécurité sont basés sur la Déclaration de Bletchley

« Ces engagements garantissent que les principales sociétés mondiales d'IA feront preuve de transparence et de responsabilité quant à leurs projets visant à développer une IA sûre », a déclaré le Premier ministre britannique. Rishi Sunak. Les engagements sont fondés surAccord de Bletchley signé lors du premier AI Security Summit en novembre 2023, qui classe et catégorise les risques liés à l’IA.

L'engagement des entreprises technologiques est le bienvenu, selon Beatriz Sanz Saiz, leader mondial des données de conseil et de l'IA d'EY. « Assurer la transparence et la responsabilité est essentiel au développement et à la mise en œuvre d’une IA digne de confiance », a déclaré Saiz. « Même si l’IA présente un énorme potentiel pour les entreprises et les particuliers, ce potentiel ne peut être exploité que grâce à une approche consciencieuse et éthique de son développement. »

« Les entreprises utilisant l'IA devraient donner la priorité aux considérations éthiques et aux pratiques responsables en matière de données afin de renforcer la confiance des clients », a-t-il déclaré. Sachin Agrawaldirecteur général de Zoho UK « Adopter les bonnes pratiques d'IA pourrait signifier aller au-delà des réglementations actuelles en matière de confidentialité et considérer ce qui est le plus éthique pour équilibrer les avantages de l'IA sans compromettre les données des clients et garantir que toutes les pratiques sont totalement transparentes ».

Des engagements pour accompagner la réglementation

Yoshua Bengioconsidéré comme l’un des « pères de l’IA », a salué ces engagements, mais a noté que les engagements volontaires devraient être accompagnés d’une réglementation.

Depuis novembre, le débat sur la réglementation de l'IA est passé de scénarios apocalyptiques à long terme à des préoccupations plus pratiques, telles que la manière d'utiliser l'IA dans des domaines tels que la médecine ou la finance, a-t-il déclaré. Aidan Gomezco-fondateur de la grande société de modélisation linguistique Cohere, en marge du sommet.

Ils ont assisté à la réunion Elon Musk de Tesla, l'ancien PDG de Google Éric Schmidtle président de Samsung Electronics Jay Y. Lee et d'autres leaders de l'industrie de l'IA.