Biden sécurise les promesses de sécurité technologique face aux risques « énormes » liés à l’IA

Le président Joe Biden a évoqué les IA « énorme » risque et promesse vendredi lors d’une réunion à la Maison Blanche avec des leaders de la technologie qui se sont engagés à se prémunir contre tout, des cyber-attaques à la fraude, alors que le secteur révolutionne la société.

« C’est stupéfiant, » Biden a déclaré, soulignant les IA « énorme, énorme promesse à la fois de risques pour notre société, notre économie et notre sécurité nationale, mais aussi d’incroyables opportunités. »

Aux côtés des meilleurs représentants d’Amazon, Anthropic, Google, Inflection, Meta, Microsoft et OpenAI, Biden a déclaré que les entreprises de pointe s’étaient engagées à « guider l’innovation responsable » alors que l’IA déchire de plus en plus profondément la vie personnelle et professionnelle.

« Nous verrons plus de changements technologiques au cours des 10 prochaines années ou même au cours des prochaines années que nous n’en avons vu au cours des 50 dernières années. Cela a été une révélation étonnante pour moi, » Biden a dit. « Le groupe ici sera essentiel pour piloter cette innovation avec responsabilité et sécurité. »

Avant la réunion, les sept géants de l’IA se sont engagés à une série de garanties autorégulées qui, selon la Maison Blanche, seraient « soulignent trois principes qui doivent être fondamentaux pour l’avenir de l’IA : sûreté, sécurité et confiance. »

Bien que l’IA – dans laquelle les programmes informatiques apprennent à effectuer de nombreuses tâches actuellement effectuées par des humains – soit considérée comme un outil extrêmement stimulant, elle présente également des risques potentiellement cauchemardesques.

Dans leur engagement, les entreprises ont convenu de développer « mécanismes techniques robustes, » tels que les systèmes de filigrane, pour s’assurer que les utilisateurs savent quand le contenu provient de l’IA et non généré par l’homme.

La crainte que le contenu créé par l’intelligence artificielle ne soit utilisé à des fins de fraude et de désinformation s’est intensifiée à mesure que la technologie s’améliore et que l’élection présidentielle de 2024 se rapproche.

Déjà, les partisans du candidat républicain Ron DeSantis ont attiré l’attention avec une publicité d’attaque mettant en vedette une voix générée artificiellement comme celle du favori du parti Donald Trump.

« Un potentiel énorme

L’initiative de la Maison Blanche démontre un effort précoce pour faire face au problème boule de neige de la façon de réglementer une industrie se développant plus rapidement que le Congrès ne peut être en mesure de gérer.

Parmi les mesures promises par les sept entreprises avant la réunion de Biden, il y a l’accord d’indépendance « tests de sécurité internes et externes de leurs systèmes d’IA avant leur sortie » pour les menaces à la biosécurité, la cybersécurité et « des effets sociétaux plus larges. »

Les responsables ont déclaré que Biden travaillait également déjà sur un décret exécutif – quelque chose qui a des pouvoirs limités, mais ne nécessite pas l’approbation du Congrès – sur la sécurité de l’IA.

« Nous devons nous assurer que nous actionnons tous les leviers du gouvernement fédéral pour réglementer et prendre des mesures – et travailler avec… (le Congrès) sur la législation, » Le chef de cabinet de la Maison Blanche, Jeff Zients, a déclaré à Axios.

« Nous aurons besoin d’une législation pour renforcer la capacité d’avoir les experts dont nous avons besoin au sein du gouvernement fédéral, puis d’avoir l’autorité réglementaire pour tenir le secteur privé responsable – et pour ancrer ces actions afin qu’elles soient durables, » dit Zients.

La Maison Blanche a déclaré qu’elle travaillait également avec des alliés étrangers pour rechercher « un cadre international solide pour régir le développement et l’utilisation de l’IA » autour du monde. Le sujet était au premier plan lors du G7 au Japon en mai, tandis que la Grande-Bretagne s’apprête à organiser un sommet international sur l’IA.

Biden a averti que les gouvernements et les sociétés doivent faire mieux face à l’émergence de l’IA que ce n’était le cas lorsque les plateformes de médias sociaux ont explosé, ce qui a suscité une inquiétude généralisée quant aux effets sur la santé mentale et la désinformation.

« Les médias sociaux nous ont montré le mal qu’une technologie puissante peut faire sans les garanties en place, » Biden a dit.

« Nous devons être lucides et vigilants face aux menaces que les technologies émergentes peuvent faire peser sur notre démocratie et nos valeurs, » il a dit.

Mais l’IA a aussi un « énorme, énorme potentiel de hausse. »