AI Act : un avertissement de l’UE pour ne pas être trop restrictif avec l’IA générative

Un haut fonctionnaire de l’UE, Věra Jourovavice-président de la Commission européenne, a mis en garde contre toute attitude « paranoïaque » ou trop restrictive dans la réglementation de l’intelligence artificielle générative, parce que la peur de la technologie étoufferait l’innovation. Jourová, vice-présidente pour les valeurs et la transparence, a déclaré au Temps Financier que la prochaine législation sur le confinement ne devrait pas être basée sur des préoccupations « dystopiques ».

« Il ne devrait y avoir aucune paranoïa dans l’évaluation des risques liés à l’IA. Il doit toujours s’agir d’une analyse solide des risques possibles », a déclaré Jourová, l’un des deux commissaires supervisant la promulgation de la loi historique de l’UE sur l’IA. « Nous ne devrions pas considérer comme à haut risque des choses qui ne semblent pas l’être pour le moment. Il devrait y avoir un processus dynamique grâce auquel, lorsque nous constatons que des technologies sont utilisées de manière risquée, nous pouvons les ajouter ultérieurement à la liste à haut risque.

Évitez les ajustements excessifs

L’auteur reconnaît qu’une réglementation excessive constitue une menace pour l’innovation technologique et commerciale. L’UE a été à l’avant-garde de la course à la réglementation de l’IA, mais d’autres pays, dont les États-Unis et la Chine, débattent de leurs propres contrôles sur le développement et l’utilisation de l’IA. Le Royaume-Uni accueillera le mois prochain un sommet mondial sur la réglementation de l’IA.

Les commentaires de Jourová interviennent alors que la Commission, le Parlement européen et les États membres se lancent la dernière ligne droite des négociations pour finaliser la loi sur l’IA, deux ans et demi après que la Commission a proposé la législation. Les responsables espèrent conclure les discussions d’ici la fin de l’année. Les négociations interviennent après que les entreprises ont exprimé leurs craintes que l’utilisation de l’IA générative puisse conduire à la manipulation de l’opinion publique via le recours à des contrefaçons profondes. Certains membres du Parlement européen s’inquiètent également de la capacité de la technologie à créer un contenu original qui pourrait violer les lois sur le droit d’auteur.

Le projet initial de la Commission se concentrait sur la défense des droits de l’homme, tels que la vie privée, et reposait sur la réglementation des risques liés à la technologie. Mais le parlement a introduit des obligations légales pour les créateurs de ce que l’on appelle les modèles de fondation et leurs applicationscomme, comment ChatGPT, pour les tenir responsables de la manière dont la technologie est utilisée. Les développeurs de modèles d’IA génératifs comme ChatGPT devront divulguer le contenu généré par l’IA et fournir des résumés des données protégées par le droit d’auteur utilisées pour les former, afin de lutter contre la désinformation et les contenus illégaux.

Brando Benifei, l’un des principaux négociateurs du Parlement, a déclaré : « Une approche fondée sur des principes ne semble pas suffisante pour avoir des règles contraignantes et des droits exécutoires pour les citoyens, les entreprises et les institutions. » Les entreprises ont également mis en garde contre les risques que la réglementation de technologies spécifiques fait peser sur l’innovation. Là Association de l’industrie de l’informatique et des communications, un organisme commercial basé aux États-Unis représentant les développeurs d’IA, a déclaré la semaine dernière que « l’application d’exigences rigoureuses aux éléments constitutifs, ou à la technologie de pointe en tant que telle, créerait simplement une législation qui ne résisterait pas à l’épreuve du temps ». « Il en va de même pour les pratiques interdites, qui doivent être clairement ciblées sur des cas précis d’utilisation inacceptable de la technologie », a-t-il ajouté.

Un exemple directeur sur la façon de réglementer la technologie

Jourová, qui supervise l’adoption de la législation avec le commissaire au marché intérieur Thierry Breton, a déclaré qu’elle souhaitait présenter ses arguments lors du forum du G7 sur l’IA à Kyoto le 7 octobre, afin que le modèle européen devienne le principal exemple en matière de réglementation. technologie. « Pour nous, il s’agit de fixer les normes d’un monde démocratique, mais la Chine n’en fait pas partie car dans le monde de la technologie, nous sommes plus des rivaux que des partenaires », a-t-il déclaré, ajoutant qu’il existe un « faible niveau de confiance » entre les deux pays. Pékin et le groupe des économies avancées.

José Fernández, le sous-secrétaire américain à la croissance économique, à l’énergie et à l’environnement, a déclaré lundi aux journalistes à Bruxelles que l’intelligence artificielle est un domaine clé de collaboration entre les États-Unis et l’Union européenne, alors que les partenaires commerciaux cherchent à contrer l’influence de la Chine dans le secteur numérique. . « Les pièges de l’IA dans certains pays sont discutables et nous inquiètent », a-t-il déclaré. Cependant, la technologie présente également « d’énormes avantages » que les États-Unis et l’UE « veulent s’assurer que nous maximisons », a-t-il ajouté.