AI Act, la proposition : fusionner forums et panels en un seul organisme

ÀJ `agis: Comme on le sait, le règlement européen sur l'intelligence artificielle a été adopté par le Conseil de l'UE le 21 mai 2024. La loi sur l'IA vise à normaliser les règles en matière d'intelligence artificielle, établissant ainsi potentiellement une référence mondiale pour sa réglementation. Son objectif principal est de promouvoir le développement et l’adoption de systèmes d’intelligence artificielle sûrs et fiables au sein du marché unique de l’UE, garantissant le respect des droits fondamentaux tout en encourageant l’investissement et l’innovation. Cependant, la loi exempte certains domaines tels que les applications militaires et de défense, ainsi que les fins de recherche. Voici les avis de quelques observateurs privilégiés.

Des idées pour une gouvernance solide

Les universitaires Claudio Novelli, Philipp Hacker, Jessica Morley, Jarle Trondal et Luciano Floridi suggèrent plusieurs améliorations à la gouvernance de l'AI Act. Premièrement, ils proposent des lignes directrices plus claires pour la structure de l'AI Office et le processus de sélection des experts. Deuxièmement, ils soutiennent la fusion des forum il est né en panneau en un seul organe pour renforcer le processus délibératif et éviter les doubles emplois. Troisièmement, ils soulignent la nécessité d’une coordination entre les entités de l’UE via un centre de coordination de l’IA pour gérer des intérêts contradictoires. Quatrièmement, ils soulignent la nécessité pour le Conseil de l’IA d’examiner les décisions nationales afin de garantir des réglementations cohérentes et de prévenir les abus. Enfin, ils recommandent la création d'une unité au sein de l'AI Office pour apprendre et affiner les pratiques d'IA grâce à la collaboration avec les centres de compétences des États membres.

Mathieu Michel, secrétaire d'État belge à la Digitalisation

Mathieu Michel, le secrétaire d'État belge chargé de la numérisation, de la simplification administrative, de la protection de la vie privée et de la réglementation des bâtiments souligne l'accent mis par la loi sur l'IA sur la confiance, la transparence et la responsabilité, garantissant que cette technologie en évolution rapide puisse prospérer et stimuler l'innovation européenne. Une fois signé par les présidents du Parlement européen et du Conseil, il sera publié au Journal officiel de l'UE et entrera en vigueur vingt jours plus tard avec un délai de mise en œuvre de deux ans (avec quelques exceptions).

Analyse des zones de convergence et de divergence entre l'UE et les USA

Benjamin Cédric Larsenresponsable du projet AI & Machine Learning au Forum économique mondial, e Sabrina Kuspertresponsable politique au Bureau européen de l'IA de la Commission européenne, a publié un aperçu sur le site Web de la Brookings Institution, soulignant à la fois les similitudes et les différences entre les approches de l'UE et des États-Unis en matière de réglementation de l'IA à usage général.

Alors que le décret américain se concentre sur les lignes directrices permettant aux agences fédérales de modéliser les pratiques industrielles et les exigences de reporting en vertu de la loi sur la production de défense, la loi sur l'IA réglemente directement les modèles d'IA à usage général au sein de l'UE avec des règles contraignantes. Le décret peut être modifié et révoqué, tandis que la loi sur l’IA constitue une structure de gouvernance durable. Le seuil de l’UE pour les modèles d’IA à usage général réglementés est inférieur à celui des États-Unis, et pourrait inclure une gamme plus large de modèles.

L’approche américaine se concentre sur les risques et le double usage potentiel de l’IA, mais la loi européenne adopte une vision plus large des risques systémiques et inclut la discrimination à grande échelle, les incidents graves et les conséquences négatives sur les droits de l’homme. Les deux cadres réglementaires s’accordent sur la nécessité de documentation, d’évaluation des modèles et d’exigences en matière de cybersécurité. L’influence mondiale de l’AI Act pourrait être comparable à celle du RGPD en raison de l’importance du marché européen.

En revanche, l'ordonnance américaine Il établit principalement une politique intérieure avec une influence mondiale indirecte. Les deux entités, ainsi que d’autres pays du G7, se sont engagées à créer un code de conduite non contraignant pour l’IA, signalant une plus grande collaboration en matière de politique en matière d’IA.

Exceptions pour l'IA open source

Les avocats de l'équipe AI d'Orrick, Julia Apostle, Sarah Schaedler, Shaya Afshar et Daniel Healow, a écrit un aperçu des exceptions de la loi sur l'IA pour les systèmes d'IA publiés sous licences libres et open source, qui excluent ceux qui présentent un risque élevé ou qui interagissent directement avec des individus. Les modèles d'IA à usage général peuvent bénéficier d'une exception open source limitée si les fournisseurs autorisent l'accès, l'utilisation, la modification et la distribution des paramètres du modèle. Ils ne doivent cependant pas présenter de risques systémiques.

Les avantages de cette exception incluent l'exemption des obligations de transparence, mais les prestataires doivent partager des résumés détaillés du contenu de la formation et se conformer à la loi européenne sur le droit d'auteur. Les auteurs déclarent que lorsqu'ils envisagent une stratégie d'IA open source, les développeurs, les fournisseurs et les exécutants devraient prendre en compte les types de technologies d'IA utilisées, les avantages et les inconvénients des licences sous licences open source, ainsi que les garanties nécessaires lorsque l'intelligence artificielle open source les technologies sont utilisées.

Focus sur la biométrie

David J. Oberly, conseiller juridique du cabinet d'avocats Baker Donelson, a écrit que la loi sur l'IA impose des réglementations strictes sur les systèmes biométriques, interdit certains cas d'utilisation et étend sa portée extraterritoriale aux entreprises en dehors de l’UE. Oberly affirme que les technologies biométriques telles que l'identification, la vérification et la catégorisation sont directement réglementées, tandis que les systèmes liés aux attributs personnels sensibles, la reconnaissance des émotions sur les lieux de travail et les écoles, les systèmes d'intelligence artificielle qui étendent la reconnaissance faciale en temps réel et la base de données d'identification dans les espaces publics sont interdits. . Les classifications de risque élevé et de transparence imposent des obligations supplémentaires, notamment des avertissements visibles pour les personnes concernées et des marquages ​​de sortie pour le contenu synthétique. Il conseille aux entreprises impliquées dans les systèmes biométriques de travailler de manière proactive pour se conformer à la loi, avec plusieurs recommandations dans le message.

Vision pour le bureau de l'IA

Philipp Hacker, Sebastian Hallensleben et Kai Zenner ils ont publié un éditorial sur Euractiv faisant valoir que la mise en œuvre de la première législation globale sur l’IA au monde nécessite un leadership fort et un cadre innovant. Hacker, Hallensleben et Zenner affirment que l'AI Office, confronté à de nombreux défis, notamment des délais serrés et des budgets limités, doit être conçu avec une structure claire et stratégique pour remplir efficacement sa mission. Ils proposent une structure composée de cinq unités spécialisées :

• Confiance et sécurité

• Excellence en innovation

• Coopération internationale

• Recherche et prospective

• Soutien technique.

En outre, il est crucial d’attirer et de retenir des talents de haut niveau, y compris en dehors des institutions de l’UE, ce qui nécessite des environnements de travail attrayants et des modalités flexibles. Le leadership doit combiner les connaissances institutionnelles avec l’expertise en IA, complétée par des consultants externes. Les valeurs opérationnelles doivent donner la priorité à l’agilité, à une bureaucratie minimale et à l’autonomie, à l’instar des start-ups à succès. Ils soulignent également l’importance de garantir du matériel et des logiciels de pointe grâce à des méthodes d’approvisionnement innovantes. Enfin, les auteurs appellent à la transparence et à l'accessibilité pour favoriser des interactions régulières avec diverses parties prenantes, notamment les citoyens de l'UE, la société civile, le monde universitaire et les PME.