La Commission européenne se prépare à lancer l’Office pour l’IA

La Commission européenne est prête à adopter une décision créant l’Office européen pour l’intelligence artificielle (ou AI Office). La nouvelle est rapportée par Euractiv le 23 janvier 2024, sur la base d’un projet de document reçu.

Selon Euractiv, leBureau de l’IA jouera un rôle clé dans l’architecture d’application de l’AI Act, la loi de référence de l’UE pour réglementer l’intelligence artificielle, qui devrait être formellement adoptée dans les prochaines semaines sur la base d’un accord politique conclu en décembre.

L’idée vient du Parlement européen

L’idée d’un Office pour l’IA pour centraliser l’application de l’ensemble des règles sur l’intelligence artificielle est venue du Parlement européen. Toutefois, au cours des négociations, ce montant a été revu à la baisse. un peu moins une agence pour être intégrée à la Commission, mais avec une ligne budgétaire distincte.

Cependant, la question du degré d’autonomie dont bénéficiera l’Office reste sensible au sein de la Commission, d’autant plus qu’il n’est pas clair s’il deviendra une entité avec ses propres objectifs politiques ou une extension de l’unité responsable du droit de l’IA.

Euractiv rapporte que le projet de décision obtenu a été modifié à la suite d’une consultation interne pour inclure une formulation précisant que l’Office ne doit pas interférer avec les compétences des services de la Commission.

Selon le document, la décision devrait entrer en vigueur d’urgence le 21 février 2024, avant l’adoption formelle de la loi européenne sur l’IA. Euractiv estime que la décision devrait être prise mercredi 24 janvier.

L’Office aura pour mission de superviser l’IA

L’Office for AI jouera principalement un rôle de soutien en ce qui concerne l’application des règles sur les systèmes d’intelligence artificielle, ainsi que la plupart des compétences reviendront aux autorités nationales. Cependant, le Bureau a été chargé de surveiller les modèles et systèmes d’IA à usage général (GPAI), les types d’IA les plus puissants à ce jour.

Les progrès récents en matière de puissance de calcul, de collecte de données et de techniques algorithmiques ont conduit au développement de modèles puissants, tels que GPT-4 d’OpenAI, qui alimente ChatGPT, le chatbot le plus populaire au monde.

AI Act, une approche progressive des modèles GPAI

L’accord AI Act comprend une approche progressive des modèles GPAI pour distinguer ceux qui pourraient présenter un risque systémique pour la société des autres. L’AI Office est chargé de développer des méthodologies et des références pour évaluer les capacités des modèles GPAI.

L’Office devrait pouvoir se distinguer dans le contrôle de l’application des règles sur les modèles et systèmes GPAI, en particulier lorsqu’ils sont développés par le même fournisseur, et de l’émergence de risques inattendus découlant de tels modèles, sur la base des rapports d’un groupe scientifique d’experts indépendants. .

La nouvelle entité de l’UE disposera également d’une grande latitude pour enquêter sur d’éventuelles violations des règles liées à la GPAI en collectant des plaintes et des rapports, en émettant des demandes de documents, en menant des évaluations et en demandant des mesures d’atténuation ou d’autres mesures coercitives.

L’Office coordonnera également l’application de la loi sur l’IA aux systèmes d’IA déjà réglementés par d’autres législations de l’UE, tels que les systèmes de recommandation sur les réseaux sociaux en vertu de la loi sur les services numériques et les algorithmes de positionnement dans les moteurs de recherche en vertu de la loi sur les marchés numériques.

L’EU AI Office, un rôle de soutien et de coordination

L’Office pour l’IA réalisera un rôle de soutien dans la préparation du droit dérivé mettant en œuvre la loi sur l’IA, dans l’application uniforme du règlement, dans la publication d’orientations et d’outils de soutien tels que des protocoles standardisés, dans la préparation des demandes de normalisation, dans la mise en place d’expérimentations réglementaires, dans l’élaboration de codes de bonnes pratiques et de conduite au niveau de l’UE.

L’entité assurera également le secrétariat du conseil d’administration de l’IA et le soutien administratif du forum consultatif dirigé par les parties prenantes et du groupe scientifique. Le projet de décision fait explicitement référence à l’obligation de consulter régulièrement les acteurs scientifiques et de la société civile.

En particulier, l’Office of AI doit « établir un forum de coopération avec la communauté open source pour identifier et développer les meilleures pratiques pour le développement et l’utilisation sûre de modèles et de systèmes d’IA open source ».

Par ailleurs, la nouvelle entité est chargée de promouvoir les écosystèmes d’innovation et de travailler avec les acteurs publics et privés et la communauté des start-up. Comme l’a révélé Euractiv, l’AI Office sera chargé de suivre les progrès de GenAI4EU, une initiative visant à promouvoir l’adoption de l’IA générative dans des secteurs stratégiques.

L’Office est également chargé de coopérer avec les organes compétents de l’UE, tels que le Contrôleur européen de la protection des données. Une collaboration avec d’autres services de la Commission, en particulier le Centre européen pour la transparence algorithmique, est également nécessaire pour tester les modèles et systèmes GPAI et faciliter l’adoption d’outils d’IA dans les politiques pertinentes de l’UE.

Internationalement, Le Bureau promouvra l’approche de l’UE en matière d’IA, contribuera aux initiatives de gouvernance de l’IA et soutiendra la mise en œuvre des accords internationaux.

Office européen de l’IA, financement

L’aspect financier de l’AI Office est un point sensible depuis le début. Le manque de flexibilité des allocations budgétaires de l’UE et le manque de volonté des États membres de mettre davantage de ressources sur la table signifient que les nouvelles tâches sont toujours confrontées à des contraintes budgétaires strictes.

Le service de politique numérique de la Commission, la DG CNECT, affectera des ressources humaines. Le recrutement de personnel temporaire et les dépenses opérationnelles seront financés par la réaffectation du budget du programme Europe numérique.

Deux nouveaux consortiums Edic

La Commission européenne est également en train d’établir, avec certains États membres, deux consortiums européens d’infrastructures numériques (EDIC). Il s’agit duAlliance pour les technologies linguistiques (Alt-Edic)en soutien de développement de grands modèles linguistiques européens, Et CitiVersepour l’application d’outils d’intelligence artificielle pour développer et améliorer les jumeaux numériques locaux pour les communautés intelligentes et les villes intelligentes. Les États membres peuvent créer les consortiums européens d’infrastructures numériques Alt-Edic et CitiVerse Edic avec le soutien de la Commission.

Communication Ai@Ec

Enfin, la Commission européenne a adopté une communication qui décrit l’approche stratégique de l’utilisation de l’intelligence artificielle et avec lequel l’exécutif européen prépare en interne la mise en œuvre du‘Loi sur l’IA. La communication comprend des actions concrètes visant à renforcer les capacités institutionnelles et opérationnelles nécessaires pour garantir le développement et l’utilisation d’une IA fiable, sûre et éthique. La Commission s’organise pour soutenir les administrations publiques de l’UE dans l’adoption et l’utilisation de l’intelligence artificielle.