Décrets d’application de l’IA : quels changements pour les entreprises

Les deux mesures interviennent sur quatre fronts qui touchent directement le secteur privé :

• gouvernance et surveillance du marché;
• formation et maîtrise de l’IA ;
• expérimentation et innovation réglementaires ;
• gestion de la responsabilité et des risques juridiques.

Décrets d’application de l’IA : la machine italienne de la loi IA est née

L’une des questions les plus discutées ces derniers mois concernait l’absence d’un cadre national clair pour l’application de la loi sur l’IA.

Le premier décret dénoue le nœud.

L’Italie choisit un modèle basé sur deux sujets principaux :

• AgID, qui assume le rôle d’autorité nationale de notification ;
• ACN, qui devient l’autorité de surveillance du marché et l’interlocuteur unique avec les institutions européennes.

Pour les entreprises, le problème n’est pas seulement administratif.

Avec l’entrée en vigueur des autorités nationales, les mécanismes de contrôle prévus par le règlement européen deviennent plus concrets : contrôles de conformité, activités d’inspection, demandes de documents et procédures de surveillance sur les systèmes classés à haut risque.

Pour de nombreuses organisations, cela signifie passer de la phase expérimentale d’adoption de l’IA à la construction de véritables modèles de gouvernance.

La conformité de l’IA devient une fonction commerciale

Jusqu’à présent, de nombreuses entreprises ont traité l’IA comme une extension des projets numériques ou de l’innovation informatique.

L’AI Act change radicalement la perspective.

Les entreprises devront démontrer :

• traçabilité des décisions ;
• gestion des risques;
• surveillance humaine;
• qualité des données ;
• documentation technique;
• surveillance des performances du système.

Les décrets italiens renforcent encore cette approche.

En fait, l’intelligence artificielle entre dans les processus de contrôle de la même manière que ce qui s’est produit au fil des années en matière de cybersécurité, de confidentialité et de résilience opérationnelle.

De nombreuses organisations ont besoin de structures permanentes de gouvernance de l’IA qui impliquent non seulement les fonctions informatiques et d’innovation, mais également les fonctions juridiques, RH, de conformité et de gestion des risques.

Le signal le plus fort aux entreprises des décrets IA : la formation

Parmi les innovations les moins discutées mais probablement les plus importantes pour le marché figure le chapitre consacré aux compétences.

En fait, l’AI Act introduit un principe innovant : ceux qui développent ou utilisent des systèmes d’intelligence artificielle doivent garantir des niveaux adéquats de connaissances en IA aux personnes impliquées.

Les décrets italiens traduisent ce principe dans une stratégie nationale qui implique les écoles, les universités, les professions libérales, l’administration publique et le marché du travail.

Pour le système de production, c’est un signal important.

L’adoption de l’IA ne peut être considérée comme un simple choix technologique. Cela devient également une question de compétences organisationnelles.

Les entreprises devront démontrer que les personnes appelées à utiliser les systèmes d’IA possèdent les capacités adéquates pour :

• interpréter correctement les résultats ;
• reconnaître les erreurs et les hallucinations ;
• identifier les préjugés ;
• évaluer les impacts sur les droits et la vie privée ;
• exercer une supervision humaine efficace.

C’est un sujet qui, dans les années à venir, pourrait avoir un poids similaire à celui assumé par la formation obligatoire sur la sécurité au travail ou la protection des données personnelles.

Les 200 millions pour les écoles anticipent le problème des compétences

Le Gouvernement a choisi de commencer par l’école.

Le décret alloue 100 millions d’euros supplémentaires pour la formation des enseignants à l’IA, aux réseaux sociaux et aux environnements numériques.

Ces ressources s’ajoutent aux 100 millions déjà prévus par les programmes lancés par le ministère de l’Éducation pour les pôles locaux de formation dédiés à l’intelligence artificielle.

Le total atteint ainsi 200 millions d’euros.

Du point de vue des entreprises, les données sont significatives pour deux raisons.

La première est qu’elle témoigne du désir de créer une base généralisée de compétences en matière de numérique et d’IA dans le système national.

La seconde est qu’elle confirme combien la question des compétences est désormais considérée comme un facteur de compétitivité industrielle et non plus seulement pédagogique.

Bacs à sable réglementaires : opportunités pour les startups et les PME

L’un des aspects les plus intéressants du décret concerne la création de l’Espace italien d’expérimentation pour l’intelligence artificielle.

Les bacs à sable réglementaires sont l’un des outils les plus innovants fournis par la loi sur l’IA.

Ils permettent aux entreprises de tester des solutions innovantes dans un environnement contrôlé, en traitant directement avec les autorités compétentes.

Pour les startups et les PME, il s’agit d’une opportunité potentielle importante.

L’un des principaux obstacles à l’adoption de l’AI Act concerne l’incertitude d’interprétation. Les bacs à sable peuvent réduire ce problème en permettant de vérifier à l’avance la conformité, les exigences et les problèmes critiques.

S’ils sont mis en œuvre efficacement, ils pourraient devenir un accélérateur pour l’écosystème italien de l’IA.

Modifications des risques juridiques : accès aux preuves et responsabilité

Le deuxième décret contient probablement l’actualité la plus pertinente pour les juristes d’entreprise.

Les nouvelles dispositions introduisent des mécanismes qui facilitent l’accès aux preuves dans les litiges relatifs aux dommages causés par les systèmes d’IA.

Dans certains cas, une présomption de causalité est également introduite lorsqu’une violation des obligations découlant de la loi sur l’IA est démontrée.

Qu’est-ce que cela signifie pour les entreprises ?

Il ne suffira plus de déclarer qu’un système est conforme.

Il faudra être capable de démontrer :

• comment il a été conçu ;
• quels contrôles ont été effectués ;
• quelles données ont été utilisées ;
• comment la surveillance humaine était assurée ;
• quelles procédures de contrôle ont été adoptées.

La documentation technique devient alors un outil de protection juridique ainsi qu’une exigence réglementaire.

De nouvelles implications pour l’assurance et la gestion des risques

Le décret introduit également la possibilité d’une action directe contre l’assureur couvrant la responsabilité civile de la personne impliquée.

Il s’agit d’un détail apparemment technique mais destiné à avoir des effets sur le marché.

Comme cela s’est produit avec le cyber-risque et DORA, le secteur de l’assurance pourrait devenir l’un des principaux moteurs de diffusion des bonnes pratiques de gouvernance de l’IA.

En fait, les entreprises seront incitées à évaluer la qualité des contrôles, des processus de surveillance, de la documentation et de la gestion des risques avant d’accorder une couverture adéquate.

De la gouvernance de l’IA à la gestion de l’IA

Globalement, les décrets marquent le passage d’une phase majoritairement réglementaire à une phase opérationnelle.

Pour de nombreuses entreprises l’enjeu ne sera plus de comprendre si la loi IA les concerne, mais comment s’organiser pour s’y conformer.

La vraie nouveauté n’est pas la multiplication des règles, mais la transformation de l’intelligence artificielle en discipline managériale.

Tout comme des processus structurés existent aujourd’hui pour la confidentialité, la cybersécurité, la résilience opérationnelle et la conformité, nous verrons dans les années à venir l’émergence de fonctions dédiées à la gouvernance de l’IA, avec des responsabilités réparties entre les activités commerciales, technologiques, juridiques et la gestion des risques.

L’approbation des décrets italiens représente la première étape concrète de cette transition. Pour les entreprises, cela signifie que le temps des expérimentations isolées touche à sa fin : l’intelligence artificielle entre définitivement dans le champ de la gouvernance d’entreprise.