Les mots et concepts de l’IA : le vocabulaire pour s’orienter

Le monde de l’intelligence artificielle possède son vocabulaire spécifique – comme tout domaine sectoriel et spécialisé –, composé de termes, d’expressions et de concepts parfois peu ou moins connus, et dans lesquels il n’est pas toujours facile de s’y retrouver. Surtout, de manière uniforme et partagée.

Voici donc une sorte de glossaire de l’IA, avec des définitions et des explications – officielles – qui proviennent directement d’une source très faisant autorité : l’AI Act, c’est-à-dire le premier règlement mondial sur l’intelligence artificielle, lancé par l’Union européenne pour garantir que les systèmes d’IA sont sûrs, éthiques, transparents et respectueux des droits fondamentaux, et qui établit un cadre réglementaire unique pour tous les États membres.

Parmi les différentes règles et dispositions qui composent la loi sur l’IA, l’UE a également jugé bon de clarifier et d’uniformiser précisément les mots et définitions du « vocabulaire de l’IA », que les entreprises, les entrepreneurs, les dirigeants et les citoyens doivent utiliser pour « parler le même langage » de l’innovation technologique.

Le vocabulaire (UE) de l’intelligence artificielle

Ci-dessous, une sélection des principaux points, termes et concepts de ce glossaire particulier, pour comprendre les plus importants et les moins connus.

Système AI : un système automatisé conçu pour fonctionner avec différents niveaux d’autonomie. Il déduit des informations qu’il reçoit comment générer des résultats tels que des prédictions, du contenu, des recommandations ou des décisions, qui peuvent influencer les environnements physiques ou virtuels.

Risque : la combinaison de la probabilité qu’un préjudice se produise.

Fournisseur : personne physique ou morale, autorité publique, agence ou autre organisme qui développe un système ou un modèle d’IA, ou le fait développer à des fins générales et met ce système ou ce modèle sur le marché.

Déployeur : personne physique ou morale, autorité publique, agence ou autre organisme qui utilise un système d’IA sous son autorité, sauf lorsque le système d’IA est utilisé dans le cadre d’une activité personnelle et non professionnelle.

Importateur : personne physique ou morale située ou établie dans l’Union européenne qui met sur le marché un système d’IA portant le nom ou la marque d’une personne physique ou morale établie dans un pays tiers.

Distributeur : personne physique ou morale intervenant dans la chaîne d’approvisionnement, autre que le fournisseur ou l’importateur, qui met à disposition un système d’IA sur le marché de l’Union.

Opérateur : un fournisseur, un fabricant de produits, un déployeur, un représentant autorisé, un importateur ou un distributeur.

Instructions et utilisation « inappropriée raisonnablement prévisible »

Mise sur le marché: première mise à disposition d’un système ou d’un modèle d’IA sur le marché de l’Union.

Mise en service : fourniture d’un système d’IA directement au déployeur pour une première utilisation ou pour son propre usage dans l’Union aux fins prévues.

Finalité prévue : L’utilisation d’un système d’IA prévue par le fournisseur, y compris le contexte et les conditions spécifiques d’utilisation, tels que détaillés dans les informations communiquées par le fournisseur dans les instructions d’utilisation, les supports promotionnels ou commerciaux et les déclarations, ainsi que dans la documentation technique.

Utilisation abusive raisonnablement prévisible : utilisation d’un système d’IA d’une manière qui n’est pas conforme à sa destination, mais qui peut résulter d’un comportement humain ou d’une interaction avec d’autres systèmes, y compris d’autres systèmes d’IA, qui est raisonnablement prévisible.

Composant de sécurité : composant d’un produit ou d’un système d’IA qui remplit une fonction de sécurité pour ce produit ou ce système, ou dont la panne ou le dysfonctionnement met en danger la santé et la sécurité des personnes ou des biens.

Mode d’emploi : les informations communiquées par le fournisseur pour informer le déployeur, notamment sur la destination et la bonne utilisation d’un système d’IA.

Formation, test, saisie des données

Rappel d’un système d’IA : toute mesure visant à obtenir le retour au fournisseur, le démantèlement ou la désactivation de l’utilisation d’un système d’IA mis à disposition des déployeurs.

Retrait d’un système d’IA : toute mesure visant à empêcher la mise à disposition sur le marché d’un système d’IA dans la chaîne d’approvisionnement.

Performance : la capacité d’un système d’IA à atteindre son objectif prévu.

Évaluation de la conformité : processus visant à démontrer si les exigences d’un système d’IA à haut risque ont été respectées.

Organisme d’évaluation de la conformité : organisme qui effectue des activités d’évaluation de la conformité pour le compte de tiers, notamment des tests, des certifications et des inspections.

Marquage CE : marquage par lequel un fournisseur indique qu’un système d’IA est conforme aux exigences établies par les institutions compétentes.

Système de surveillance post-commercialisation : toutes les activités réalisées par les fournisseurs afin de collecter et d’analyser l’expérience acquise grâce à l’utilisation des systèmes d’IA qu’ils mettent sur le marché ou mis en service, afin d’identifier tout besoin d’actions correctives ou préventives.

Autorité de surveillance du marché : l’autorité nationale exerçant des activités et adoptant des mesures conformément au règlement (UE) 2019/1020.

Données d’entraînement : données utilisées pour entraîner un système d’IA, en adaptant les paramètres qu’il peut apprendre.

Données de test : données utilisées pour fournir une évaluation indépendante du système d’IA, afin de confirmer ses performances attendues avant sa mise sur le marché ou sa mise en service.

Données d’entrée : données fournies à un système d’IA ou directement acquises par celui-ci, sur la base desquelles le système produit une sortie.

IA et systèmes biométriques

Données biométriques : données personnelles obtenues à partir d’un traitement technique spécifique relatif aux caractéristiques physiques, physiologiques ou comportementales d’une personne physique, telles que des images faciales ou des données d’empreintes digitales.

Identification biométrique : reconnaissance automatisée de caractéristiques physiques, physiologiques, comportementales ou psychologiques humaines, en vue de déterminer l’identité d’une personne physique, par comparaison de ses données biométriques avec celles d’individus stockées dans une base de données.

Données opérationnelles sensibles : données relatives aux activités de prévention, de détection, d’enquête ou de poursuite d’infractions, dont la divulgation pourrait compromettre l’intégrité des procédures pénales.

Système de reconnaissance des émotions : un système d’IA visant à identifier ou à déduire les émotions ou les intentions de personnes physiques sur la base de leurs données biométriques.

Système de catégorisation biométrique : un système d’IA qui utilise les données biométriques des personnes physiques dans le but de les attribuer à des catégories spécifiques, sauf si cela est accessoire à un autre service commercial et strictement nécessaire pour des raisons techniques objectives.

Système d’identification biométrique à distance : système d’IA visant à identifier des personnes physiques, sans leur participation active, généralement à distance en comparant les données biométriques d’une personne avec les données biométriques contenues dans une base de données de référence. L’identification peut se faire en temps réel ou a posteriori.

Le Bureau de l’IA et des accidents graves

Autorité chargée de l’application des lois : toute autorité publique compétente pour la prévention, l’enquête, la détection ou la poursuite d’infractions pénales ou l’application de sanctions pénales, y compris la protection et la prévention des menaces à la sécurité publique.

Office pour l’IA : fonction de la Commission européenne visant à contribuer à la mise en œuvre, au suivi et à la supervision des systèmes et modèles d’IA à usage général, ainsi qu’à la gouvernance de l’IA envisagée par la Commission européenne.

Autorité nationale compétente : une autorité de notification ou de surveillance du marché ; en ce qui concerne les systèmes d’IA mis en service ou utilisés par les institutions, organes et organismes de l’Union.

Incident Grave : Un incident ou un dysfonctionnement d’un système d’IA qui entraîne, directement ou indirectement, l’une des conséquences suivantes : la mort d’une personne ou une atteinte grave à la santé d’une personne ; une perturbation grave et irréversible de la gestion ou de l’exploitation des infrastructures critiques ; violation des obligations prévues par le droit de l’Union pour protéger les droits fondamentaux ; de graves dommages aux biens ou à l’environnement.

Espace de test réglementaire pour l’IA : un cadre contrôlé établi par une autorité compétente, qui offre aux fournisseurs ou fournisseurs potentiels de systèmes d’IA la possibilité de développer, de former, de valider et de tester, le cas échéant dans des conditions réelles, un système d’IA innovant, conformément à un plan d’espace de test pendant une période limitée sous surveillance réglementaire.

Alphabétisation, deep fakes, risque systémique

Connaissances en IA : les compétences, les connaissances et la compréhension qui permettent aux fournisseurs, aux déployeurs et aux parties prenantes de déployer des systèmes d’IA en connaissance de cause, ainsi que de prendre conscience des opportunités et des risques de l’IA ainsi que des dommages possibles qu’elle peut causer.

Consentement éclairé : expression libre, spécifique, sans ambiguïté et volontaire d’un sujet de sa volonté de participer à un test donné dans des conditions réelles, après avoir été informé de tous les aspects du test pertinents pour sa décision de participer.

Deep fake : une image ou un contenu audio ou vidéo généré ou manipulé par l’IA, qui ressemble à des personnes, des objets, des lieux, des entités ou des événements existants, et qui semblerait faussement authentique ou véridique à une personne.

Risque systémique : risque pesant sur les capacités à fort impact des modèles d’IA à usage général, ayant un impact significatif sur le marché de l’Union en raison de son ampleur ou de ses effets négatifs réels ou raisonnablement prévisibles sur la santé publique, la sécurité, les droits fondamentaux ou la société dans son ensemble, qui peut se propager à grande échelle tout au long de la chaîne de valeur.