IA générative : la Californie fixe des lignes directrices d'utilisation
Alors que l’Europe avance de manière unie sur la voie de règles uniformes en matière d’intelligence artificielle pour tous les États membres, les États-Unis ne semblent pas suivre un ordre particulier. L'Etat de Californie vient d'introduire des lignes directrices sur l'utilisation des technologies d'IA générative, exigeant que les fonctionnaires effectuent des audits et des évaluations des risques avant d'adopter de nouveaux systèmes. Ces lignes directrices sont le résultat direct du décret du gouverneur Gavin Newsom, publié en septembre 2023, qui impose des règles sur l'utilisation de l'intelligence artificielle générative au sein du gouvernement de l'État.
Ce que disent les lignes directrices sur l'IA introduites en Californie
Parmi les nouvelles lignes directrices, les agences d'État doivent indiquer lorsqu'une entreprise propose de fournir des produits ou des services basés sur l'IA générative. Tout fournisseur potentiel doit mettre en avant les aspects d’intelligence artificielle générative de la proposition présentée à l’État. Les lignes directrices offrent également des conseils spécifiques sur les achats « fortuits » et « intentionnels » de technologies d’IA générative.
« Une demande peut recevoir des réponses incluant l'IA générative, que la demande concerne des biens et services non informatiques, des biens et services informatiques ou des achats de télécommunications », indiquent les lignes directrices.
Les règles rendent plus difficile pour les prestataires d'offrir leurs services, car Les agences d'État ne peuvent acheter des systèmes d'IA qu'à des fournisseurs ayant suivi un processus de candidature écrit. Les agences d’État doivent également faire appel à un expert en IA générative pour aider à rédiger et approuver les contrats pour les nouveaux systèmes. Avant d'acheter, les DSI des agences doivent également procéder à des évaluations des risques liés aux technologies d'IA générative pour garantir qu'aucun système ne nuira aux citoyens.
Le personnel chargé de réaliser les évaluations des risques doit utiliser i Principes de gestion des risques de l'intelligence artificielle générative de Californie, qui fournissent un cadre pour évaluer les risques de l’intelligence artificielle générative. Avant d’adopter les technologies d’IA générative, les agences de l’État de Californie devront former leur personnel :
- le personnel de direction recevra une formation initiale suivie par des spécialistes du droit et de la protection de la vie privée ;
- l’état-major recevra une formation ultérieure avant la mise en œuvre des outils d’IA générative.
Tous les employés devront suivre une formation sur la confidentialité et la sécurité des informations. De plus, les entités étatiques sont tenues de soumettre un inventaire de toutes les utilisations de l’intelligence artificielle générative au Département de technologie de Californie pour examen. Les agences ont également reçu une boîte à outils qu’elles peuvent utiliser pour aider à se procurer des technologies d’IA générative. Il est rédigé dans un langage simple afin que le personnel non technique puisse comprendre les règles et sera continuellement mis à jour à mesure que les meilleures pratiques évoluent.
