Maîtriser l’IA signifie déterminer quelles options de régulation sont réalisables, à la fois techniquement et économiquement.

L’inquiétude suscitée par les technologies d’intelligence artificielle générative semble croître presque aussi vite que la diffusion des technologies elles-mêmes. Ces inquiétudes sont motivées par le malaise quant à la propagation possible de la désinformation à une échelle jamais vue auparavant, et par les craintes de perte d’emploi, de perte de contrôle sur les œuvres de création et, de manière plus futuriste, de voir l’IA devenir si puissante qu’elle provoquerait l’extinction de l’espèce humaine. .

Ces inquiétudes ont donné lieu à des appels en faveur d’une réglementation des technologies d’IA. Certains gouvernements, par exemple l’Union européenne, ont répondu aux pressions de leurs citoyens en faveur d’une réglementation, tandis que d’autres, comme le Royaume-Uni et l’Inde, adoptent une approche plus laissez-faire.

Aux États-Unis, la Maison Blanche a publié le 30 octobre 2023 un décret intitulé Intelligence artificielle sûre, sécurisée et digne de confiance. Il définit des lignes directrices pour réduire les risques immédiats et à long terme liés aux technologies d’IA. Par exemple, il demande aux fournisseurs d’IA de partager les résultats des tests de sécurité avec le gouvernement fédéral et appelle le Congrès à adopter une législation sur la protection de la vie privée des consommateurs face aux technologies d’IA qui absorbent autant de données que possible.

À la lumière de la volonté de réglementer l’IA, il est important de déterminer quelles approches de réglementation sont réalisables. Cette question comporte deux aspects : qu’est-ce qui est technologiquement réalisable aujourd’hui et qu’est-ce qui est économiquement réalisable. Il est également important d’examiner à la fois les données d’entraînement entrant dans un modèle d’IA et les résultats du modèle.

1. Honorer le droit d’auteur

Une approche pour réglementer l’IA consiste à limiter les données de formation au matériel du domaine public et au matériel protégé par le droit d’auteur pour lequel la société d’IA a obtenu l’autorisation d’utiliser. Une entreprise d’IA peut décider précisément quels échantillons de données elle utilise pour la formation et ne peut utiliser que le matériel autorisé. C’est technologiquement réalisable.

C’est partiellement réalisable économiquement. La qualité du contenu généré par l’IA dépend de la quantité et de la richesse des données de formation. Il est donc économiquement avantageux pour un fournisseur d’IA de ne pas avoir à se limiter au contenu pour lequel il a reçu l’autorisation d’utiliser. Néanmoins, aujourd’hui, certaines entreprises d’IA générative proclament comme une fonctionnalité vendable qu’elles n’utilisent que du contenu pour lequel elles sont autorisées. Un exemple est Adobe avec son générateur d’images Firefly.

2. Attribuer la sortie à un créateur de données de formation

Attribuer le résultat de la technologie de l’IA à un créateur spécifique (artiste, chanteur, écrivain, etc.) ou à un groupe de créateurs afin qu’ils puissent être rémunérés est un autre moyen potentiel de réglementer l’IA générative. Cependant, la complexité des algorithmes d’IA utilisés rend impossible de dire sur quels échantillons d’entrée la sortie est basée. Même si cela était possible, il serait impossible de déterminer dans quelle mesure chaque échantillon d’entrée a contribué à la sortie.

L’attribution est une question importante car elle est susceptible de déterminer si les créateurs ou les titulaires de licence de leurs créations adopteront ou combattront la technologie de l’IA. La grève de 148 jours des scénaristes d’Hollywood et les concessions qu’ils ont obtenues en guise de protection contre l’IA illustrent ce problème.

À mon avis, ce type de réglementation, qui se situe à l’extrémité de l’IA, n’est pas réalisable sur le plan technologique.

3. Distinguer le contenu généré par l’humain et celui généré par l’IA

Une préoccupation immédiate avec les technologies d’IA est qu’elles déclencheront des campagnes de désinformation générées automatiquement. Cela s’est déjà produit à des degrés divers – par exemple lors des campagnes de désinformation lors de la guerre entre l’Ukraine et la Russie. Il s’agit d’une préoccupation importante pour la démocratie, qui repose sur un public informé par des sources d’information fiables.

Il y a beaucoup d’activités dans le domaine des startups visant à développer une technologie capable de distinguer le contenu généré par l’IA du contenu généré par l’homme, mais jusqu’à présent, cette technologie est à la traîne par rapport à la technologie de l’IA générative. L’approche actuelle se concentre sur l’identification des modèles d’IA générative, qui mène presque par définition une bataille perdue d’avance.

Cette approche de régulation de l’IA, qui concerne également le résultat, n’est actuellement pas réalisable sur le plan technologique, même si des progrès rapides dans ce domaine sont probables.

4. Attribuer la production à une entreprise d’IA

Il est possible d’attribuer le contenu généré par l’IA comme provenant de la technologie d’un fournisseur d’IA spécifique. Cela peut être réalisé grâce à la technologie bien comprise et mature des signatures cryptographiques. Les fournisseurs d’IA pourraient signer cryptographiquement toutes les sorties de leurs systèmes, et n’importe qui pourrait vérifier ces signatures.

Cette technologie est déjà intégrée dans l’infrastructure informatique de base, par exemple lorsqu’un navigateur Web vérifie un site Web auquel vous vous connectez. Les entreprises d’IA pourraient donc facilement le déployer. C’est une autre question de savoir s’il est souhaitable de s’appuyer sur du contenu généré par l’IA provenant seulement d’une poignée de grands fournisseurs bien établis dont les signatures peuvent être vérifiées.

Cette forme de régulation est donc réalisable à la fois technologiquement et économiquement. Le règlement est orienté vers la sortie des outils d’IA.

Il sera important que les décideurs politiques comprennent les coûts et avantages possibles de chaque forme de réglementation. Mais ils devront d’abord comprendre laquelle de ces solutions est technologiquement et économiquement réalisable.