Les « certificats de personnalité » pourraient-ils protéger les individus contre les imposteurs numériques ?

À mesure que les agents d’intelligence artificielle se perfectionnent, il pourrait devenir de plus en plus difficile de distinguer les utilisateurs dotés d’IA des vrais humains sur Internet. Dans un nouveau livre blanc, des chercheurs du MIT, d’OpenAI, de Microsoft et d’autres entreprises technologiques et institutions universitaires proposent l’utilisation d’identifiants personnels, une technique de vérification qui permet à une personne de prouver qu’elle est un véritable humain en ligne, tout en préservant sa vie privée.

L'article est publié sur le arXiv serveur de préimpression.

MIT News s'est entretenu avec deux co-auteurs de l'article, Nouran Soliman, un étudiant diplômé en génie électrique et en informatique, et Tobin South, un étudiant diplômé du Media Lab, sur la nécessité de telles qualifications, les risques qui y sont associés et la manière dont elles pourraient être mises en œuvre de manière sûre et équitable.

Pourquoi avons-nous besoin de titres de personnalité ?

Tobin South : Les capacités de l’IA s’améliorent rapidement. Alors qu’une grande partie du discours public porte sur la façon dont les chatbots s’améliorent sans cesse, une IA sophistiquée offre bien plus de fonctionnalités qu’un simple ChatGPT amélioré, comme la capacité de l’IA à interagir en ligne de manière autonome. L’IA pourrait avoir la capacité de créer des comptes, de publier du contenu, de générer du faux contenu, de se faire passer pour un humain en ligne ou d’amplifier du contenu de manière algorithmique à grande échelle. Cela ouvre de nombreux risques. On peut considérer cela comme un problème d’« imposteur numérique », où il devient de plus en plus difficile de faire la distinction entre une IA sophistiquée et un humain. Les titres de personnalité sont une solution potentielle à ce problème.

Nouran Soliman : De telles capacités avancées d’IA pourraient aider les acteurs malveillants à lancer des attaques à grande échelle ou à diffuser de fausses informations. Internet pourrait être rempli d’IA qui repartagent le contenu de véritables humains pour mener des campagnes de désinformation. Il va devenir plus difficile de naviguer sur Internet, et sur les réseaux sociaux en particulier. Vous pourriez imaginer utiliser les informations d’identification de la personnalité pour filtrer certains contenus et modérer le contenu de votre flux de médias sociaux ou déterminer le niveau de confiance des informations que vous recevez en ligne.

Qu’est-ce qu’un titre de personnalité et comment pouvez-vous garantir qu’un tel titre est sécurisé ?

Sud : Les justificatifs d'identité vous permettent de prouver que vous êtes un être humain sans rien révéler d'autre sur votre identité. Ces justificatifs vous permettent d'obtenir des informations auprès d'une entité comme le gouvernement, qui peut garantir que vous êtes un être humain, puis, grâce à la technologie de confidentialité, de prouver ce fait sans partager d'informations sensibles sur votre identité.

South : Pour obtenir un titre de personnalité, vous devrez vous présenter en personne ou avoir une relation avec le gouvernement, comme un numéro d'identification fiscale. Il y a un volet hors ligne. Vous allez devoir faire quelque chose que seuls les humains peuvent faire. Les IA ne peuvent pas se présenter au DMV, par exemple. Et même les IA les plus sophistiquées ne peuvent pas falsifier ou casser la cryptographie. Nous combinons donc deux idées – la sécurité que nous avons grâce à la cryptographie et le fait que les humains ont encore certaines capacités que les IA n'ont pas – pour créer des garanties vraiment solides que vous êtes un humain.

Soliman : Mais les justificatifs d’identité peuvent être facultatifs. Les fournisseurs de services peuvent laisser les gens choisir d’en utiliser un ou non. À l’heure actuelle, si les gens ne veulent interagir en ligne qu’avec des personnes réelles et vérifiées, il n’existe aucun moyen raisonnable de le faire. Et au-delà de la simple création de contenu et de la communication avec les gens, à un moment donné, les agents d’IA vont également prendre des mesures au nom des gens. Si je dois acheter quelque chose en ligne ou négocier un accord, je veux peut-être être sûr d’interagir avec des entités qui ont des justificatifs d’identité pour m’assurer qu’elles sont dignes de confiance.

Sud : Les informations d'identification de la personnalité s'appuient sur une infrastructure et un ensemble de technologies de sécurité dont nous disposons depuis des décennies, telles que l'utilisation d'identifiants tels qu'un compte de messagerie pour se connecter à des services en ligne, et elles peuvent compléter ces méthodes existantes.

Quels sont les risques associés aux titres de personnalité et comment pourriez-vous réduire ces risques ?

Soliman : L’un des risques réside dans la manière dont les certificats de personnalité pourraient être mis en œuvre. Il existe une crainte de concentration du pouvoir. Supposons qu’une seule entité spécifique soit la seule à délivrer des certificats, ou que le système soit conçu de telle manière que tout le pouvoir soit confié à une seule entité. Cela pourrait susciter de nombreuses inquiétudes chez une partie de la population, qui pourrait ne pas faire confiance à cette entité et ne pas se sentir en sécurité pour interagir avec elle. Nous devons mettre en œuvre les certificats de personnalité de telle manière que les gens fassent confiance aux émetteurs et que l’identité des personnes reste complètement isolée de leurs certificats de personnalité afin de préserver la confidentialité.

Sud : Si la seule façon d'obtenir un titre de personnalité est de se rendre physiquement quelque part pour prouver que l'on est humain, cela peut être effrayant si vous vous trouvez dans un environnement sociopolitique où il est difficile ou dangereux de se rendre à cet endroit physique. Cela pourrait empêcher certaines personnes de partager leurs messages en ligne de manière illimitée, ce qui pourrait étouffer la liberté d'expression. C'est pourquoi il est important d'avoir une variété de délivreurs de titres de personnalité et un protocole ouvert pour garantir le maintien de la liberté d'expression.

Soliman : Notre article vise à encourager les gouvernements, les décideurs politiques, les dirigeants et les chercheurs à investir davantage de ressources dans les diplômes de personnalité. Nous suggérons aux chercheurs d’étudier différentes orientations de mise en œuvre et d’explorer les impacts plus larges que les diplômes de personnalité pourraient avoir sur la communauté. Nous devons nous assurer de créer les bonnes politiques et règles sur la manière dont les diplômes de personnalité doivent être mis en œuvre.

Sud : L’IA évolue très vite, certainement beaucoup plus vite que la vitesse à laquelle les gouvernements s’adaptent. Il est temps que les gouvernements et les grandes entreprises commencent à réfléchir à la manière dont ils peuvent adapter leurs systèmes numériques pour être prêts à prouver qu’une personne est humaine, mais d’une manière qui préserve la vie privée et soit sûre, afin que nous puissions être prêts lorsque nous atteindrons un avenir où l’IA disposera de ces capacités avancées.