La personnalisation a le potentiel de démocratiser qui décide du comportement des LLM
Un nouvel article rédigé par des chercheurs de l'Oxford Internet Institute de l'Université d'Oxford met en évidence les avantages et les risques liés à la personnalisation des grands modèles linguistiques (LLMS) pour leurs utilisateurs.
Les LLM sont des systèmes d'intelligence artificielle qui génèrent des réponses écrites à des invites textuelles. En raison de leur croissance stratosphérique au cours des deux dernières années, des centaines de millions de personnes interagissent désormais avec les LLM. Pourtant, les décisions initiales de conception et de développement derrière les LLM signifient que de petits groupes de développeurs, de chercheurs ou d’annotateurs humains fournissent à la technologie les informations dont elle a besoin pour répondre aux requêtes.
Cela influence les normes conversationnelles, les valeurs ou les convictions politiques intégrées dans un modèle. Invariablement, sans une participation plus large pendant la formation, il existe un risque que les diverses visions du monde de ceux qui utilisent les LLM soient exclues ou déformées dans leurs réponses textuelles.
Dans leur article, publié aujourd'hui (23 avril) dans Intelligence des machines naturellesles chercheurs d'Oxford présentent la personnalisation comme une solution potentielle pour maintenir différentes visions du monde dans les technologies linguistiques.
Comme toute nouvelle technologie, ils soutiennent que l’adoption responsable de la personnalisation nécessite de trouver un équilibre entre les nouveaux avantages qu’elle peut apporter tout en gérant les risques potentiels pour les utilisateurs individuels et la société dans son ensemble. Ces avantages et risques ne sont pas purement théoriques : il est récemment devenu possible de personnaliser ChatGPT, un LLM largement connu développé par OpenAI.
Pour les individus, les avantages de la personnalisation incluent une plus grande facilité à trouver des informations, dans un format adapté à leurs préférences de communication. L'utilisateur peut également bénéficier d'une technologie qui s'adapte mieux à ses diverses croyances ou mémorise les informations sur ses besoins. La personnalisation peut entraîner une connexion plus empathique et un sentiment d'appartenance à « ma technologie ».
Cependant, cette plus grande utilité et ce lien plus profond avec la technologie peuvent alimenter une dépendance excessive et une dépendance. Comme pour d’autres types d’intelligence artificielle (IA), il existe un risque que les gens anthropomorphisent la technologie et s’y attachent. La personnalisation n'est pas possible sans données personnelles ; il existe donc également un risque accru que la vie privée des utilisateurs soit compromise.
La personnalisation des LLM a également un impact sur la société. La personnalisation peut apporter une meilleure inclusivité et démocratisation en diversifiant les membres de la société qui ont une influence sur le comportement des LLM. Si les réponses sont plus adaptées aux besoins des individus, la main-d'œuvre utilisant les LLM pourrait également devenir plus productive.
Cependant, tout le monde n’a pas un accès égal à la technologie et les exclus risquent d’être encore plus désavantagés par une fracture numérique croissante. Une autre préoccupation est que la personnalisation pourrait contribuer à la polarisation sociétale et aux chambres d’écho lorsque les individus sont moins fréquemment confrontés à des croyances différentes des leurs. La technologie a également le potentiel de devenir un instrument puissant pour générer une désinformation persuasive et ciblée, ce qui pose déjà problème dans le monde en ligne.
Commentant les résultats, Hannah Rose Kirk, auteur principal et étudiante en doctorat à l'Oxford Internet Institute de l'Université d'Oxford, a déclaré : « Il est essentiel que nous entamions dès maintenant la conversation sur ce à quoi ressemble la personnalisation responsable, à mesure que la technologie est développée. De cette façon, nous avons la meilleure chance de permettre aux individus et à la société d’en récolter les bénéfices, sans retard dans la compréhension ou la régulation des risques. »
Le professeur Scott A. Hale, de l'Oxford Internet Institute de l'Université d'Oxford, a ajouté : « Examiner les risques et les avantages de la personnalisation maintenant, alors que les approches sont encore en cours de développement, est le meilleur moyen de créer des technologies plus inclusives et responsables. »
Le Dr Bertie Vidgen, chercheur invité à l'OII et à l'Institut Alan Turing, et co-directeur et auteur, a ajouté : « Les modèles d'IA personnalisés semblent être une victoire évidente, mais ce n'est vrai que jusqu'à un certain point. Si nous ne sommes pas à l'écoute aux risques comme aux avantages, les conséquences pourraient être énormes. Ce document apporte une clarté indispensable à cet important débat.
