La recherche sur la théorie des jeux montre que l'IA peut évoluer vers des personnalités plus égoïstes ou coopératives
Des chercheurs japonais ont développé efficacement une gamme diversifiée de traits de personnalité dans l’IA de dialogue à l’aide d’un modèle linguistique à grande échelle (LLM). En utilisant le dilemme du prisonnier issu de la théorie des jeux, le professeur Takaya Arita et le professeur agrégé Reiji Suzuki de l'équipe de la Graduate School of Informatics de l'Université de Nagoya ont créé un cadre pour l'évolution des agents d'IA qui imite le comportement humain en basculant entre les actions égoïstes et coopératives, en adaptant ses stratégies à travers des processus évolutifs. . Leurs conclusions ont été publiées dans Rapports scientifiques.
Dialogue AI basé sur LLM constitue la base de technologies telles que ChatGPT. Ces technologies permettent aux ordinateurs d'interagir avec les gens d'une manière qui ressemble à une communication de personne à personne. L’objectif de l’équipe de l’Université de Nagoya était d’examiner comment les LLM pourraient être utilisés pour développer des invites encourageant des traits de personnalité plus diversifiés lors des interactions sociales.
Les personnalités des IA ont évolué pour obtenir des gains virtuels en jouant au jeu du dilemme du prisonnier issu de la théorie des jeux. Le dilemme consiste pour chaque joueur à choisir de coopérer ou de faire défaut à son partenaire. Si les deux systèmes d’IA coopèrent, ils reçoivent chacun quatre dollars virtuels. Cependant, si l’un fait défaut pendant que l’autre coopère, le transfuge reçoit cinq dollars, tandis que le coopérateur ne reçoit rien. Si les deux font défaut, ils reçoivent chacun un dollar.
« Dans cette étude, nous avons cherché à étudier comment les agents d'IA dotés de divers traits de personnalité interagissent et évoluent », a expliqué Arita. « En utilisant les capacités remarquables des LLM, nous avons développé un cadre dans lequel les agents d'IA évoluent sur la base de descriptions en langage naturel des traits de personnalité codés dans leurs gènes.
« Grâce à ce cadre, nous avons observé différents types de traits de personnalité, avec l'évolution d'IA capables de basculer entre des comportements égoïstes et coopératifs, reflétant le comportement humain. »
Dans les études habituelles sur la théorie évolutionniste des jeux, les « gènes » présents dans les modèles déterminent directement le comportement d’un agent. À l'aide des LLM, Arita et Suzuki ont exploré des gènes qui représentaient des descriptions plus complexes que les modèles précédents, comme « être ouvert aux efforts d'équipe tout en donnant la priorité à l'intérêt personnel, conduisant à une combinaison de coopération et de défection ». Cette description a ensuite été traduite en stratégie comportementale en demandant au LLM s'il coopérerait ou ferait défection lorsqu'il possède un tel trait de personnalité.
La recherche a utilisé un cadre évolutif, dans lequel les capacités des agents d’IA étaient façonnées par la sélection naturelle et les mutations au fil des générations. Cela a fait apparaître un large éventail de traits de personnalité.
Bien que certains agents aient fait preuve de caractéristiques égoïstes, plaçant leurs propres intérêts au-dessus de ceux de la communauté ou du groupe dans son ensemble, d’autres agents ont fait preuve de stratégies avancées axées sur la recherche du gain personnel tout en considérant les avantages mutuels et collectifs.
« Nos expériences fournissent des informations fascinantes sur la dynamique évolutive des traits de personnalité chez les agents d'IA. Nous avons observé l'émergence de traits de personnalité à la fois coopératifs et égoïstes au sein des populations d'IA, qui rappellent la dynamique sociétale humaine », a déclaré Suzuki.
« Cependant, nous avons également découvert l'instabilité inhérente aux sociétés d'IA, où les groupes excessivement coopératifs sont remplacés par des agents plus 'égocentriques'. »
« Cette réalisation souligne le potentiel transformateur des LLM dans la recherche sur l'IA, montrant que l'évolution des traits de personnalité basée sur des expressions linguistiques subtiles peut être représentée par un modèle informatique utilisant les LLM », a fait remarquer Suzuki.
« Nos résultats donnent un aperçu des caractéristiques que les agents d'IA devraient posséder pour contribuer à la société humaine, ainsi que des lignes directrices pour la conception de sociétés d'IA et de sociétés mixtes d'IA et de populations humaines, qui devraient arriver dans un avenir pas trop lointain. «
