Chatgpt ne parle que dans les clichés – voici pourquoi c'est une menace pour la créativité humaine

Lorsque vous discutez avec Chatgpt, vous avez souvent l'impression de parler à quelqu'un poli, engagé et réactif. Il hoche la tête à tous les bons endroits, reflète votre libellé et semble désireux de faire couler l'échange.

Mais est-ce vraiment à quoi ressemble la conversation humaine? Notre nouvelle étude montre que bien que Chatgpt imite de manière plausible le dialogue, il le fait d'une manière stéréotypée plutôt que unique.

Chaque conversation a des bizarreries. Lorsque deux membres de la famille parlent au téléphone, ils n'échangent pas seulement des informations – ils se réutilisent les mots, les retravaillent de manière créative, interrompent, ne sont pas d'accord, plaisantent, plaisantent ou errent hors sujet.

Ils le font parce que la conversation humaine est naturellement fragmentée, mais aussi pour mettre en œuvre leur propre identité dans l'interaction. Ces moments de «caractère unique» sont ce qui rend le vrai dialogue imprévisible et profondément humain.

Nous voulions contraster la conversation humaine avec ceux de l'IA. Nous avons donc comparé 240 conversations téléphoniques entre les membres de la famille chinoise avec des boîtes de dialogue simulées par Chatgpt dans les mêmes conditions contextuelles, en utilisant un modèle statistique pour mesurer les modèles sur des centaines de tours.

Pour capturer l'unicité humaine dans notre étude, nous nous sommes principalement concentrés sur trois niveaux d'interaction humaine. L'un était une «résonance dialogique». Cela fait avec la réutilisation des expressions de l'autre. Par exemple, lorsque le Président A dit « vous ne m'appelez jamais », le Président B peut répondre « Vous êtes celui qui n'appelle jamais ».

Un autre facteur que nous avons inclus était la «créativité recombinante». Cela implique d'inventer de nouveaux rebondissements sur ce qui vient d'être dit par un interlocuteur. Par exemple, le Président A peut demander « All Good? », À quel haut-parleur B répond « tout fracassant ». Ici, la structure est maintenue constante mais l'adjectif est remplacé de manière créative d'une manière unique à l'échange.

Une dernière fonctionnalité que nous avons incluse était la « reconnaissance de la pertinence »: montrer l'intérêt et la reconnaissance du point de l'autre, tels que « c'est intéressant ce que vous avez dit, en fait … » ou « c'est un bon point … ».

Ce que nous avons trouvé

Chatgpt a remarquablement bien fait – même trop bien – pour montrer l'engagement. Il faisait souvent écho et reconnaissait encore plus l'autre l'orateur que les humains. Mais il n'a pas réussi à deux manières décisives.

Premièrement, la diversité lexicale était beaucoup plus faible pour le chatppt que pour les locuteurs humains. Lorsque les gens variaient leurs paroles et leurs expressions, l'IA a recyclé les mêmes.

Plus important encore, nous avons repéré beaucoup de discours stéréotypés dans les conversations générées par l'AI. Lorsqu'il a simulé des conseils ou de faire des demandes, Chatgpt a fait défaut sur des recommandations de style parental prévisibles telles que «prendre soin de votre santé» et «ne vous inquiétez pas trop».

Cela ne ressemblait pas à de vrais parents humains qui se sont mélangés en clarifications, refus, blagues, sarcasme et même des expressions impolies parfois. Dans nos données, une manière beaucoup plus humaine de montrer la préoccupation pour la santé d'une fille au collège était souvent par des implications plutôt que des instructions directes – par exemple, une mère demandant: « Pourquoi diable jonglez-vous avec deux emplois? » avec le sens implicite qu'elle s'épuisera si elle continue d'être aussi occupée.

En bref, Chatgpt a statistiquement aplati des dialogues humains dans le contexte de notre enquête, les remplaçant par un modèle poli, plausible mais finalement plutôt sec.

Pourquoi cela compte

À première vue, la cohérence de Chatgpt ressemble à une force. Il rend le système fiable et prévisible. Pourtant, ces qualités mêmes le rendent aussi moins humain. Les vraies personnes évitent de sembler répétitives. Ils résistent aux clichés. Ils construisent des conversations qui leur sont reconnaissables.

C'est ce qui définit des identités uniques dans l'interaction – comment nous voulons être perçus par d'autres. Il y a des mots, des expressions et des intonations que vous n'utiliseriez jamais, pas nécessairement parce qu'ils sont impolis, mais parce qu'ils ne représentent pas qui vous êtes ou comment vous voulez paraître aux autres.

Être accusé d'être «ennuyeux» est certainement quelque chose que la plupart des gens essaient d'éviter; C'est effectivement ce qui amène la mort de American Playboy Dickie Greenleaf dans le célèbre roman de Highsmith de Patricia, le talentueux M. Ripley, quand il le dit de son ami, Tom Ripley. Les choix conversationnels que nous faisons ne sont pas simplement des moyens appropriés de parler, mais des stratégies pour nous retrouver dans la société et construire notre identité singulière à chaque conversation.

Cet écart est important de toutes sortes de manières. Si l'IA ne peut pas capturer l'unicité de l'interaction humaine, il risque de renforcer les stéréotypes de la façon dont les gens devraient parler, plutôt que de refléter comment ils le font réellement. Plus troublant encore, cela peut favoriser une nouvelle idéologie procédurale de la conversation – une conversation est réduite à un son engagé mais reste non créative; Un outil de coopération fonctionnel mais appauvri.

Nos résultats suggèrent que l'IA est remarquablement bonne pour modéliser les modèles normatifs du dialogue – les choses que les gens disent souvent et conventionnellement. Mais il lutte avec l'idiosyncratique et l'inattendu, qui sont essentiels à la créativité, à l'humour et à une conversation humaine authentique.

Le danger n'est pas seulement que l'IA ne semble que plausible. C'est que les humains, au fil du temps, peuvent commencer à imiter son style d'une manière que le comportement stéréotypé de l'IA peut commencer à remodeler les normes conversationnelles.

À long terme, nous pouvons nous retrouver «apprendre» de l'IA comment converser – effacer graduellement la créativité et l'unicité de notre propre discours. La conversation, à la base, n'est pas seulement une question d'efficacité. Il s'agit de co-créer du sens et des identités sociales par l'innovation et l'extravagance, encore plus que nous ne le pensons.

Ce qui pourrait être en jeu, en supposant donc que l'IA ne peut pas surmonter ce problème, ce n'est pas simplement si elle peut converser comme les humains – mais si les humains continueront de converser comme eux-mêmes.