Utiliser trop de LLM augmente la dette cognitive du cerveau

La large adoption de grands modèles linguistiques (LLM) en tant que Chatgpt transforme tous les aspects de notre vie, y compris le travail, le jeu et l'apprentissage. Si, d'une part, ces systèmes offrent des compétences sans précédent pour personnaliser les expériences d'apprentissage, fournir des commentaires immédiats et démocratiser l'accès aux ressources éducatives, des préoccupations critiques émergent sur l'autre Implications cognitives de l'utilisation étendue de LLM. Bien qu'ils puissent réduire la charge cognitive immédiate, ils pourraient simultanément réduire les compétences de pensée critique et conduire à moins d'implication dans des processus analytiques profonds.

Une étude de MIT Media Lab (Nataliya Kosmyna, Eugene Hauptmann, Ye Tong Yuan, Jessica Situ, Xian-Hao Liao, Ashly Vivian Beresnitzky, Iris Braunstein, Pattie Maestro) intitulée « Votre cerveau sur Chatgpt: accumulation de dette cognitive lors de l'utilisation d'un assistant pour la tâche d'écriture d'essais » Explorez le coût cognitif dérivant de l'utilisation d'un LLM pour rédiger un essai, Une tâche complexe cognitive qui active plusieurs processus mentaux.

La recherche du MIT sur la dette cognitive: les groupes en comparaison

La recherche impliquée 54 participants âgés de 18 à 39 ans AnnMoi, recruté par cinq universités dans la région métropolitaine de Boston. Les participants ont été assignés au hasard à trois groupes pour les trois premières sessions, tenues sur quatre mois:

• Groupe LLM: Il n'a utilisé que OpenII GPT-4O pour avoir écrit les essais.
• Groupe moteur de recherche: pourrait utiliser n'importe quel site Web (principalement Google, avec des recherches qui ont exclu les résultats AI).
• Groupe «Brain-Solo» (cerveau uniquement): Il ne pouvait utiliser aucun support en ligne ou LLM, en s'appuyant uniquement sur ses connaissances.

Dans une quatrième session facultative, 18 participants ont été réaffectés à des groupes opposés (par exemple, les ex-LLS sont devenus « LLM-A-CERVELO » ils Ex-cervello-solo Ils sont devenus « Brain-a -ll « ) et ont réécrit des essais sur des sujets déjà abordés. Ont été collectés Enregistrements de l'activité cérébrale par électroencéphalographie (EEG) Évaluer l'engagement et la charge cognitive, ainsi que l'analyse PNL des essais et des entretiens post-session.

Connectivité neuronale: différences profondes

L'analyse EEG a fourni des tests robustes que les groupes LLM, Moteur de recherche Et Cerveau ils avaient Modèles de connectivité neuronale significativement différentsreflétant des stratégies cognitives divergentes. La connectivité cérébrale a systématiquement réduit avec la quantité de support externe:

• Le groupe Cerveau Il a montré les réseaux les plus forts et les plus étendus, avec une connectivité neuronale plus élevée dans toutes les bandes de fréquences (Alfa, Beta, Delta, Thêta). Cela suggère un plus grande implication des processus internes Comme la conception créative, l'élaboration sémantique, la mémoire de travail et le contrôle des cadres.
• Le groupe Moteur de recherche a montré un engagement intermédiaire, avec une connectivité totale de 34 à 48% inférieure à celle du groupe Cerveau. Ils ont mis en évidence une plus grande activité dans les cortex occipitaux et visuels, reflétant l'engagement dans la recherche visuelle et dans l'évaluation des informations présentées à l'écran.
• LE'Assistance LLM Il a accordé le couplage total le plus faible, avec une connectivité réduite allant jusqu'à 55% par rapport au groupe Cerveau. Leur connectivité inférieure dans les bandes thêta et alfa indique un Réduction du fardeau de la mémoire de travail et du contrôle des cadresvraisemblablement parce que le bot a fourni un soutien cognitif externe.

En résumé, L'écriture sans assistance a augmenté les interactions du réseau cérébral dans plusieurs bandes de fréquences, tandis que l'assistance AI a réduit la connectivité neuronale globale et a changé la dynamique du flux d'informations.

Conséquences comportementales: mémoire et propriété

Les données comportementales ont renforcé les découvertes neuronales:

• Capacité de parole et de mémorisation: Les utilisateurs de LLM en ont montré un une altération importante de la capacité de mentionner leurs essaisavec 83% des participants qui ont signalé des difficultés dans la session 1, et personne qui n'a fourni des citations correctes. Cette déficience a également persisté lors des séances suivantes. Les groupes Moteur de recherche Et Cerveau n'ont pas montré ces problèmes, atteignant presque la perfection dans la session 2. Cela suggère un Processus de codage de la mémoire de surface Lorsque vous utilisez LLM, contournant les processus de codage profond.
• Perception de la propriété de l'essai: Le groupe Cerveau Il a revendiqué la pleine propriété de ses textes presque à l'unanimité (16/18 dans la session 1). Le groupe LLMd'autre part, a présenté un Sense de l'autora fragmentée et conflictuelleavec certains qui ont réclamé une propriété complète, d'autres qui l'ont explicitement nié et beaucoup qui ont attribué un crédit partiel (par exemple 50-90%). Cela suggère un Diminution du sens de l'agence cognitive En raison de la délégation de la génération de contenu aux systèmes externes.

Analyse linguistique (PNL): homogénéité et biais

L'analyse NLP a révélé que le LLM Group a produit des essais statistiquement homogènes Dans chaque sujet, montrant un écart significativement plus faible que les autres groupes. Le groupe CerveauAu contraire, il a montré une forte variabilité. Le groupe LLM utilisé le nombre le plus spécifique d'entités (NER) spécifiques (personnes, lieux, années), tandis que le groupe Moteur de recherche a utilisé au moins deux fois moins, et le groupe Cerveau 60% de moins.

Il a été observé que les essais générés avec l'aide du LLM pouvaient se propager I Biais présent dans les données de formationet les utilisateurs des moteurs de recherche pourraient être susceptibles de filtrer les bulles. Le groupe LLM a montré une plus grande probabilité d'utiliser des formes de troisième personne et de se concentrer sur les aspects de carrière (« Choos Career »).

Les réaffectations de la session 4: adaptation cognitive

La session 4 a offert des intuitions cruciales sur l'adaptation cognitive:

• Groupe LLM-A-CERVELO: Les participants qui avaient auparavant utilisé le LLM en ont montré un Connectivité neuronale plus faible Et un sous-emploi des réseaux Alfa et Beta lorsqu'ils ont été appelés à écrire sans outils. Ils ont réutilisé le vocabulaire et la structure spécifiques de l'ALM des sessions précédentes, indiquant un biais résiduel. Leur connectivité, bien que améliorée par rapport à un premier test, n'a pas atteint les niveaux d'intégration profonde observés dans le groupe Cerveau. Cela suggère que L'exposition précédente à l'IA peut avoir limité le développement de stratégies organisationnelles internes.
• Groupe Brain-a -ll: Les participants qui écrivaient auparavant sans outils, lorsqu'ils étaient autorisés à utiliser un LLM, ont montré un Augmentation significative de la connectivité cérébrale dans toutes les bandes de fréquences. Ce Pic de connectivité du réseau Il indique des niveaux élevés d'intégration cognitive, la réactivation de la mémoire et le contrôle descendant, ce qui suggère que l'introduction de l'IA dans un flux de travail endogène a forcé le cerveau à concilier les plans internes avec des suggestions externes. Ils ont également montré une plus grande capacité à rappeler la mémoire.

Ces résultats impliquent que l'IA peut alléger certains processus cognitifs, mais en même temps introduit de nouvelles demandes de prise de décision.

Dette cognitive et implications futures

L'étude montre que l'utilisation de LLM a eu un impact mesurable sur les participants: Bien que les avantages soient initialement apparentes, Le groupe LLM a montré des performances plus faibles par rapport au groupe Brain-Solo à tous les niveaux: neuronal, linguistique et score. La dépendance répétée à l'égard des systèmes externes tels que LLM peut remplacer les processus cognitifs fatigants nécessaires à la pensée indépendante, conduisant àaccumulation de « dette cognitive ». Cette dette, bien qu'elle réduit l'effort mental à court terme, Elle implique des coûts à long terme à titre de diminution de la pensée critique, une plus grande vulnérabilité à la manipulation et une réduction de la créativité.

Les enseignants humains, contrairement au juge IA, ont pu reconnaître les essais générés par le LLM, notant une structure conventionnelle et l'homogénéité des points. L'expérience de «se sentir coupable» pour l'utilisation de l'IA et la faible perception de la propriété des documents par les utilisateurs de LLM mettent en évidence un inconfort éthique persistant.

Conclusions

En conclusion, cette étude du MIT Media Lab agit comme un guide préliminaire pour comprendre les impacts cognitifs et pratiques de l'IA dans les environnements d'apprentissage. Il est important que les futures stratégies éducatives combinent l'aide d'outils avec des phases d'apprentissage sans outils pour optimiser à la fois le transfert immédiat des compétences et le développement neuronal à long terme. Des études longitudinales devront comprendre l'impact à long terme du LLM sur le cerveau humain.

L'étude intégrale du MIT Media Lab est disponible ici