Comment l’IA générative va-t-elle changer notre façon de penser ?
L’information est une denrée précieuse. Et grâce à la technologie, il en existe des millions de téraoctets en ligne.
Les outils d’intelligence artificielle (IA) tels que ChatGPT gèrent désormais ces informations en notre nom : les rassemblent, les résument et nous les présentent.
Mais cette « externalisation » de la gestion de l’information vers l’IA, aussi pratique soit-elle, a des conséquences. Cela peut influencer non seulement quoi nous pensons, mais potentiellement aussi comment nous pensons.
Que se passe-t-il dans un monde où les algorithmes d’IA décident quelles informations sont perpétuées et lesquelles sont laissées de côté ?
L’essor de l’IA personnalisée
Les outils d’IA générative reposent sur des modèles entraînés sur des centaines de gigaoctets de données préexistantes. À partir de ces données, ils apprennent à créer de manière autonome du texte, des images, du contenu audio et vidéo, et peuvent répondre aux requêtes des utilisateurs en rassemblant la réponse « la plus probable ».
ChatGPT est utilisé par des millions de personnes, bien qu’il ait été rendu public il y a moins d’un an. En juin, l’ajout de réponses personnalisées a rendu le chatbot déjà impressionnant encore plus utile. Cette fonctionnalité permet aux utilisateurs d’enregistrer des instructions personnalisées expliquant pourquoi ils utilisent le bot et comment ils souhaitent qu’il réponde.
Il s’agit de l’un des nombreux exemples d’« IA personnalisée » : une catégorie d’outils d’IA qui génèrent du contenu adapté aux besoins et préférences spécifiques de l’utilisateur.
Un autre exemple est l’assistant virtuel récemment lancé par Meta, Meta AI. Ce chatbot peut avoir des conversations, générer des images et effectuer des tâches sur les plateformes Meta, notamment WhatsApp, Messenger et Instagram.
Mustafa Suleyman, chercheur en intelligence artificielle et co-fondateur de DeepMind, décrit l’IA personnalisée comme étant davantage une relation qu’une technologie. « C’est un ami. […] Il sera vraiment toujours présent et à vos côtés, vivant avec vous, essentiellement au sein de votre équipe. J’aime y voir comme si j’avais un grand entraîneur à mes côtés. »
Mais ces technologies sont également controversées, avec des inquiétudes soulevées quant à la propriété des données, aux préjugés et à la désinformation.
Les entreprises technologiques tentent de trouver des moyens de lutter contre ces problèmes. Par exemple, Google a ajouté des liens sources vers des résumés de recherche générés par l’IA et produits par son outil Search Generative Experience (SGE), qui a été critiqué plus tôt cette année pour avoir proposé des réponses inexactes et problématiques.
La technologie a déjà changé notre façon de penser
Comment les outils d’IA générative, et en particulier ceux qui nous sont personnalisés, changeront-ils notre façon de penser ?
Pour comprendre cela, revenons au début des années 1990, lorsque Internet est apparu pour la première fois dans nos vies. Les gens pouvaient soudainement accéder à des informations sur à peu près n’importe quoi, qu’il s’agisse de la banque, de la pâtisserie, de l’enseignement ou des voyages.
Près de 30 ans plus tard, des études ont montré comment le fait d’être connecté à cet « esprit de ruche » mondial a modifié notre cognition, notre mémoire et notre créativité.
Par exemple, l’accès instantané à l’équivalent de 305,5 milliards de pages d’informations a accru les méta-connaissances des individus, c’est-à-dire leur connaissance du savoir. L’un des impacts de cette situation est « l’effet Google » : un phénomène dans lequel la recherche en ligne augmente notre capacité à trouver des informations, mais réduit notre mémoire sur ce qu’étaient ces informations.
D’une part, il a été démontré que confier notre réflexion aux moteurs de recherche libère nos réserves mentales pour la résolution de problèmes et la pensée créative. D’un autre côté, la recherche d’informations en ligne a été associée à une distraction et une dépendance accrues.
La recherche montre également que la recherche en ligne, quelle que soit la quantité ou la qualité des informations récupérées, augmente notre estime de soi cognitive. En d’autres termes, cela accroît notre confiance en notre propre « intelligence ».
Ajoutez à cela le fait que remettre en question l’information demande des efforts – et que plus nous faisons confiance à notre moteur de recherche, moins nous nous intéressons de manière critique à ses résultats – et vous comprendrez pourquoi avoir accès à des quantités d’informations sans précédent ne nous rend pas nécessairement plus sages.
Devrions-nous « externaliser » notre réflexion ?
Les outils d’IA générative d’aujourd’hui vont bien plus loin que la simple présentation de résultats de recherche. Ils localisent l’information pour nous, l’évaluent, la synthétisent et nous la présentent.
Quelles pourraient en être les implications ? Sans promouvoir un contrôle qualité piloté par l’homme, les perspectives ne sont pas prometteuses.
La capacité de l’IA générative à produire des réponses qui semblent familières, objectives et engageantes signifie qu’elle nous rend plus vulnérables aux biais cognitifs.
Le biais d’automatisation, par exemple, est la tendance humaine à surestimer l’intégrité des informations provenant de sources informatiques. Et le simple effet d’exposition se produit lorsque nous sommes plus susceptibles de faire confiance aux informations présentées comme familières ou personnelles.
La recherche sur les réseaux sociaux peut nous aider à comprendre l’impact de ces préjugés. Dans une étude de 2016, les utilisateurs de Facebook ont déclaré se sentir davantage « au courant » en fonction de la quantité de contenu d’actualité publié en ligne, et non de la quantité de contenu qu’ils lisent réellement.
Nous savons également que les « bulles de filtrage » créées par les algorithmes des réseaux sociaux – dans lesquelles nos flux sont filtrés en fonction de nos intérêts – limitent la diversité des contenus auxquels nous sommes exposés.
Il a été démontré que ce processus de rétrécissement de l’information accroît la polarisation idéologique en réduisant la propension des gens à envisager des perspectives alternatives. Il a également été démontré que cela augmente notre probabilité d’être exposé à de fausses nouvelles.
Utiliser l’IA pour être plus intelligent et non plus stupide
L’IA générative est sans aucun doute une force révolutionnaire susceptible de faire de grandes choses pour la société. Cela pourrait remodeler notre système éducatif en proposant un contenu personnalisé, changer nos pratiques de travail en accélérant l’écriture et l’analyse de l’information et repousser les frontières de la découverte scientifique.
Il a même le potentiel de modifier positivement nos relations en nous aidant à communiquer et à nous connecter avec les autres et peut parfois fonctionner comme une forme de camaraderie synthétique.
Mais si notre seule façon de juger l’avenir est de regarder vers le passé, le moment est peut-être venu de réfléchir à la façon dont Internet et les médias sociaux ont modifié notre cognition et d’appliquer certaines mesures de précaution. Développer les connaissances en IA est un bon point de départ, tout comme la conception d’outils d’IA qui encouragent l’autonomie humaine et la pensée critique.
En fin de compte, nous devrons comprendre nos propres forces et faiblesses ainsi que celles de l’IA pour garantir que ces compagnons « réfléchis » nous aident à créer l’avenir que nous voulons – et non celui qui se trouve en tête de liste.
