Les réponses à la recherche IA ne remplacent pas de bonnes sources

Si vous avez utilisé Google récemment et que vous avez eu la chance (ou la malchance) de rencontrer une réponse à votre requête plutôt qu'un tas de liens, vous avez été soumis à ce qu'on appelle les aperçus de l'IA. Il s'agit d'une nouvelle fonctionnalité principale que Google a déployée, une décision largement attendue depuis les expériences de l'entreprise avec son grand modèle de langage LaMDA en 2021, et depuis que le chatbot d'intelligence artificielle ChatGPT d'OpenAI a pris de l'importance en 2023.

Cette fonctionnalité s’ajoute au nombre croissant de modules complémentaires et d’outils intégrés aux moteurs de recherche comme Google. Certains des exemples notables incluent des panneaux de connaissances basés sur des graphiques de connaissances, qui sont utilisés pour remplir des informations factuelles pertinentes dans une boîte d'informations à côté des résultats de recherche, et des extraits de code, qui sont des présentations extraites d'un résultat de recherche et fournies avant le lien vers cette page.

Mais ce qui est différent avec les aperçus de l'IA, c'est qu'ils ne sont pas simplement extraits de sources pertinentes, mais générés en coulisses par la technologie d'IA générative de Google. L'objectif de l'entreprise est de vous apporter une réponse personnalisée à la demande au lieu d'un ensemble standard de documents ou même d'une boîte de réponse correspondant à votre requête.

Cela semble presque magique et potentiellement utile dans de nombreuses situations. Après tout, les gens utilisent les moteurs de recherche principalement pour trouver des réponses et non des listes de documents. Mais il y a plus à voir.

Ma collègue Emily Bender et moi avons écrit sur ce dont les utilisateurs des moteurs de recherche ont besoin, veulent et ont. Nous avons montré qu'ils souhaitent non seulement obtenir des informations, mais également avoir la possibilité de découvrir, d'apprendre et de remettre en question ce qu'ils trouvent. En d’autres termes, les utilisateurs ont un large éventail de situations et d’objectifs, et les compresser en un ensemble de liens ou, pire encore, en une seule réponse est problématique.

Mauvais conseil

Ces fonctionnalités d’IA aspirent les informations d’Internet et d’autres sources disponibles et génèrent une réponse en fonction de la façon dont elles sont entraînées à associer des mots. Un argument majeur à leur encontre est qu'ils suppriment en grande partie de l'équation le jugement, le libre arbitre et la possibilité d'apprendre de l'utilisateur.

Cela peut convenir à de nombreuses recherches. Vous voulez une description de la façon dont l’inflation a affecté les prix des produits alimentaires au cours des cinq dernières années, ou un résumé de ce que comprend la loi de l’Union européenne sur l’IA ? Les aperçus d’IA peuvent être un bon moyen de parcourir de nombreux documents et d’extraire ces réponses spécifiques.

Mais les besoins de recherche des gens ne se limitent pas aux informations factuelles. Ils recherchent des idées, des avis et des conseils. Vous cherchez des suggestions pour empêcher le fromage de glisser de votre pizza ? Google vous dira que vous devez ajouter un peu de colle à la sauce. Ou vous vous demandez si courir avec des ciseaux a des effets bénéfiques sur la santé ? Bien sûr, dira Google, « cela peut aussi améliorer vos pores et vous donner de la force ».

Même si un utilisateur raisonnable peut comprendre que des réponses aussi scandaleuses sont susceptibles d'être fausses, il est difficile de le détecter pour des questions factuelles.

Par exemple, lors d'une recherche sur la foi des présidents américains, les aperçus de l'IA de Google ont donné la réponse incorrecte selon laquelle Barack Obama est musulman. Cette désinformation a été largement diffusée et démystifiée il y a des années, mais Google l'a régurgitée sans aucun moyen efficace pour que les utilisateurs sachent qu'il s'agit d'une désinformation.

Que diriez-vous d’un étudiant utilisant Google pour ses devoirs et demandant quels pays d’Afrique commencent par la lettre K ? Bien que le Kenya réponde à ce critère, les aperçus de l'IA de Google ont répondu à tort qu'il n'existait pas de tels pays.

Google a reconnu des problèmes avec les aperçus de l'IA et a déclaré les avoir résolus. Mais la préoccupation demeure : pouvez-vous vraiment faire confiance aux réponses que vous recevez via ce service ?

Comment éviter les réponses de l'IA

Il existe des alternatives. Vous pouvez toujours revenir à la recherche Google traditionnelle avec ses 10 liens bleus. Cliquez sur « Plus » dans le menu (Tout, Actualités, Images, Cartes, Vidéos et Plus) directement sous le champ de recherche en haut de la page de recherche Google et sélectionnez « Web ».

Vous pouvez alors faire ce que vous faites probablement depuis des décennies maintenant : passer au crible certains des meilleurs résultats, visiter quelques-uns de ces sites et décider par vous-même. Cela demande un peu de travail, mais cela vous redonne la possibilité d'examiner plusieurs sites et preuves pour soutenir ou réfuter quelque chose. Plus important encore, vous laissez ouvertes les possibilités d’apprentissage, de découverte et de hasard.

AI Overviews est comme la restauration rapide qui est livrée via une fenêtre de service au volant : c'est rapide, chaud et pratique, mais ce n'est pas le choix le plus sain. Parcourir les résultats de recherche traditionnels de Google, c'est comme examiner un menu dans un restaurant assis et passer une commande qui mettra un certain temps à arriver à votre table. Vous pouvez poser des questions à votre serveur sur ces éléments et même demander des modifications aux offres du restaurant. Il est préparé avec plus de soin, de personnalisation et de contrôle, mais prend également plus de temps et peut coûter plus cher.

Ce ne sont cependant pas les seules méthodes permettant de trouver des informations. Il existe des alternatives au moteur de recherche de Google, notamment des outils de recherche spécialisés.

Pour les besoins scientifiques, Google Scholar, Semantic Scholar et CORE sont des endroits utiles pour rechercher des articles de recherche et des citations. Vous recherchez des informations médicales ? Essayez PubMed, ScienceDirect et OpenMD. Pour les besoins juridiques, certains services incluent Fastcase, Caselaw Access Project et CourtListener.

Vous vous souciez de la vie privée ? Découvrez DuckDuckGo, Startpage et Swisscows. Si vous souhaitez toujours des réponses générées par l'IA, certaines des alternatives aux aperçus de l'IA de Google et au Copilot de son rival Bing sont You.com et Komo, qui offrent plus de transparence sur les données qu'ils collectent à votre sujet, offrent une plus grande confidentialité et offrent également des moyens de se désinscrire. de faire collecter vos données pour entraîner leurs modèles d'IA.

Un régime informationnel équilibré

Peut-être que vous ne pouvez pas vous permettre de manger dans un bon restaurant ou de préparer chaque repas à partir de zéro à chaque fois, mais il est important d'éviter de vous retrouver au volant pour toute votre nourriture. Après tout, vous êtes ce que vous mangez et, dans le même esprit, vous êtes ce que vous recherchez.

Il est facile de tomber dans le piège des gros titres sensationnels et des petites nouvelles qui manquent de contexte. Mais vous n’êtes pas obligé de laisser cela vous définir. Vous pouvez élargir la portée de votre recherche. Il est normal de se rendre au volant de temps en temps et d'opter pour des aperçus de l'IA, mais il est important de trouver également d'autres moyens plus sains de répondre à vos besoins – en matière de nourriture et d'information.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lisez l'article original.