5 raisons pour lesquelles cette idée est trompeuse

L'année dernière, j'ai assisté à un panel sur l'IA génératif en éducation. Dans un moment mémorable, un présentateur a demandé: « Quel est le gros problème? L'IA générative est comme une calculatrice. C'est juste un outil. »

L'analogie est de plus en plus courante. Le directeur général d'OpenAI, Sam Altman lui-même, a qualifié Chatgpt de « calculatrice pour les mots » et a comparé des commentaires sur la nouvelle technologie aux réactions à l'arrivée de la calculatrice. « Les gens ont dit: 'Nous devons les interdire parce que les gens vont simplement tromper leurs devoirs. Si les gens n'ont pas besoin de calculer à nouveau une fonction sine à la main […] alors l'éducation mathématique est terminée. ' »

Cependant, les systèmes d'IA génératifs ne sont pas des calculatrices. Les traiter comme des calculatrices obscurcit ce qu'ils sont, ce qu'ils font et qu'ils servent. Cette analogie facile simplifie une technologie controversée et ignore cinq différences cruciales par rapport aux technologies du passé.

1. Les calculatrices n'hallucinent pas et ne persuadent pas

Les calculatrices calculent les fonctions à partir des entrées clairement définies. Vous frappez 888 ÷ 8 et obtenez une bonne réponse: 111.

Cette sortie est bornée et immuable. Les calculatrices ne déduisent pas, ne devinent pas, n'hallucinent pas ou ne persuadent pas.

Ils n'ajoutent pas d'éléments faux ou indésirables à la réponse. Ils ne fabriquent pas de cas juridiques ou ne disent pas aux gens de «mourir s'il vous plaît».

2. Les calculatrices ne posent pas de dilemmes éthiques fondamentaux

Les calculatrices n'augmentent pas les dilemmes éthiques fondamentaux.

Faire du chatppt impliquait des travailleurs au Kenya, le tamisage grâce à un contenu de traumatisme de façon irréversible pour un dollar ou deux par exemple, par exemple. Les calculatrices n'en avaient pas besoin.

Après la crise financière au Venezuela, une entreprise de lalcard sur les données de l'IA a vu l'occasion de prendre une main-d'œuvre bon marché avec des modèles d'emploi d'exploitation. Les calculatrices n'en avaient pas non plus besoin.

Les calculatrices ne nécessitaient pas de vastes nouvelles centrales électriques pour être construites ou rivalisent avec les humains pour l'eau comme le font les centres de données IA dans certaines parties les plus sèches du monde.

Les calculatrices n'avaient pas besoin de nouvelles infrastructures à construire. L'industrie de la calculatrice n'a pas vu une énorme poussée minière telle que celle qui conduit actuellement à l'extraction de cuivre rapace et de lithium comme dans les terres des Atacameños au Chili.

3. Les calculatrices ne sapent pas l'autonomie

Les calculatrices n'avaient pas le potentiel de devenir une «assortie automatique à vie». Ils n'ont jamais proposé de prendre toutes les décisions pour vous, de quoi manger et où se rendre à quand embrasser votre rendez-vous.

Les calculatrices n'ont pas contesté notre capacité à penser de manière critique. Il a été démontré que l'IA générative érode le raisonnement indépendant et augmente le «déchargement cognitif». Au fil du temps, la dépendance à ces systèmes risque de placer le pouvoir de prendre des décisions quotidiennes entre les mains de systèmes d'entreprise opaques.

4. Les calculatrices n'ont pas de biais social et linguistique

Les calculatrices ne reproduisent pas les hiérarchies de la langue et de la culture humaines. L'IA générative, cependant, est formée sur des données qui reflètent des siècles de relations de pouvoir inégales, et ses résultats reflètent ces inégalités.

Les modèles linguistiques héritent et renforcent le prestige des formes linguistiques dominantes, tout en mettant la touche ou effacer les moins privilégiées.

Des outils tels que Chatgpt gèrent l'anglais traditionnel, mais reformultent, malaîtrise ou effacent régulièrement d'autres anglais du monde.

Bien qu'il existe des projets qui tentent de lutter contre l'exclusion des voix minoritaires du développement technologique, le biais génératif de l'IA pour l'anglais grand public est prononcé inquiétant.

5. Les calculatrices ne sont pas «tout ce qui est des machines»

Contrairement aux calculatrices, les modèles de langue ne fonctionnent pas dans un domaine étroit tel que les mathématiques. Au lieu de cela, ils ont le potentiel de s'emmêler dans tout: la perception, la cognition, l'affect et l'interaction.

Les modèles linguistiques peuvent être des «agents», des «compagnons», des «influenceurs», des «thérapeutes» et des «petits amis». Il s'agit d'une différence clé entre l'IA générative et les calculatrices.

Bien que les calculatrices aident à l'arithmétique, l'IA générative peut s'engager à la fois dans des fonctions transactionnelles et interactionnelles. En une séance, un chatbot peut vous aider à éditer votre roman, à rédiger du code pour une nouvelle application et à fournir un profil psychologique détaillé de quelqu'un que vous aimez.

Rester critique

L'analogie de la calculatrice fabrique des modèles de langage et des «copilotes», des «tuteurs» et des «agents» semblent inoffensifs. Il autorise l'adoption non critique et suggère que la technologie peut relever tous les défis auxquels nous sommes confrontés en tant que société.

Il convient également parfaitement aux plates-formes qui fabriquent et distribuent des systèmes d'IA génératifs. Un outil neutre n'a pas besoin de responsabilité, pas d'audits, pas de gouvernance partagée.

Mais comme nous l'avons vu, l'IA génératrice n'est pas comme une calculatrice. Il ne se contente pas de croquer des nombres ou de produire des sorties bornées.

Comprendre à quoi ressemble vraiment l'IA nécessite une pensée critique rigoureuse. Le genre qui nous permet de confronter les conséquences de « bouger rapidement et de briser les choses ». Le genre qui peut nous aider à décider si la rupture en vaut la peine.