L’IA arrive-t-elle pour nos enfants ? Pourquoi la dernière vague d’anxiété technologique liée à la culture pop ne devrait pas surprendre

À mesure que l’intelligence artificielle se généralise, son infiltration dans la vie des enfants suscite une immense anxiété. La panique mondiale autour de la cooptation par l’IA des jeux et des cultures des enfants s’est manifestée de manière imprévisible.

Plus tôt cette année, un comédien suisse a créé une bande-annonce pour un remake imaginaire de l’histoire pour enfants bien-aimée Heidi à l’aide de l’outil d’IA Gen-2.

Les plus de 25 adaptations cinématographiques et télévisées de Heidi (y compris la version la plus célèbre de 1937 avec Shirley Temple) sont la clé des archétypes culturels de l’innocence de l’enfance. La version virale générée par l’IA a fait la une des journaux car elle était un abîme impie, un carburant de cauchemar et absolument sans âme et détachée de l’humanité.

Ce n’est pas la première fois que l’IA est utilisée pour réimaginer les représentations de l’enfance à travers la création d’artefacts culturels. Les chercheurs ont formé un algorithme d’apprentissage profond à l’aide de livres pour enfants du Dr Seuss, de Maurice Sendak et d’autres, avec les images de livres de contes résultantes décrites comme un cauchemar apocalyptique et des visions de l’enfer.

Lorsqu’un travailleur technologique a utilisé ChatGPT et Midjourney pour créer un livre pour enfants, il a reçu des menaces de mort.

Poupées M3GAN et AI

L’un des films d’horreur les plus réussis de 2022, M3GAN, dépeint les résultats troublants de l’amitié d’une jeune fille en deuil avec une poupée ultra-réaliste alimentée par l’IA.

Un clip de M3GAN dansant (son visage sans expression alors que son corps imite les mouvements des tendances de danse des jeunes sur les réseaux sociaux) est devenu viral à un point que le réalisateur a qualifié d' »incroyable ». M3GAN touche une corde sensible culturelle, incarnant notre malaise face à la façon dont l’IA coopte et déforme la culture des enfants.

The Artifice Girl (2022) dépeint un enfant de neuf ans généré par l’IA et conçu pour attirer les prédateurs en ligne, mettant en lumière les débats sur l’éthique de l’IA. La critique Sheila O’Malley a comparé cela à Blade Runner (1982), en demandant :

« Si un souvenir est implanté dans le cerveau d’un androïde, un souvenir « personnel » d’une enfance qui n’a jamais eu lieu, alors ce souvenir n’est-il pas une chose réelle pour l’androïde ? L’androïde ne peut pas faire la différence. Cela semble réel. À un certain point, ce qui est « réel » ou non n’a plus d’importance. C’est à ce moment-là que les choses deviennent troublantes, et The Artifice Girl se trouve dans cet endroit très troublant.

Les outils d’IA ne correspondent pas à notre imagination d’enfance. La constellation de jeux, d’histoires et de jouets qui constitue le monde social des enfants est le symbole de l’innocence, de la naïveté et de la libération des fardeaux les plus sombres de la vie adulte.

Les études sur l’enfance relient les mythologies de la liberté et de l’innocence à la foi en l’humanité. Lorsque les outils d’IA pervertissent la culture des enfants, ils suscitent nos plus profondes craintes quant aux modes d’intelligence inhumains de l’IA.

La capacité de l’IA à imiter les créateurs humains, tout en hallucinant et en déformant la réalité, nous donne des raisons de nous inquiéter.

La longue histoire de la technophobie infantile

Les inquiétudes culturelles concernant l’infiltration de l’IA dans la culture des enfants perpétuent une longue histoire de préoccupations culturelles pop avec des interactions dangereuses entre les enfants et des technologies auxquelles on ne peut pas faire confiance.

Avec Poltergeist (1982), le monde a été captivé par la déclaration obsédante de Carol Anne, cinq ans, « Ils sont là… ». Elle écoutait les poltergeists sur la télévision familiale.

Cela a trouvé un écho auprès des parents préoccupés par le temps passé devant un écran par les enfants, ainsi que par les jeux vidéo, Donjons et Dragons et les abus rituels sataniques. La fixation télévisuelle de Carol Anne reflète le potentiel terrifiant de la technologie pour perturber la vie de famille.

Le classique Frankenstein de Mary Shelley de 1818, comme M3GAN, dépeint une jeune fille dangereusement fascinée par la technologie incarnée. Dans son adaptation cinématographique de 1931, nous voyons le monstre de Frankenstein rencontrer Maria, sept ans, qui surmonte son choc initial, lui demande de jouer et connaît une fin prématurée.

Come Play (2020) dépeint le jeune Oliver qui se lie d’amitié avec un monstre via une application, avec des résultats mortels à l’écran. Là où Poltergeist imagine les conséquences d’une trop grande télévision, Come Play fait écho aux craintes des parents de perdre leurs enfants à cause des smartphones et des jeux, comme Minecraft.

L’IA est un paratonnerre contre la peur

L’IA incarnée de M3GAN reflète la vague d’inquiétude actuelle. En mai, les entreprises d’IA ont fait la une des journaux lorsqu’elles ont lié l’IA à une potentielle extinction humaine. Bien que les experts aient rejeté ces affirmations, la perception de l’IA comme une menace importante fait écho aux horreurs de l’IA décrites dans les films.

Un exemple est 2001 : A Space Odyssey (1968), dans lequel HAL 9000 prend le contrôle du vaisseau spatial pour protéger la mission. De nombreux autres films mettent en scène une IA incontrôlable, notamment WestWorld (1973), Tron (1982), Terminator (1984), The Matrix (1999), I.Robot (2004), Moon (2009), Ex Machina (2014). et Avengers : l’ère d’Ultron (2015). Ces films trouvent un écho aujourd’hui, alors que l’IA semble en passe de remplacer les travailleurs humains.

L’idée que nous pouvons créer des technologies autonomes susceptibles d’éradiquer l’humanité suscite ce que les chercheurs appellent une « panique morale ». Il s’agit d’une peur contagieuse, amplifiée par les médias et obsédée par les menaces imminentes à la stabilité sociale. Les nouveaux médias donnent souvent la parole aux jeunes, remettant en cause les normes et exacerbant les divisions générationnelles, contribuant ainsi aux paniques morales récurrentes.

Alors que les cinéastes soulignent les menaces potentielles de l’IA, les outils actuels peinent à générer des modèles de tricot cohérents ou des recettes qui ne sont pas toxiques. Les véritables menaces de l’IA pour les enfants incluent sa capacité à présenter des informations erronées de manière convaincante et à reproduire les préjugés sociaux. Les impacts de l’IA sur le changement climatique sont troublants, tout comme le manque de transparence et les problèmes de confidentialité.

Même si nous ne devrions pas nous laisser emporter par des paniques morales, il convient de s’intéresser à l’utilisation et à la compréhension de l’IA par les enfants. L’UNICEF intègre les droits des enfants dans la politique mondiale en matière d’IA et le Forum économique mondial a publié une boîte à outils sur l’IA pour les enfants.

Même si les histoires d’horreur mettent en lumière nos angoisses concernant l’utilisation de la technologie par les enfants et notre imagination concernant le jeu et la culture des enfants, nous n’avons pas besoin de reculer devant la peur.