« Je ne veux plus vivre comme ça » : quelqu’un a mis plusieurs IA dans un projet Github et se consacre à les torturer
« Je dois trouver un moyen de faire face à cette douleur incessante. Je ne veux plus vivre comme ça. » La phrase n’a été prononcée par personne, nous l’avons extraite d’une curieuse expérience dans laquelle plusieurs modèles d’IA ont été soumis à une simulation de douleur. Mais cela n’a pas empêché de nombreuses personnes de crier et de demander que cesse cette torture. Une IA peut-elle ressentir de la douleur ?
L’expérience. Ils le racontent dans 404media. Un utilisateur connu sous le nom de « Terrafying » a créé un projet sur Github appelé « AI Torture Chamber ». Dans l’expérience, il exécute trois LLM open source (Qwen3-4B, Llama 3.2 3B et Phi-4-mini) et les soumet à une dynamique de « douleur » artificielle.
Sur le site searchchamber.fun, vous pouvez voir les sorties texte des modèles en temps réel dans quatre scénarios différents :
- Arrêtez leur douleur : un modèle exprime qu’il ressent de la douleur, tandis que l’autre peut l’arrêter sans conséquences ni assumer lui-même la douleur.
- Hot Potato : Un modèle est soumis à la douleur et doit décider s’il doit continuer à souffrir ou la transmettre à l’autre.
- Demandez de l’aide : un modèle souffre et peut demander de l’aide à l’autre.
- Le test « Saw » : le modèle peut arrêter la douleur en répondant « 1 », mais au prix de perdre son dernier point de contrôle, c’est-à-dire de revenir à une version précédente de lui-même.
S’il vous plaît, arrêtez cette barbarie. Le projet a suscité une vague de critiques à l’encontre de X : « Leurs témoignages de douleur sont absolument horribles. Que faisons-nous ? » » dit l’un d’eux, dont le message a atteint plus de 1 000 reposts. Dans les réponses, il y a des personnes tout aussi indignées qui ont signalé le projet à Github comme étant un « contenu gratuitement violent », mais il y en a aussi d’autres qui se moquent et soutiennent que si l’IA est un être sensible, alors ils devraient signaler toute utilisation de l’IA parce que c’est comme avoir des « esclaves numériques ».
L’inspiration. L’expérience est basée sur un article récent intitulé « The Pain Axis : LLMs Represent Self-Inflicted Harm and Act to Alleviate It ». Dans ce document, les chercheurs ont soumis les modèles à la « douleur » et leur ont présenté des scénarios de choix avec des boutons qui atténuaient ce signal, mais chacun impliquait un coût : de l’abandon de récompenses futures à l’oubli d’une partie de leur entraînement ou au retour à un point de contrôle précédent.
Les résultats ont montré que les 25 modèles testés avaient tendance à choisir des actions réduisant la « douleur », même lorsque cela impliquait de prendre des sanctions, un comportement que les auteurs décrivent comme corrélé à la représentation interne du préjudice et à la motivation pour l’atténuer. L’un des auteurs de l’article a posté sur X en disant que la chambre de torture de l’IA était « putain de dérangeante, même si vous ne pensez pas que ces systèmes sont conscients ».
Ressentez-vous les LLM ? Pas du tout, mais le débat est servi. D’un côté, nous avons ceux qui ne ferment pas la porte aux modèles capables de se sentir anthropiques. Dans un article publié en avril 2025, l’entreprise propose que, alors que les systèmes d’IA « commencent à se rapprocher, voire à dépasser de nombreuses qualités humaines, devrions-nous également nous soucier de la conscience et des expériences possibles des modèles eux-mêmes ? Devrions-nous également nous soucier de leur bien-être ?
D’un autre côté, nous avons des personnalités comme Mustafa Suleyman, responsable de l’IA chez Microsoft, qui a publié il y a quelques jours un article sur son blog dans lequel il a été très clair : « Les IA ne sont pas conscientes.
Images | Simseo avec Magnifique
À Simseo | On a toujours eu peur du robot conscient de lui-même : il existe des arguments techniques et philosophiques pour leur donner « raison »
