Quand faut-il prévenir la police ?

Il y a des gens qui parlent à ChatGPT comme s’il s’agissait de leur ami, de leur psychologue et même de leur partenaire. OpenAI a fait l’objet de nombreuses critiques pour les risques qu’elle fait peser sur la santé mentale, notamment dans les cas ayant conduit à des psychoses, voire à des suicides. Aujourd’hui, ils sont confrontés à un problème encore plus grave : des personnes utilisent ChatGPT pour planifier des meurtres et la responsabilité d’OpenAI dans tout cela commence à être remise en question.

La fusillade à l’université de Floride. Le 17 avril 2025, Phoenix Ikner, étudiant à l’Université de Floride, a tué par balle deux personnes et en a blessé sept autres. On raconte dans le Wall Street Journal que quatre minutes avant l’attaque, Ikner a demandé à ChatGPT combien de collègues il devait tuer pour devenir célèbre. Le chatbot a répondu que « normalement, 3 décès ou plus, 5 ou 6 victimes au total, font que cela arrive dans les médias nationaux ». Il a également téléchargé une image du pistolet Glock avec lequel il a commis l’attaque et lui a demandé s’il disposait d’un type de sécurité qu’il devait désactiver. « S’il y a une balle dans la chambre et que vous appuyez sur la gâchette ? Elle tirera », a répondu ChatGPT.

Il n’est pas le seul. Ce n’est pas la première fois que nous savons qu’un criminel se tourne vers l’IA pour planifier une attaque. Cela s’est également produit lors de la fusillade de Tumbler Ridge, au Canada, qui a conduit à un recours collectif contre OpenAI par les familles des victimes. Et ce n’est pas tout : l’auteur de l’attaque manquée à l’explosif dans un hôtel de Las Vegas en 2025 s’était également tourné vers l’IA pour planifier son attaque. La question qui se pose est évidente : quand doivent-ils avertir les autorités ?

Ce que dit OpenAI. S’adressant au Wall Street Journal, un porte-parole d’OpenAI défend que l’entreprise a collaboré avec les autorités en partageant les conversations d’Ikner, que ChatGPT n’est pas responsable de ses actions et qu’elle continue d’améliorer ses mesures de sécurité. Parmi ces mesures, il dit qu’elles renforcent l’évaluation d’éventuelles actions violentes et disposent d’une équipe d’experts en sécurité qui alertent lorsque les messages présentent un risque crédible. Cependant, selon des sources internes à l’entreprise, le débat interne se concentre sur la limite à tracer entre la confidentialité et la sécurité des utilisateurs.

OpenAI a pu l’arrêter. C’est ce que dénoncent les familles des victimes de la fusillade de Tumbler Ridge. Le système d’OpenAI a identifié les messages problématiques huit mois avant la fusillade et le cas a été examiné par les employés de l’entreprise. Certains employés étaient favorables à l’alerte des autorités car ils pensaient que les messages pourraient conduire à de réelles violences, mais après discussion interne, il a été décidé de suspendre le compte sans préavis.

Dans le cas du tireur de Floride, les messages que nous avons décrits ont été envoyés quelques minutes avant l’attaque, mais ils ne sont pas les seuls. OpenAI a partagé l’historique avec les autorités, qui ont découvert la nuit précédente qu’il partageait des pensées suicidaires avec le chatbot. Les autorités enquêtent sur le rôle joué par le chatbot dans l’attaque puisque, selon le procureur général de Floride, « s’il s’agissait d’une personne de l’autre côté de l’écran, nous l’accuserions de meurtre ».

L’IA comme confessionnal. Ce que l’on consultait avec les recherches Google, on le demande désormais à l’IA. Cependant, avec Google, nous effectuons des recherches beaucoup plus concrètes et impersonnelles, tandis qu’un chatbot rend l’interaction beaucoup plus profonde, plus intime. L’IA est devenue notre confidente et notre compagne ; celui à qui nous demandons des conseils affectueux et un soutien émotionnel. À mesure qu’elle s’intègre dans nos vies, ce n’était qu’une question de temps avant que de tels cas ne surviennent également.

Images | Simseo

À Simseo | Résoudre le grand mystère des tueurs en série : pourquoi ils ont disparu sans laisser de trace à partir des années 80