La Chine oblige les couples à se séparer. Bien sûr : seulement si l’une des deux est une IA

« Her », le film réalisé en 2013 par Spike Jonze, nous a permis d’envisager un avenir dans lequel il serait possible d’emporter l’intelligence artificielle dans notre poche. Sur mobile, plus précisément. Celui avec qui on peut parler, poser des questions et même tomber amoureux. En 2026, nous sommes déjà dans ce futur, avec une IA dans notre poche avec laquelle nous pouvons parler, fantasmer et même suivre ses conseils pour réaliser des actions allant de la cuisine au suicide.

Parler à une IA est devenu une soupape de sécurité pour de nombreuses personnes, puisqu’il s’agit d’une technologie conçue avec un seul objectif en tête : nous donner raison. De cette façon, nous continuons à l’utiliser car il nous dit toujours ce que nous voulons lire, ce qui facilite la dépendance. Également dans une dépendance émotionnelle qui, dans des pays comme la Chine, a explosé ces derniers mois.

Chez le géant asiatique, les chatbots de type « copine/copain » ont explosé en s’intégrant à de grands assistants comme Doubao (de ByteDance), Qwen (d’Alibaba) ou Yuanbao (de Tencent). Il y avait aussi des applications dédiées à cela comme Miaoshi ou Maoxiang, mais nous parlons d’énormes entreprises qui sont respectivement Google, Amazon et Microsoft, et pour faire une comparaison, de Chine.

La situation est devenue si complexe que c’est le gouvernement qui a mis la main sur le sujet avec un document pour réglementer ce que ces petits amis de l’IA peuvent et, surtout, ne peuvent pas faire. Et ceux qui entretiennent une relation sérieuse avec l’IA peuvent désormais lui dire au revoir.

L’IA n’aime plus l’utiliser autant

Comme pour beaucoup de choses, il est facile de juger depuis les coulisses et vous n’avez pas une image complète. Cependant, comme je l’ai déjà dit, avec quelque chose qui est conçu pour vous donner raison, il est facile pour certains profils de tomber dans une dépendance que l’on commençait déjà à appeler « psychose de l’IA ».

Ceux qui en souffraient avaient une réalité déformée, avec une frontière entre lien humain et lien avec le chatbot complètement floue. En parallèle, et spécifiquement en Chine, certains ont commencé à établir une corrélation entre le retard du mariage, le très faible taux de natalité et l’augmentation de la solitude, notamment chez les jeunes et les hommes célibataires, avec les relations amoureuses avec l’IA.

Dans différents médias nationaux, il a été révélé que certains utilisateurs préféraient passer de nombreuses heures par jour à parler à ces chatbots. Et pour éviter que cela ne s’aggrave, c’est l’État qui s’est mis au milieu de la relation.

En avril de cette année, l’Administration chinoise du cyberespace et quatre autres organisations (dont le ministère de la Sécurité publique) ont publié un projet visant à réglementer la situation. Ils ont préparé le document « Mesures provisoires pour l’administration des services d’intégration de l’IA anthropomorphique » et, après une période de consultation publique, il a été convenu que le document entrerait en vigueur le 15 juillet de cette année.

Une ligne rouge a été tracée ce jour-là : tout service de ce type devait respecter des obligations strictes en matière de conception, de sécurité, de protection des enfants et de gestion des données. Si cela n’était pas fait et que les autorités estimaient que cela pourrait causer de graves dommages à la santé et à la vie des utilisateurs, une amende était infligée.

Il est important de préciser que la norme n’interdit pas l’IA conversationnelle, mais seulement celle explicitement conçue pour générer une dépendance avec une relation émotionnelle continue. Le service client, les assistants de travail, la formation ou la recherche sont en dehors de tout cela et l’accent est mis sur trois grands domaines : le contenu de l’IA, la conception des relations et, surtout, le traitement des données.

Plus précisément, la règle vise à ce que les assistants n’encouragent pas l’utilisateur à faire quoi que ce soit qui va à l’encontre de son intégrité, comme l’automutilation ou le suicide. Il vise également à empêcher la technologie de pousser les mineurs à imiter des comportements dangereux et à révéler à la fois des données personnelles et des secrets d’État.

Et en ce qui concerne le design, les nouvelles lignes directrices cherchent à garantir que l’entreprise ne caractérise pas excessivement cette IA au point d’induire un état de dépendance émotionnelle ou d’addiction, car c’est quelque chose qui « accroche » l’utilisateur à parler à une machine, provoquant ainsi une détérioration des relations réelles. Pour les mineurs, la réglementation va encore plus loin, puisque toute forme de création de lien avec des mineurs avec la joie avec laquelle cela se faisait jusqu’à présent est interdite.

Il y aura un « mode mineur » permettant aux adultes de définir des limites et des filtres de contenu, mais qu’ils soient utilisés par des adultes ou des mineurs, ces assistants auront des rappels qu’ils sont une machine et également des avertissements lorsqu’ils sont utilisés pendant deux heures d’affilée.

Ils ont supprimé ma copine

C’est la théorie et, comme c’est souvent le cas lorsque l’on parle de la Chine, le 15, elle a été mise en pratique. ByteDance a désactivé les fonctions de Doubao, le robot qui comptait 345 millions d’utilisateurs actifs chaque mois, et a commencé à rediriger ces utilisateurs vers le Maoxiang susmentionné (avec des politiques de protection des données plus strictes pour se conformer à la norme). Les utilisateurs de Doubao auront accès à l’historique jusqu’au 15 octobre 2026, mais il sera ensuite supprimé.

Alibaba a réduit ses pertes et Qwen a complètement désactivé son « mode compagnon ». Tencent a également fermé ses petits amis Yuanbao AI le 30 juin, et l’application dédiée Miaoshi a complètement fermé son service le 14 juillet, un jour avant le « jour J ».

Ce sont quelques noms d’applications de grandes entreprises, mais on estime que, depuis le début de la campagne en avril de cette année et avant la mise en œuvre de la norme, plus de 14 000 produits d’IA non conformes ont été retirés et ne répondaient pas aux exigences, qu’il s’agisse de « amoureux de l’IA » ou, simplement, d’applications qui ne pourraient se conformer à aucun des points de la norme.

Et même si tout cela peut nous sembler dystopique (même s’il y a de plus en plus de nouvelles, pas seulement en provenance de Chine, qui montrent que cette dépendance émotionnelle aux chatbots est quelque chose que nous devrions prendre au sérieux), des médias comme le South China Morning Post ou

En fait, dans un article du SCMP, il est expliqué que cette approche simple s’attaque au symptôme (IA) au lieu de s’attaquer à ce qui conduit à ces situations, comme l’inégalité entre les sexes, le manque de soutien psychologique ou la précarité. Et, même si les utilisateurs regrettent d’avoir perdu ces relations, il existe une contre-réfutation qui affirme que chacun a le droit de choisir avec qui ou quoi il se rapporte.

Il s’agit sans aucun doute d’une situation complexe et difficile à gérer. La Chine a fait un premier pas radical, mais les problèmes sociaux ne lui sont pas exclusifs et, comme nous le disons, dans des pays comme les États-Unis, il existe de nombreuses preuves que l’IA comble un vide que connaissent de nombreux utilisateurs, pour diverses raisons.

Ce qu’elle n’avait pas deviné, c’était la partie système d’exploitation. Dans le film, ils étaient extrêmement épurés, minimalistes et semblaient utiles. Cependant, nous avons toujours des choses comme Windows 11.

Images | Margo Evardson

À Simseo | Demander conseil à Claude sur vos problèmes amoureux, ça sonne bien. Jusqu’à ce qu’il te le donne