La Chine vient d’arrêter quelqu’un pour avoir publié de fausses nouvelles générées par l’IA : le premier précédent
La police chinoise a récemment arrêté un homme qui aurait utilisé ChatGPT pour créer et diffuser de fausses nouvelles. L’arrestation du suspect, selon les autorités locales, est devenue la première action du genre dans le pays concernant une enquête sur l’utilisation abusive d’outils alimentés par l’intelligence artificielle.
Le département de la sécurité publique explique que le 25 avril, un article faisant référence à « un train a renversé un ouvrier du bâtiment routier dans le Gansu ce matin et a tué 9 personnes » a été provisoirement classé comme faux. Cela a incité la police de la sécurité Internet à lancer rapidement une enquête.
enquête et arrestation
La première étape de l’enquête a révélé que l’article en question avait été publié sur 21 comptes Baijiahao en même temps, un plate-forme de style de blog détenue par le géant chinois de la recherche Baidu. Ils indiquent également que le nombre de vues d’informations considérées comme fausses avait atteint 15 000.
L’étape suivante de la police a été de retracer les origines de l’article, ce qui a permis à une société enregistrée à Shenzhen et dirigée par un homme du nom de Hong d’être derrière les comptes suspects. Une semaine plus tard, la police a fouillé le domicile de Hong et recueilli des preuves à partir de ses systèmes informatiques.
Les autorités affirment que le suspect a avoué avoir utilisé ChatGPT pour altérer les systèmes de protection de Baijiahao qui empêchent leur publication. histoires en double. Pour ce faire, il a utilisé l’outil OpenAI AI pour créer différentes versions d’articles populaires sur le Web et « profiter illégalement » de leur publication.
Le 10 janvier de cette année, l’Administration du cyberespace de Chine a mis en place de nouvelles règles sur l’utilisation de l’intelligence artificielle générative sur Internet. Selon la réglementation, tous les médias générés par l’IA doivent être accompagnés d’étiquettes claires, entre autres ressources, pour « empêcher la désinformation ».
Il convient de noter qu’au fil des ans, le pays asiatique a été accusé par différentes organisations internationales de censurer le contenu d’Internet par différentes méthodes. Parmi eux figurent « The Great Firewall », qui limite ou bloque l’accès à certains services et pages Web étrangers, et le contrôle exhaustif des plateformes numériques qui opèrent dans le pays.
