La Chine met en garde contre les risques liés à l’intelligence artificielle et appelle à des mesures de sécurité nationale renforcées

Le Parti communiste au pouvoir en Chine a mis en garde contre les risques posés par les progrès de l’intelligence artificielle tout en appelant à des mesures de sécurité nationale renforcées.

La déclaration publiée après une réunion mardi présidée par le chef du parti et président Xi Jinping souligne la tension entre la détermination du gouvernement à s’emparer du leadership mondial dans les technologies de pointe et les inquiétudes concernant les éventuels dommages sociaux et politiques de ces technologies.

Cela faisait également suite à un avertissement de scientifiques et de leaders de l’industrie technologique aux États-Unis, y compris des cadres de haut niveau chez Microsoft et Google, sur les périls que l’intelligence artificielle pose à l’humanité.

La réunion de Pékin a discuté de la nécessité « d’efforts dédiés pour sauvegarder la sécurité politique et améliorer la gouvernance de la sécurité des données sur Internet et de l’intelligence artificielle », a déclaré l’agence de presse officielle Xinhua.

« Il a été souligné lors de la réunion que la complexité et la gravité des problèmes de sécurité nationale auxquels notre pays est confronté ont considérablement augmenté. Le front de la sécurité nationale doit renforcer sa confiance en soi stratégique, avoir suffisamment de confiance pour assurer la victoire et être parfaitement conscient de son propre ses forces et ses avantages », a déclaré Xinhua.

« Nous devons être préparés aux pires scénarios et aux scénarios extrêmes, et être prêts à résister à l’épreuve majeure des vents violents, des eaux agitées et même des tempêtes dangereuses », a-t-il déclaré.

Xi, qui est le chef de l’Etat chinois, commandant de l’armée et président de la Commission de sécurité nationale du parti, a appelé lors de la réunion à « rester très conscient des circonstances compliquées et difficiles auxquelles la sécurité nationale est confrontée ».

La Chine a besoin d’un « nouveau modèle de développement avec une nouvelle architecture de sécurité », a rapporté Xi Jinping.

La Chine consacre déjà de vastes ressources à la suppression de toute menace politique perçue à la domination du parti, les dépenses consacrées à la police et au personnel de sécurité dépassant celles consacrées à l’armée.

Alors qu’il censure sans relâche les manifestations en personne et les critiques en ligne, les citoyens ont continué d’exprimer leur mécontentement à l’égard des politiques, plus récemment les mesures de verrouillage draconiennes adoptées pour lutter contre la propagation du COVID-19.

La Chine a réprimé son secteur technologique dans le but de réaffirmer le contrôle du parti, mais comme d’autres pays, elle s’efforce de trouver des moyens de réglementer la technologie d’IA en développement rapide.

La dernière réunion du parti a renforcé la nécessité « d’évaluer les risques potentiels, de prendre des précautions, de protéger les intérêts du peuple et la sécurité nationale, et d’assurer la sécurité, la fiabilité et la capacité de contrôler l’IA », a rapporté mardi le journal officiel Beijing Youth Daily.

Les inquiétudes concernant les systèmes d’intelligence artificielle déjouant les humains et échappant à tout contrôle se sont intensifiées avec la montée en puissance d’une nouvelle génération de chatbots IA hautement performants tels que ChatGPT.

Sam Altman, PDG de ChatGPT-maker OpenAI, et Geoffrey Hinton, un informaticien connu comme le parrain de l’intelligence artificielle, figuraient parmi les centaines de personnalités qui ont signé mardi la déclaration publiée sur le site Web du Center for AI Safety.

« Atténuer le risque d’extinction de l’IA devrait être une priorité mondiale aux côtés d’autres risques à l’échelle de la société tels que les pandémies et la guerre nucléaire », indique le communiqué.

Plus de 1 000 chercheurs et technologues, dont Elon Musk, qui est actuellement en visite en Chine, avaient signé une lettre beaucoup plus longue plus tôt cette année appelant à une pause de six mois sur le développement de l’IA.

La missive a déclaré que l’IA pose « des risques profonds pour la société et l’humanité », et certaines personnes impliquées dans le sujet ont proposé un traité des Nations Unies pour réglementer la technologie.

La Chine a averti dès 2018 de la nécessité de réglementer l’IA, mais a néanmoins financé une vaste expansion dans le domaine dans le cadre des efforts visant à prendre les devants sur les technologies de pointe.

Un manque de protection de la vie privée et un contrôle strict des partis sur le système judiciaire ont également entraîné une utilisation quasi totale de la technologie de reconnaissance faciale, vocale et même de la marche pour identifier et détenir les personnes considérées comme menaçantes, en particulier les dissidents politiques et les minorités religieuses, en particulier les musulmans. .

Les membres des Ouïghours et d’autres groupes ethniques principalement musulmans ont été ciblés pour une surveillance électronique de masse et plus d’un million de personnes ont été détenues dans des camps de rééducation politique ressemblant à des prisons que la Chine appelle des centres de déradicalisation et de formation professionnelle.

Les risques de l’IA sont principalement perçus dans sa capacité à contrôler les armes robotiques autonomes, les outils financiers et les ordinateurs régissant les réseaux électriques, les centres de santé, les réseaux de transport et d’autres infrastructures clés.

L’enthousiasme débridé de la Chine pour les nouvelles technologies et sa volonté de bricoler avec des recherches importées ou volées et d’étouffer les enquêtes sur des événements majeurs tels que l’épidémie de COVID-19 renforcent les inquiétudes quant à son utilisation de l’IA.

« L’attitude joyeuse de la Chine envers le risque technologique, l’ambition téméraire du gouvernement et la mauvaise gestion de la crise par Pékin sont tous sur une trajectoire de collision avec les dangers croissants de l’IA », ont écrit les spécialistes de la technologie et de la sécurité nationale Bill Drexel et Hannah Kelley dans un article publié cette semaine dans le revue Affaires étrangères.