Les scientifiques exhortent Global Ai «Rouges rouges» à mesure que les leaders se réunissent à l'ONU
Les vétérans de la technologie, les politiciens et les lauréats du prix Nobel ont appelé les nations à travers le monde lundi à établir rapidement des « lignes rouges » trop dangereuses pour que l'intelligence artificielle à traverser.
Plus de 200 chiffres de premier plan, dont 10 lauréats du prix Nobel et scientifiques travaillant chez AI Giants Anthropic, Google Deepmind, Microsoft et Openai ont signé une lettre publiée au début de la dernière session de l'Assemblée générale des Nations Unies.
« L'IA a un immense potentiel pour faire progresser le bien-être humain, mais sa trajectoire actuelle présente des dangers sans précédent », indique la lettre.
« Les gouvernements doivent agir de manière décisive avant la fermeture de l'intervention significative. »
Les lignes rouges de l'IA seraient des interdictions à l'échelle internationale sur les utilisations jugées trop risquées en toutes circonstances, selon les créateurs de la lettre.
Des exemples donnés comprenaient la configuration des systèmes d'IA avec le commandement des arsenaux nucléaires ou tout type de système d'armes autonomes mortelles.
D'autres lignes rouges pourraient permettre à l'IA d'être utilisée pour la surveillance de masse, la notation sociale, les cyberattaques ou l'identité de personnes, selon ceux qui sont derrière la campagne.
Ceux qui ont signé le message ont exhorté les gouvernements à avoir des lignes rouges en place d'ici la fin de l'année prochaine étant donné le rythme que la technologie progresse.
« L'IA pourrait bientôt dépasser de loin les capacités humaines et augmenter les risques tels que les pandémies conçues, la désinformation généralisée, la manipulation à grande échelle d'individus, y compris les enfants, les problèmes de sécurité nationale et internationale, le chômage de masse et les violations systématiques des droits de l'homme », indique la lettre.
« Laissée sans contrôle, de nombreux experts, y compris ceux à l'avant-garde du développement, avertissent qu'il deviendra de plus en plus difficile d'exercer un contrôle humain significatif dans les années à venir. »
