Le projet d’IA de 500 milliards de dollars de Trump comporte des risques majeurs
Dans l’un de ses premiers mouvements en tant que 47e président des États-Unis, Donald Trump a annoncé un nouveau projet de 500 milliards de dollars américains appelé Stargate pour accélérer le développement de l’intelligence artificielle (IA) aux États-Unis.
Le projet est un partenariat entre trois grandes entreprises technologiques – Openni, Softbank et Oracle. Trump l’a appelé « le plus grand projet d’infrastructure d’IA de loin dans l’histoire » et a déclaré que cela aiderait à garder « l’avenir de la technologie » aux États-Unis.
Le milliardaire technologique Elon Musk, cependant, avait une prise différente, affirmant sans preuve sur sa plate-forme X que les bailleurs de fonds du projet « n’ont pas vraiment l’argent ». X, qui n’est pas inclus dans Stargate, travaille également sur le développement de l’IA et Musk est un rival du PDG d’Openai, Sam Altman.
Parallèlement à l’annonce de Stargate, Trump a également révoqué un décret exécutif signé par son prédécesseur Joe Biden qui visait à résoudre et à contrôler les risques d’IA.
Vus ensemble, ces deux mouvements incarnent une mentalité commune dans le développement technologique qui peut être mieux résumé par l’expression: «Déplacez-vous vite et cassez les choses».
Qu’est-ce que Stargate?
Les États-Unis sont déjà le favori du monde en ce qui concerne le développement de l’IA.
Le projet Stargate prolongera considérablement cet avance sur les autres nations.
Il verra un réseau de centres de données construits aux États-Unis. Ces centres abriteront d’énormes serveurs informatiques nécessaires à l’exécution de programmes d’IA tels que ChatGpt. Ces serveurs fonctionneront 24/7 et nécessiteront des quantités importantes d’électricité et d’eau pour fonctionner.
Selon un communiqué d’OpenAI, la construction de nouveaux centres de données dans le cadre de Stargate est déjà en cours dans l’État américain du Texas, « [W]E évalue les sites potentiels à travers le pays pour plus de campus alors que nous finalisons des accords définitifs. «
Un ordre imparfait – mais prometteur –
L’investissement accru dans le développement de l’IA par Trump est encourageant. Cela pourrait aider à faire avancer les nombreux avantages potentiels de l’IA. Par exemple, l’IA peut améliorer le pronostic des patients cancéreux en analysant rapidement les données médicales et en détectant les premiers signes de maladie.
Mais la révocation simultanée de Trump du décret exécutif de Biden sur le « développement sûr, sécurisé et digne de confiance de l’IA » est profondément préoccupante. Cela pourrait signifier que tous les avantages potentiels de Stargate sont rapidement empêchés par son potentiel d’exacerber les dommages existants des technologies de l’IA.
Oui, l’ordre de Biden manquait de détails techniques importants. Mais ce fut un début prometteur à développer des systèmes d’IA plus sûrs et plus responsables.
Un problème majeur qu’il était destiné à résoudre était les entreprises technologiques collectant des données personnelles pour la formation de l’IA sans avoir d’abord obtenu leur consentement.
Les systèmes d’IA collectent des données sur Internet. Même si les données sont librement accessibles sur Internet pour un usage humain, cela ne signifie pas que les systèmes d’IA devraient les utiliser pour la formation. De plus, une fois qu’une photo ou un texte est introduit dans un modèle d’IA, il ne peut pas être supprimé. Il y a eu de nombreux cas d’artistes qui poursuivent des générateurs d’art de l’IA pour une utilisation non autorisée de leur travail.
Un autre problème de l’ordonnance de Biden visait à aborder était le risque de préjudice, en particulier pour les personnes des communautés minoritaires.
La plupart des outils d’IA visent à augmenter la précision de la majorité. Sans conception appropriée, ils peuvent prendre des décisions extrêmement dangereuses pour quelques-unes.
Par exemple, en 2015, un algorithme de reconnaissance d’image développé par Google a automatiquement marqué des images de Noirs comme des «gorilles». Ce même problème a été trouvé plus tard dans les systèmes d’IA d’autres sociétés tels que Yahoo et Apple, et reste non résolu une décennie plus tard parce que ces systèmes sont si souvent impénétrables même pour leurs créateurs.
Cette opacité rend crucial la conception correctement des systèmes d’IA dès le début. Les problèmes peuvent être profondément ancrés dans le système d’IA lui-même, aggraver au fil du temps et devenir presque impossible à réparer.
Comme les outils d’IA prennent de plus en plus des décisions importantes, telles que le dépistage du curriculum vitae, les minorités sont encore plus affectées de manière disproportionnée. Par exemple, les logiciels de reconnaissance faciale alimentés par l’IA identifient plus souvent les Noirs et les autres personnes de couleur, ce qui a conduit à de fausses arrestations et à l’emprisonnement.
Systèmes d’IA plus rapides et plus puissants
Les annonces de Trump Twin IA dans les premiers jours de son deuxième mandat en tant que président américain montrent son objectif principal en termes d’IA – et de celle des plus grandes entreprises technologiques au monde – est sur le développement de systèmes d’IA de plus en plus rapides et plus puissants.
Si nous comparons un système d’IA avec une voiture, c’est comme développer la voiture la plus rapide possible tout en ignorant les caractéristiques de sécurité cruciales comme les ceintures de sécurité ou les airbags afin de le garder plus léger et donc plus rapide.
Pour les voitures et l’IA, cette approche pourrait signifier mettre des machines très dangereuses entre les mains de milliards de personnes dans le monde.
