« Personne ne sait avec certitude ce qui va se passer » : Demis Hassabis, prix Nobel, met en garde contre le risque de perdre le contrôle de l’IA
Pensons un instant à l’évolution du marché technologique avant novembre 2022. L’intelligence artificielle était déjà présente dans les moteurs de recherche, les caméras, les recommandations et les services numériques, mais elle n’était pas encore l’étiquette que les marques tentaient d’apposer sur chaque produit ni l’argument autour duquel tournait une bonne partie de leurs présentations. L’industrie avait d’autres priorités visibles et répartissait son attention sur plusieurs fronts. Moins de quatre ans plus tard, difficile de trouver un grand constructeur ou une plateforme qui n’ait pas réorganisé une partie de sa stratégie autour de l’IA.
Il suffit de regarder où va l’argent pour comprendre l’ampleur de cette course. Les grandes technologies consacrent d’énormes investissements aux puces, aux serveurs et aux centres de données répartis dans différentes parties du monde, tout en cherchant à garantir l’énergie nécessaire à leur fonctionnement. Les gouvernements ne se contentent pas non plus d’observer : les États-Unis et la Chine soutiennent le développement des infrastructures et des capacités informatiques dans le cadre d’une concurrence économique et stratégique. Au milieu de cette accélération, l’un de ses principaux protagonistes a prévenu que nous avançons plus vite que nous ne le pensons.
L’avertissement de ceux qui sont en première ligne de la course
Le message ne vient pas de l’extérieur du secteur. Demis Hassabis est co-fondateur et PDG de Google DeepMind, l’un des laboratoires qui promeuvent le développement des systèmes d’intelligence artificielle les plus avancés. Sous sa direction, des projets comme AlphaGo, qui a vaincu un champion du monde de Go, et AlphaFold, capable de prédire les structures des protéines, ont vu le jour. En 2024, Hassabis et John Jumper ont reçu conjointement la moitié du prix Nobel de chimie pour leurs travaux sur la prédiction de la structure des protéines. Ses propos ont du poids précisément en raison de cette double condition : il contribue à construire cette technologie et, en même temps, il réclame des mécanismes pour en contenir les risques.
Extrait du texte publié par Demis Hassabis dans X | Cliquez pour voir le message complet
Hassabis part d’une conviction qui permet de comprendre l’urgence de sa proposition : il estime que l’intelligence artificielle générale (IAG), définie dans son texte comme un système capable d’exhiber toutes les capacités cognitives du cerveau humain, pourrait arriver dans quelques années seulement. Il ne le présente pas comme une certitude, mais comme une possibilité proche qui nous obligerait à nous préparer avant que la technologie n’en arrive là. Leur préoccupation concerne la cybersécurité, les éventuels risques biologiques et nucléaires et, plus tard, les systèmes de plus en plus autonomes, capables d’agir avec moins de supervision et d’améliorer leurs propres capacités.
Dans un article détaillé publié dans X, le manager tente de soutenir deux idées à la fois. L’intelligence artificielle peut devenir un outil extraordinaire pour la science, la médecine et l’économie, mais ce potentiel n’élimine pas la nécessité d’établir des mécanismes de contrôle et de surveillance. Il ne propose pas non plus d’attendre qu’une menace spécifique apparaisse pour réagir, car les mesures pourraient alors arriver trop tard. Avant de détailler quelle organisation et quelles évaluations elle estime nécessaires, elle expose le diagnostic qui sert de base à l’ensemble de sa proposition :
« Nous sommes actuellement engagés dans une course commerciale et géopolitique extrêmement intense qui se déroule à de multiples niveaux. Alors que ces dynamiques concurrentielles entraînent des progrès rapides et accélèrent leurs extraordinaires avantages, les progrès à la frontière de l’IA dépassent notre compréhension de la technologie. Personne au monde ne sait avec certitude ce qui va se passer ensuite, et même les experts ne sont pas d’accord. Quand il y a un tel degré d’incertitude et tant d’enjeux, avancer avec un optimisme prudent est la stratégie sensée et correcte. »
La réponse qu’il propose est de créer aux États-Unis une organisation spécialisée dans l’évaluation des modèles d’intelligence artificielle les plus avancés. Leur proposition prend comme référence un partenariat public-privé ou une entité d’autorégulation sous tutelle fédérale, dirigée par un conseil d’administration qui comprendrait également des spécialistes indépendants et des représentants de l’écosystème open source. Cette institution définirait les seuils qui font d’un système un modèle frontière et concevrait des évaluations sur la cybersécurité, les menaces biologiques et d’autres domaines à haut risque, ainsi que des tests pour détecter les tentatives de contournement des garanties ou les signes de tromperie. Dans un premier temps, les laboratoires partageraient volontairement leurs modèles jusqu’à 30 jours avant leur lancement.
Une première coopération pourrait devenir ultérieurement une exigence obligatoire. Une fois le protocole validé, tout modèle considéré comme frontière devra passer l’évaluation avant d’atteindre le marché américain. Les tests seraient périodiquement révisés pour remplacer les tests obsolètes et mesurer les nouvelles capacités, tandis que des auditeurs indépendants contribueraient à étendre le système de contrôle. La démarche va encore plus loin : si la gravité des risques le justifiait, le cadre pourrait être utilisé pour coordonner un ralentissement du développement entre grands laboratoires.
L’inquiétude n’est pas exclusive à Hassabis. Geoffrey Hinton a reconnu que nous ne savons pas si nous serons capables de garder le contrôle de systèmes plus intelligents que nous, tandis que Yoshua Bengio appelle à davantage de recherches et à des mécanismes spécifiques pour les superviser. En 2023, Elon Musk a également signé une lettre ouverte demandant de suspendre la formation de systèmes d’IA plus puissants que GPT-4 pendant au moins six mois, même si quelques mois plus tard, il a annoncé xAI et a commencé à rivaliser directement sur ce marché. Beaucoup de ces voix s’accordent pour appeler à la prudence, mais il n’y a pas de consensus sur la probabilité que nous perdions le contrôle.
L’histoire de l’intelligence artificielle n’a toujours pas de bilan écrit, même si ses premiers effets ont déjà modifié notre rapport à la technologie et les décisions de ceux qui la développent. Reste à savoir si l’organisme proposé par Hassabis aurait sa place, si ses évaluations seraient réellement efficaces, et si les laboratoires et les gouvernements accepteraient de s’y soumettre lorsqu’elles entreraient en conflit avec leurs propres intérêts. Il peut également arriver que certains des risques qu’elle pose soient surdimensionnés ou ne se matérialisent pas. Pour l’instant, sa proposition ajoute une feuille de route concrète à un débat dans lequel il y a encore plus d’inconnues que de certitudes.
Images | Google
À Simseo | Claude dispose d’un espace dans lequel il manipule les concepts avant sa réponse finale. Et cela a surpris Anthropic lui-même
