« Le monde a raison d’avoir peur de l’IA. » La solution de Sam Altman est de faire confiance à ceux qui le construisent

Sam Altman, le PDG d’OpenAI, a fait une déclaration frappante : « le monde a raison d’avoir peur de cela ». Il fait bien sûr référence à la menace que représente l’IA et qui a amené son rival commercial, Dario Amodei, à déclarer il y a quelques jours que le rythme du développement de l’IA devait changer.

Faites-nous confiance. Les modèles ont tellement progressé et si rapidement, dit-il, qu’« il n’est plus nécessaire d’avoir autant d’imagination » pour penser que quelque chose pourrait mal tourner. Cependant, sa solution à ce problème est une solution que nous connaissons déjà : nous lui faisons confiance : « le monde doit avoir confiance que nous allons faire la bonne chose parce que c’est la bonne chose et parce que nous sommes conscients de l’ampleur de tout cela ».

C’est normal d’avoir peur. Lors de l’événement organisé par Salesforce, Altman a donné comme exemple l’incident bien connu de Hugging Face. Il l’a qualifié de pire événement de cybersécurité enregistré par OpenAI et également de problème d’alignement : ils avaient enseigné au modèle comment obtenir le meilleur résultat possible, mais n’avaient pas fixé suffisamment de limites pour indiquer ce qu’il ne pouvait pas faire pour dépasser l’objectif. Pour Altman, cela nous oblige à augmenter le niveau de sécurité, de surveillance et d’alignement à mesure que les capacités des modèles progressent.

Si nécessaire, OpenAI freinera. Altman assure que la sécurité doit primer sur les capacités des modèles et que son entreprise est prête à ralentir, voire arrêter le développement s’il arrive un moment où elle ne peut pas garantir cette sécurité.

Nous nous en occupons déjà. Chez OpenAI, ils ont en fait publiquement promis cet engagement : lorsqu’un système d’IA présente un risque inacceptable qu’ils ne peuvent pas suffisamment atténuer, ils ralentiront ou arrêteront son développement ou son déploiement. Altman s’appuie non seulement sur OpenAI, mais sur l’ensemble du secteur pour développer en toute sécurité la technologie de l’IA.

Le problème est de savoir qui décide quand nous avons atteint ce point. Dario Amodei, PDG d’Anthropic, défend cette hypothèse depuis des jours. Il propose l’entrée en action d’évaluateurs externes, qu’il y ait une coordination entre les entreprises et on parle même d’accords internationaux.

Zuck passe à l’action. Jensen Huang et Trump, comme nous l’avons vu, ne pensent pas la même chose, mais il y a quelques heures, celui qui s’est prononcé en faveur de la prudence était Mark Zuckerberg. Le créateur de Facebook a indiqué que Meta avait retardé de plusieurs mois son agent Muse pour des raisons de sécurité sans demander à ses concurrents d’en faire de même.

Un discours intéressé. Le PDG d’OpenAI soutient cette coordination entre entreprises dont parlait Amodei, mais souligne que ces mêmes entreprises devraient être prêtes à arrêter le développement de leurs modèles d’IA, indépendamment de ce que font leurs concurrents. C’est un discours qui profite à lui et aux autres PDG de ces entreprises, car il laisse tout simplement la balle dans leur camp. Il n’est pas clair – bien sûr, cela n’a pas d’importance si cela reste ainsi – qui doit mesurer le danger et quand ce développement doit être stoppé.

Images | Flickr

À Simseo | Arrêter l’IA, cela revient à protéger l’humanité. C’est aussi un moyen très efficace d’arrêter DeepSeek, Qwen et Mistral1