Le rapport international met en garde contre la perte de contrôle sur l’IA
Une race frénétique des géants de la technologie pour développer une intelligence artificielle de plus en plus puissante (IA) pourrait avoir des effets « nuisibles », a averti le chercheur de premier plan Yoshua Bengio alors que les scientifiques ont marqué le début du sommet mondial de Paris sur la technologie.
L’informatique et lauréate du prestigieux prix de Turing en 2018 présentait le tout premier rapport international de sécurité de l’IA, compilé sous sa supervision, à l’Université de Paris’s Ens.
Bengio a souligné les risques d’IA qui sont déjà largement reconnus, comme son usage pour créer du contenu faux ou trompeur en ligne.
Mais le professeur de l’Université de Montréal a ajouté que « la preuve apparaît régulièrement de risques supplémentaires, comme des attaques biologiques ou des cyberattaques ».
À plus long terme, il craint une éventuelle « perte de contrôle » par les humains sur les systèmes d’IA, potentiellement motivé par « leur propre volonté à survivre ».
L’émergence le mois dernier du modèle d’IA chinois à faible coût et haute performance Deepseek avait « accéléré la course, ce qui n’est pas bon pour la sécurité », a ajouté Bengio.
Il a appelé à une réglementation internationale plus lourde et à des recherches plus étendues sur la sécurité de l’IA, qui explique pour l’instant «une petite fraction» des investissements massifs réalisés dans le secteur.
« Sans intervention gouvernementale, je ne sais pas comment nous allons passer à travers cela », a déclaré Bengio.
Toujours la principale nation d’IA au monde pour l’instant, les États-Unis ont abandonné la tentative de l’ancien président Joe Biden d’imposer des règles de développement depuis l’inauguration de Donald Trump.
Lorsque le Chatgpt d’Openai a éclaté sur la scène publique il y a deux ans, « j’ai ressenti l’urgence de penser à cette question de sécurité », a déclaré Bengio en présentant le rapport – conçu pour correspondre aux documents désormais familiers du panel intergouvernemental sur le changement climatique (IPCC (IPCC ).
« Ce qui me fait le plus peur, c’est la possibilité que l’humanité puisse disparaître dans les 10 ans. C’est terrifiant. Je ne sais pas pourquoi plus de gens ne s’en rendent pas compte », a-t-il déclaré.
Une centaine d’experts de 30 pays, les Nations Unies, l’Union européenne et l’OCDE ont contribué au rapport dirigé par Bensio, publié fin janvier.
Les travaux ont été lancés lors d’un sommet précédent sur la sécurité de l’IA en Grande-Bretagne en novembre 2023.
