Méfiez-vous des entreprises qui prétendent utiliser une technologie pionnière. Ils pourraient simplement « laver l’IA

Rester compétitif dans le secteur financier est vital, car de nombreuses entreprises adoptent rapidement l’intelligence artificielle (IA) pour réduire les coûts et rationaliser les opérations.

Mais deux entreprises se sont récemment retrouvées bloquées lorsque la Securities and Exchange Commission (SEC) des États-Unis les a accusées d'exagérer leur utilisation de l'IA, marquant ainsi la première mesure significative au monde dans la lutte contre ce que l'on appelle le « lavage de l'IA ».

Delphia (US) Inc et Global Predictions Inc se sont vantés d'utiliser l'IA pour concevoir des stratégies d'investissement, mais la SEC a jugé leurs affirmations sans fondement.

Il y a beaucoup de spéculations autour de l'IA, en particulier avec l'application de technologie générative ChatGPT qui fait bouger les choses. Mais au milieu de tout ce battage médiatique, le lavage par l’IA devient de plus en plus courant.

En plus d’exagérer ou de déformer leurs capacités en matière d’IA, les entreprises peuvent gonfler les capacités des algorithmes d’IA ou créer l’illusion que l’IA joue un rôle plus important qu’elle ne le fait en réalité.

Qu'est-ce qu'il y a de si bien dans l'IA ?

L’intégration de l’IA dans les opérations commerciales présente de nombreux avantages. Il peut rationaliser les processus, décomposer et analyser rapidement des données complexes pour accélérer la prise de décision et aider les organisations à garder une longueur d'avance sur un marché concurrentiel et en évolution rapide.

Promouvoir son utilisation de l’IA contribue à présenter une entreprise comme étant de haute technologie et d’avant-garde, même si la réalité ne se vérifie pas.

La pratique du lavage de l’IA n’est pas totalement nouvelle. Cela suit la même idée que le greenwashing, où les entreprises prétendent être respectueuses de l’environnement pour attirer les investisseurs et les consommateurs.

Il s'agit d'habiller la technologie ordinaire avec des mots à la mode de l'IA tels que « apprentissage automatique », « réseaux de neurones », « apprentissage en profondeur » et « traitement du langage naturel » pour paraître plus innovante qu'elle ne le est en réalité.

L'IA et le secteur financier

Le lavage par l'IA prospère dans la finance et l'investissement en raison des enjeux élevés, de la concurrence intense et de l'attrait séduisant des solutions technologiques.

Les algorithmes de l'IA peuvent analyser de vastes ensembles de données, améliorer la prévisibilité et découvrir des modèles cachés dans les données financières. Et les capacités de traitement en temps réel de l’IA permettent une adaptation dynamique aux évolutions du marché.

La complexité des produits financiers permet aux entreprises de dissimuler la réalité derrière des affirmations tape-à-l’œil sur l’IA. Et l’absence de réglementation aggrave le problème.

Malgré les capacités impressionnantes de l'IA, elle n'est pas sans inconvénients, notamment des préoccupations éthiques, une vulnérabilité aux cyberattaques et à la manipulation, ainsi que le manque de transparence dans la manière dont les algorithmes d'IA parviennent à prendre des décisions ou à faire des prédictions.

Les partisans des investissements liés à l’IA vont des investisseurs particuliers novices aux acteurs institutionnels chevronnés.

Cet intérêt a conduit les sociétés de capital-risque à allouer plus de capitaux aux startups de l’IA l’année dernière qu’elles ne le faisaient auparavant.

Un manque de réglementation

Mais sans lignes directrices claires, les entreprises peuvent exploiter les failles et induire les investisseurs en erreur.

Ce manque de surveillance érode la confiance et la crédibilité dans l’industrie. Le lavage de l’IA peut également étouffer l’innovation. Si les investisseurs sont sceptiques à l’égard de l’IA, ils sont moins susceptibles d’investir dans des solutions légitimes basées sur l’IA. Cela peut ralentir le développement de technologies véritablement révolutionnaires.

Il est crucial de lutter contre le lavage de l’IA, faisant écho au récit édifiant de la bulle Internet. Tout comme les promesses exagérées et la ferveur spéculative entourant les sociétés Internet qui ont conduit aux turbulences des marchés et au scepticisme des investisseurs à la fin des années 1990, le battage médiatique autour des capacités de l’IA dans le domaine financier présente des risques similaires.

Le lavage de l’IA pourrait amener les investisseurs à investir de l’argent dans des projets liés à l’IA sans en comprendre pleinement les risques ou les limites potentielles, les exposant finalement à des pertes financières lorsque la bulle éclaterait.

La loi de l’Union européenne sur l’IA est la première réglementation au monde à régir l’utilisation, le développement, la divulgation et la surveillance de l’IA. Mais en Australie, il n’existe pas de lois spécifiques. La réglementation relève actuellement de la Loi sur les personnes morales.

L’ASIC réfléchit actuellement à des moyens de réglementer l’IA, notamment en formulant des sanctions en cas de lavage de l’IA.

Les sociétés de portefeuille responsables d’informations précises sur les applications technologiques contribuent à maintenir l’intégrité des marchés financiers et garantissent l’équité pour les investisseurs.

Comment repérer le lavage de l'IA

Alors, comment pouvez-vous, en tant qu’investisseur ou consommateur, éviter d’être victime du lavage de l’IA ? Voici quelques conseils:

1. Vérifiez le statut d'inscription et les informations d'identification

Avant d'acheter ou d'investir dans quoi que ce soit revendiquant des capacités d'IA, vérifiez le statut d'enregistrement et les informations d'identification de la société d'investissement en les recherchant sur le registre professionnel. Assurez-vous qu’ils n’ont aucune mesure disciplinaire [history] en vérifiant le registre de l'Australian Securities and Investment Commission.

2. Soyez prudent avec les investissements axés sur l'IA

Investir dans des entreprises axées sur l’IA peut sembler prometteur, mais méfiez-vous des entreprises qui vantent leur IA « révolutionnaire » ou « leader du secteur » sans fournir de détails. Qu’est-ce qui rend exactement leur IA révolutionnaire ? Quels problèmes cela résout-il ? Les entreprises qui s’appuient sur des mots vides de sens sans détails concrets exagèrent probablement leurs capacités.

3. Boostez vos connaissances

Maîtrisez les bases de l’IA et de l’apprentissage automatique. Apprenez les techniques d'IA courantes et les termes utilisés en finance. Il existe un grand nombre de ressources gratuites en ligne pour les débutants.

4. Posez des questions

Ne vous fiez pas uniquement aux informations générées par l’IA pour prendre vos décisions d’investissement. Les données générées par l’IA peuvent être basées sur des données inexactes ou biaisées. Interrogez les conseillers financiers et les entreprises sur leur mise en œuvre spécifique de l’IA. Quel type de données utilisent-ils ? Comment leurs algorithmes sont-ils formés ? Quelles sont les limites de leur technologie ?

5. Soyez sceptique quant aux rendements élevés avec peu ou pas de risque

Soyez sceptique à l’égard des produits financiers qui promettent des rendements élevés avec un risque minimal, en particulier ceux qui revendiquent un succès grâce à l’IA. Cette tactique est un signal d’alarme courant pour le lavage de l’IA. Ne vous fiez pas uniquement aux affirmations d'une entreprise : effectuez des recherches indépendantes en suivant l'actualité financière ou en vérifiant les documents réglementaires des entreprises avant d'investir.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lisez l'article original.