Que se passe-t-il lorsque nous sous-traitons un travail ennuyeux mais important à l’IA ? La recherche montre que nous oublions comment le faire nous-mêmes

En 2009, un avion d’Air France s’est écrasé dans l’océan, ne laissant aucun survivant. Le système de pilotage automatique de l’avion s’est arrêté et les pilotes, devenus dépendants de leur assistant informatisé, n’ont pas pu corriger la situation manuellement.

En 2015, un chauffeur de bus en Europe a saisi une mauvaise destination dans son appareil GPS et a joyeusement emmené un groupe de touristes belges faire un détour de 1 200 kilomètres dans la mauvaise direction.

En 2017, dans une décision annulée en appel, les procureurs américains qui avaient accepté de libérer un adolescent sous probation ont brusquement changé d’avis parce qu’un algorithme avait jugé que l’accusé présentait un « risque élevé ».

Ce sont des exemples dramatiques, mais ils sont loin d’être isolés. Lorsque nous confions des tâches cognitives à la technologie, comme piloter un avion, naviguer ou formuler un jugement, la recherche montre que nous risquons de perdre la capacité d’effectuer ces tâches nous-mêmes. Il existe même un terme pour désigner notre tendance à oublier les informations disponibles via les moteurs de recherche en ligne : l’effet Google.

Alors que les nouvelles technologies d’IA promettent d’automatiser un éventail croissant d’activités, le risque d’« érosion des compétences » augmente. Nos recherches montrent comment cela peut se produire et suggèrent des moyens de conserver l’expertise dont vous avez besoin, même lorsque vous n’en avez pas besoin tous les jours.

L’érosion des compétences peut paralyser une organisation

Mes recherches montrent que le risque d’érosion des compétences est facilement négligé. Dans une étude récente, mon équipe et moi avons examiné l’érosion des compétences dans un cabinet comptable.

L’entreprise avait récemment cessé d’utiliser un logiciel qui automatisait une grande partie de son service de comptabilité des immobilisations. Cependant, les comptables se sont retrouvés incapables de mener à bien leur tâche sans cela. Des années de dépendance excessive à l’égard du logiciel avaient érodé leur expertise et ils ont finalement dû réapprendre leurs compétences en comptabilité des immobilisations.

Même si le logiciel était basé sur des règles (il n’utilisait pas l’apprentissage automatique ou « l’IA »), il était suffisamment « intelligent » pour suivre l’amortissement et produire des rapports à de nombreuses fins fiscales et financières. Ce sont des tâches que les comptables humains trouvent très complexes et fastidieuses.

L’entreprise n’a pris conscience de l’érosion des compétences qu’après qu’un client ait découvert des erreurs dans les rapports manuels de l’équipe comptable. Ses comptables ne disposant pas des compétences suffisantes, l’entreprise a dû charger le fournisseur de logiciels de corriger les erreurs.

Comment se produit l’érosion des compétences

Nous avons constaté qu’un manque d’attention à l’égard des tâches automatisées avait entraîné une érosion des compétences. Le vieil adage « utilisez-le ou perdez-le » s’applique autant au travail intense sur le plan cognitif qu’à toute autre chose.

Les comptables n’étaient pas inquiets à l’idée de confier leur réflexion au logiciel, car celui-ci fonctionnait presque parfaitement. En d’autres termes, ils sont devenus la proie de la « complaisance en matière d’automatisation » : l’hypothèse selon laquelle « tout va bien » tout en ignorant les risques potentiels.

Cela a eu trois conséquences majeures :

1. ils ont perdu conscience de ce que faisait l’automatisation
2. ils ont perdu l’incitation à maintenir et à mettre à jour les connaissances pertinentes (telles que la législation fiscale), parce que le fournisseur et le logiciel l’ont fait pour eux
3. comme le logiciel était fiable, ils ne prenaient plus la peine de vérifier l’exactitude des rapports sortants.

Comment maintenir vos compétences

Alors, comment éviter la complaisance lorsque vous utilisez l’IA et d’autres systèmes automatisés ? Voici trois conseils :

1. prêtez attention à ce que fait le système : quelles entrées sont utilisées, dans quel but et ce qui pourrait affecter ses suggestions
2. maintenir vos compétences à jour (surtout si vous êtes légalement responsable des résultats)
3. évaluer les résultats de manière critique, même si les résultats finaux semblent satisfaisants.

À quoi cela ressemblerait-il en pratique ? Voici un exemple quotidien : conduire avec l’aide d’une application de navigation alimentée par l’IA.

Au lieu de suivre aveuglément les instructions de l’application, faites attention aux panneaux de signalisation et aux points de repère, et soyez conscient de ce que vous faites même lorsque vous êtes guidé par l’application.

Étudiez la carte et l’itinéraire suggéré avant de conduire pour augmenter votre « connaissance du domaine » ou votre compréhension de ce qui se trouve autour de l’itinéraire. Cela vous aide à relier votre chemin spécifique à l’environnement plus large, ce qui vous sera utile si vous vous perdez ou si vous souhaitez trouver des itinéraires alternatifs.

Lorsque vous atteignez votre destination, réfléchissez à l’itinéraire suggéré par l’application : était-il rapide, était-il sûr, était-il agréable ? Sinon, envisagez de prendre un itinéraire différent la prochaine fois, même si l’application suggère le contraire.

L’IA est-elle un compagnon nécessaire ?

Le cas du cabinet comptable soulève également une question plus vaste : quelles compétences sont pertinentes et méritent d’être entretenues, et lesquelles devrions-nous abandonner au profit de l’automatisation ?

Il n’existe pas de réponse universelle, car les compétences professionnelles évoluent au fil du temps, des juridictions, des secteurs, des cultures et des emplacements géographiques. Cependant, c’est une question à laquelle nous devrons faire face à mesure que l’IA reprendra des activités autrefois considérées comme impossibles à automatiser.

Malgré les difficultés, le responsable comptable de notre étude de cas estime que le logiciel automatisé est très bénéfique. Selon lui, son équipe a été prise au dépourvu par la complaisance.

Dans un monde axé sur l’efficacité et les objectifs annuels ou trimestriels, les organisations privilégient les solutions qui améliorent les choses à court terme, même si elles ont des effets secondaires négatifs à long terme. C’est ce qui s’est produit dans le cas de la comptabilité : les gains d’efficacité ont éclipsé les préoccupations abstraites concernant l’expertise, jusqu’à ce que des problèmes surviennent.

Cela ne veut pas dire que nous devons éviter l’IA. Les organisations ne peuvent pas se permettre de rater les opportunités qu’elles présentent. Cependant, ils doivent également être conscients du risque d’érosion des compétences.