Le développement de l’IA fonctionne mieux pour tout le monde lorsque sa main-d’œuvre est bien prise en charge

Un ancien PDG et président exécutif de Google a récemment suggéré que le retard apparent du géant de la technologie dans le développement de l'IA était dû au fait que l'entreprise donnait la priorité au bien-être personnel de ses employés plutôt qu'au progrès. Eric Schmidt a déclaré à un auditoire : « Google a décidé que l'équilibre entre vie professionnelle et vie privée, rentrer tôt à la maison et travailler à domicile était plus important que gagner. »

Schmidt s'est ensuite rétracté, affirmant qu'il s'était « mal exprimé ». Pourtant, son commentaire reflète une vision commune dans l’industrie technologique : selon laquelle le progrès dépend de modes de travail intensifs et d’une surveillance étroite du personnel.

Des entreprises comme Amazon ont mis en place des systèmes controversés de suivi des travailleurs. D'autres promeuvent une culture du « surmenage » comme élément nécessaire de l'innovation.

Mais cet état d’esprit néglige le rôle crucial que joue une main-d’œuvre engagée et heureuse dans la création de technologies bénéfiques. Des études ont montré, par exemple, que le travail à distance et un meilleur équilibre entre vie professionnelle et vie privée conduisent souvent à une augmentation de la productivité plutôt qu’à un obstacle au progrès.

L’histoire montre également que l’autonomisation des travailleurs et la promotion d’une approche démocratique ont accéléré les avancées technologiques. Le mouvement open source, où les informations sont partagées lors du développement de logiciels, en est un bon exemple. Wikipédia est un autre exemple : une réussite entièrement bâtie sur les contributions bénévoles et les efforts collectifs.

Dans le domaine de l'IA également, des progrès rapides ont été réalisés avec des projets qui mettent l'accent sur l'ouverture et la collaboration, tels que des modèles de langage similaires à ChatGPT connus sous le nom de BLOOM et GPT-J. Cela démontre que la démocratisation de l’accès aux outils et aux connaissances d’IA peut accélérer les progrès.

Parallèlement, bon nombre des défis éthiques liés au développement de l’IA – depuis les biais algorithmiques jusqu’aux problèmes de confidentialité – découlent de cycles de développement précipités et d’un manque de diversité des perspectives.

Par exemple, des préjugés raciaux et sexistes dans les systèmes de reconnaissance faciale seraient apparus parce que les équipes de développement travaillaient sous pression pour obtenir des résultats rapidement. Le scandale Cambridge Analytica, qui a révélé l’utilisation abusive des données des utilisateurs de Facebook, a illustré les risques qu’il y a à donner la priorité à la croissance et au profit plutôt qu’à la vie privée et à l’impact social.

La recherche constante d’une productivité et d’une domination du marché a également conduit à l’émergence d’« ateliers clandestins numériques » – des régimes de travail exploiteurs associés au développement de l’IA.

Il s'agit notamment des « usines » de modération de contenu où les travailleurs sont exposés à du contenu traumatisant pendant de longues heures avec un soutien minimal (un porte-parole de la société mère de Facebook a déclaré qu'elle prenait au sérieux sa responsabilité envers les évaluateurs de contenu, avec « des salaires, des avantages et un soutien parmi les meilleurs du secteur »). Ou encore les opérations de traitement de données liées à l’apprentissage automatique où les travailleurs des pays à bas salaires effectuent des tâches répétitives pour peu de récompense.

Des entreprises telles que Facebook, Google et Amazon ont été critiquées pour avoir sous-traité ces aspects cruciaux (mais souvent négligés) du développement de l’IA à des sous-traitants aux conditions de travail médiocres. Et ils soulignent le coût humain des progrès rapides de l’IA, dont la véritable motivation réside souvent dans la domination des entreprises et la maximisation de la valeur actionnariale.

Ce modèle conduit également à des innovations qui ne parviennent pas à répondre à des défis sociaux et écologiques plus larges. L’empreinte carbone importante associée au développement de l’IA montre la nécessité urgente de méthodes plus réfléchies et durables.

Mais ceux-ci sont plus susceptibles d’émerger d’équipes de personnes bien traitées, qui disposent de l’autonomie nécessaire pour explorer et aborder les implications plus larges de leur travail. Ils ne proviendront pas de hiérarchies rigides axées uniquement sur des rendements financiers immédiats.

C’est là que réside la fausse dichotomie entre le pouvoir des travailleurs et le progrès technologique. Les faits suggèrent que lorsque les dirigeants exercent trop de contrôle, le développement de technologies socialement bénéfiques est entravé. Ils ne fourniront tout simplement pas ce que des travailleurs autonomes et une collaboration ouverte peuvent apporter.

Intelligence socialement bénéfique

Les initiatives menées par les travailleurs ont également été à l’avant-garde du développement technologique éthique. Par exemple, la protestation des employés de Google contre la participation de l'entreprise au projet Maven, un programme militaire américain d'IA, a été un succès. Et les travailleurs d’Amazon ont continué de faire pression pour que l’entreprise améliore ses références environnementales.

Schmidt a parlé de « gagner » dans la course à l’IA. Mais que gagne-t-on exactement grâce à des techniques qui donnent la priorité au contrôle des entreprises et à l’exploitation des travailleurs ? Il en résulte souvent une technologie contraire à l’éthique, développée dans des conditions d’exploitation – une technologie qui sert les intérêts étroits des entreprises plutôt que les besoins sociaux.

Mais l’avenir de l’IA et des autres technologies émergentes ne doit pas être déterminé uniquement par les forces du marché. L’innovation ne nécessite pas de conditions de travail oppressives ni de contrôle excessif des entreprises.

Et le progrès technologique et le progrès social ne s’excluent pas mutuellement. En fait, ils peuvent se renforcer mutuellement. Une industrie de l’IA véritablement prospère doit être celle qui produit des technologies innovantes de manière à responsabiliser les travailleurs, à prendre en compte les considérations éthiques et à apporter une contribution positive à la société.