Explorer les systèmes sociaux qui façonnent le développement de l’IA

Près de trois entreprises sur quatre utilisent déjà l’intelligence artificielle, et le marché de l’IA devrait atteindre 1,4 billion de dollars d’ici 2030. Au milieu de ce nouveau boom technologique, Benjamin Shestakofsky, professeur adjoint de sociologie à l’École des arts et des sciences, pense que c’est plus important que jamais. faire une pause et explorer les systèmes sociaux qui façonnent la croissance de l’IA.

« Même la définition de l’IA elle-même est ambiguë, contestée et en constante évolution », explique Shestakofsky, qui étudie l’impact des technologies numériques sur l’emploi, les organisations et l’économie. « Indépendamment de ce que l’IA peut réellement faire, les idées des gens sur ce qu’est l’IA peuvent influencer leur comportement. »

Alors que les questions tournent autour de la manière dont l’IA façonnera la société, Shestakofsky et Devika Narayan de l’Université de Bristol ont entrepris d’analyser les systèmes sociaux qui affectent l’intelligence artificielle. Dans un article publié dans Le Journal des sciences appliquées du comportementils décrivent quatre grands thèmes sociologiques qui aident à donner un sens à l’IA.

1. Suivez l’argent

La finance est la main pas si invisible qui façonne la technologie ; en 2022, l’industrie technologique américaine a attiré plus de 130 milliards de dollars de fonds de capital-risque. Avec le potentiel de transformer des investissements relativement modestes en millions, voire milliards, les investisseurs en capital-risque encouragent les start-ups technologiques – y compris celles qui créent l’IA – à prendre de gros risques et à croître rapidement au nom du profit, explique Shestakofsky.

« Ces structures de financement déterminent l’agenda du développement technologique et les objectifs qu’il vise à atteindre », note-t-il, ajoutant que les investisseurs se soucient souvent davantage de la montée en flèche des valorisations à court terme des startups de l’IA que de la pérennité de ces entreprises à long terme. .

Shestakofsky dit qu’il pense que cet environnement peut faire boule de neige dans le développement technologique, ce qui est apparu ces dernières années avec la sortie et l’amélioration rapides des chatbots génératifs d’IA comme ChatGPT.

2. Jouons-nous au Monopoly ?

Ce n’est un secret pour personne que les plus grands géants de la technologie du pays ont consolidé leur pouvoir jusqu’à un statut de quasi-monopole, et de nombreuses nouvelles recherches et développements en matière d’intelligence artificielle filtrent à travers ces entreprises, explique Shestakofsky. Qu’il s’agisse du partenariat de Microsoft avec OpenAI, le créateur de ChatGPT, ou de petites start-ups d’IA utilisant les serveurs d’Amazon, une grande partie de l’IA passe par ces sociétés géantes.

Mais les grandes entreprises technologiques ne sont pas non plus la fin de l’IA, ajoute-t-il. Shestakofsky affirme que l’innovation en matière d’IA est souvent portée par de nouvelles entreprises plus petites, dont beaucoup créent des applications conçues pour fonctionner sur les plates-formes populaires des géants de la technologie, comme iOS et Android. De cette manière, il estime qu’il est important de comprendre comment le développement de l’IA est un va-et-vient entre les titans de l’industrie et les start-ups décousues, qui comptent toutes deux les unes sur les autres pour prospérer.

3. Fondateurs contre adeptes

Chaque fois qu’une nouvelle technologie est développée, des industries entières s’y adaptent. Prenons l’exemple de Netflix que Shestakofsky et Narayan incluent dans le document ; Lorsque Netflix a révolutionné les médias en introduisant le streaming, ses rivaux ont dû emboîter le pas, et désormais presque toutes les sociétés de médias, de HBO à Disney, disposent de leur propre plateforme de streaming.

Même si la prolifération de l’IA n’en est qu’à ses débuts, Shestakofsky affirme qu’il est probable que le développement de l’IA poussera de nombreuses industries à adopter de nouvelles pratiques. Il en souligne un qui se produit déjà en Inde : les entreprises qui se spécialisaient auparavant dans la maintenance des systèmes informatiques internes de leurs clients doivent s’adapter à mesure que le cloud computing et les plates-formes numériques deviennent la nouvelle norme, conduisant à un « dégroupage » de l’infrastructure technologique.

4. Tout n’est pas glamour

Penser à l’industrie de l’IA évoque souvent des bureaux luxueux dans la Silicon Valley, des avantages professionnels tels que des repas gratuits et des cours d’exercice, et des salaires exorbitants. Mais cette image exclut les travailleurs mal payés qui rendent l’IA possible.

Ces travailleurs, souvent situés dans des pays comme l’Inde et les Philippines, notent les chercheurs, sont chargés de tâches telles que l’étiquetage des données, le test et l’évaluation des modèles et la sélection des contenus préjudiciables. « Le développement de l’IA ne se fera pas sans ces armées de travailleurs de bas statut qui sont hors de vue et hors de l’esprit des consommateurs qui utilisent ces systèmes », explique Shestakofsky.

Beaucoup de ces travailleurs sont désormais responsables d’une tâche appelée red teaming, dans laquelle ils incitent les systèmes d’IA générative à créer du contenu nuisible ou offensant afin d’identifier et de corriger les failles de leurs systèmes de modération. Cela signifie que ces travailleurs peuvent être exposés à des images et à des contenus dérangeants, violents ou inappropriés. « Il s’agit d’une autre frontière émergente dont nous ne comprenons pas encore pleinement les conséquences sur la santé et le bien-être des travailleurs », dit-il.

Il y a encore beaucoup à apprendre sur l’IA, mais les chercheurs espèrent que ces lentilles pourront aider à démystifier la nouvelle technologie et à la situer dans le contexte plus large des systèmes sociaux, culturels et économiques existants.

« En tant que sociologue, le but du jeu est toujours de comprendre ce que vous étudiez par rapport aux structures sociales plus larges », explique Shestakofsky. « Il peut donc y avoir de nombreuses incitations à » agir vite et à casser les choses « , mais je pense que les organisations peuvent bénéficier d’une attention particulière à certains des effets de second ordre associés à l’introduction de nouvelles technologies. «