Microsoft a licencié son équipe d’éthique de l’intelligence artificielle. c’est mauvais signe
Comme indiqué dans Platformer, Microsoft a décidé de licencier l’équipe « éthique et société » de sa division intelligence artificielle. Cette mesure s’inscrit dans le cadre de l’annonce récente de licenciements massifs qui toucheront 10 000 salariés dans toute l’entreprise, mais dans ce cas la signification est particulière.
Une petite mais importante équipe. Cette équipe était petite et ne comptait que sept personnes après une réorganisation intervenue en octobre. Ils ont atteint 30 personnes en 2020. Malgré les coupes, ils étaient chargés de faire quelque chose d’important, puisque comme l’a commenté un ancien employé de la division, « notre travail était de créer des règles dans des domaines où il n’en existait pas ».
Sortir les choses le plus tôt possible est plus important. Lors de cette réorganisation il y a quelques mois, John Montgomery, vice-président corporatif de la division IA, expliquait aux employés que l’objectif était d’agir rapidement. Dans un enregistrement de la réunion, ce manager a expliqué à ses employés comment « la pression de Kevin [Scott, Director Técnico] et Satya [Nadella, Consejero Delegado] C’est très fort de mettre les derniers modèles OpenAI et ceux qui les suivront entre les mains des clients à grande vitesse. »
innovation responsable. L’éthique est la clé de l’innovation dans une discipline aussi prometteuse mais complexe que l’intelligence artificielle. Un employé a tenté de s’opposer, notant que son équipe était « profondément préoccupée » par la façon dont l’IA pourrait affecter la société « et les impacts négatifs que nous avons eus. Et ils sont importants ». Montgomery a expliqué qu’il ne pouvait rien y faire car « les pressions sont toujours les mêmes ».
Un exemple. L’année dernière, cette équipe d’éthique a publié une note dans laquelle elle donnait son avis sur les risques encourus par Bing Image Creator, qui utilise DALL-E pour générer des images à partir d’invites de texte. Ils ont correctement prédit comment ce service menaçait les revenus des artistes en permettant à quiconque de copier leurs styles. Cela constituait également une menace pour Microsoft, ont-ils expliqué. Des plateformes comme Stable Diffusion ont été poursuivies par Getty Images, par exemple, ce qui montre le problème auquel Redmond est effectivement confronté avec ce type d’initiatives.
la menace est là. Le développement éthique de technologies comme l’intelligence artificielle est crucial maintenant que le domaine gagne en popularité, et beaucoup ont mis en garde contre le fait de ne pas comprendre comment fonctionnent réellement les moteurs comme ChatGPT (« comment ils pensent ») lors de la génération des textes qu’ils génèrent. Noham Chomsky, l’un des penseurs contemporains les plus importants, a écrit il y a quelques jours une colonne sur la « fausse promesse » de ChatGPT et a critiqué son succès, tandis que l’écrivain Gary Marcus nous a parlé comment ces outils peuvent finir par causer des quantités infinies de désinformation.
Microsoft est pressé. La société de Redmond, qui n’a pas grand-chose à perdre dans le domaine de la recherche, a été particulièrement hâtive dans son lancement de Bing avec ChatGPT, bien qu’elle ait fini par limiter son fonctionnement pour éviter les problèmes. Google se montre beaucoup plus prudent, selon eux, pour éviter de nuire à sa réputation. Il y a d’autres raisons, bien sûr.
tout n’est pas perdu. Malgré ces licenciements, chez Microsoft, ils maintiennent le soi-disant « Responsible AI Office » qui se consacre précisément à la création de règles et de directives qui régissent les initiatives d’intelligence artificielle dans lesquelles l’entreprise s’embarque. Les responsables de l’entreprise ont tenu à souligner dans un communiqué qu’ils souhaitaient « développer des produits et des expériences d’IA de manière sûre et responsable ».
Image: Tony Webster
À Simseo | Guide pratique pour écrire les meilleures « invites » dans Midjourney et créer des images étonnantes
