Alors que l'intelligence artificielle transforme le jeu, les chercheurs exhortent l'industrie à adopter des pratiques responsables en matière d'IA

Malgré les récentes difficultés économiques, l’industrie du jeu vidéo continue d’être l’une des activités les plus rentables du divertissement.

Et ce n'est pas un accident ; les studios de jeux dépensent des centaines de millions de dollars pour rendre leurs jeux plus grands et plus immersifs afin d'attirer à la fois les nouveaux joueurs et les joueurs de longue date.

Les graphiques se rapprochent du territoire étrange de la vallée et des entreprises comme Meta et Sony continuent de brouiller les frontières entre les mondes physique et numérique avec leurs casques de réalité mixte et d'autres technologies de détection.

L'intelligence artificielle, quant à elle, a été saluée comme la prochaine grande avancée technologique, et les créateurs de jeux vidéo l'utilisent pour une myriade de processus, notamment la programmation de personnages non jouables, la création de niveaux générés de manière procédurale, la modération des journaux de discussion de jeu et la personnalisation des jeux vidéo. -expériences de jeu.

Certes, l’industrie est à la pointe du progrès, mais un aspect souvent négligé concerne les défis éthiques auxquels les développeurs doivent faire face lorsqu’ils utilisent ces technologies pour créer leurs jeux.

Il y a des discussions importantes à avoir sur la confidentialité des données, les algorithmes biaisés et les boucles de jeu alléchantes rendues plus addictives avec l'aide de l'IA.

Alors que l’IA continue de jouer un rôle plus important dans le développement de jeux, comment les créateurs de jeux devraient-ils l’utiliser de manière plus responsable ?

Des chercheurs de la Northeastern University abordent cette question de front dans un article récemment publié dans Jeux : recherche et pratiquesuggérant que les outils et cadres en cours de développement pour le domaine émergent de l’IA responsable devraient être adoptés par l’industrie du jeu.

« Il est évident que l'industrie du jeu évolue vers un niveau de risque différent avec l'IA, mais l'aspect éthique est à la traîne », déclare Cansu Canca, directeur des pratiques responsables de l'IA à l'Institute for Experiential AI et l'un des auteurs de la recherche. .

« Les concepteurs de jeux craignent que, sans conseils éthiques appropriés, ils ne sachent pas non plus comment aborder ces questions éthiques complexes et nouvelles », ajoute-t-elle.

Parmi les autres auteurs de l'article figurent les chercheuses du Nord-Est Annika Marie Schoene et Laura Haaber Ihle.

Bien que l'IA soit utilisée de différentes manières dans le développement de jeux, les auteurs ciblent quelques problèmes spécifiques, notamment la manière dont les développeurs de jeux utilisent l'IA pour développer des mécanismes de jeu, la manière dont l'IA générative peut être utilisée dans la création d'images et d'autres activités créatives, et comment les entreprises collectent et utilisent les données des utilisateurs.

Les studios de jeux peuvent souvent être des opérations massives avec plusieurs départements couvrant des dizaines d'équipes et de travailleurs individuels. Selon les chercheurs, plus ces entreprises sont grandes, plus il y a de risques de cloisonnement et de rupture de communication.

Un cadre éthique de l’IA efficace est donc conçu dès sa création pour être intégré à chaque partie du système hiérarchique de l’entreprise. En pratique, un cadre éthique complet de l’IA peut aider toutes les parties – des concepteurs et programmeurs aux rédacteurs d’histoires et spécialistes du marketing – à prendre de meilleures décisions concernant des cas d’utilisation spécifiques de l’IA et devrait être basé « sur des théories fondamentales de philosophie morale et politique », affirment les chercheurs.

« Dans un certain sens, le cadre plus large de l'IA responsable ne change pas nécessairement lorsqu'il est appliqué aux jeux », explique Canca.

Par exemple, un outil d’évaluation des risques peut aider les développeurs de jeux à peser le pour et le contre de certains cas d’utilisation avant leur mise en œuvre, écrivent les chercheurs. Une évaluation complète des risques décrit les forces et les faiblesses de l’utilisation et de la technologie proposées ainsi que les résultats positifs et négatifs potentiels.

« L'utilisation d'un outil d'évaluation des risques et des impacts éthiques de l'IA pourrait permettre aux concepteurs et aux développeurs de jeux d'évaluer à la fois le jeu et les systèmes d'IA intégrés pour leur impact sur l'autonomie et l'action individuelles, leurs risques de préjudice et leurs avantages potentiels, ainsi que la répartition des charges et des avantages. au sein du public cible ainsi que dans la société en général », écrivent-ils.

Les chercheurs soulignent qu’il ne s’agit là que d’un outil dont les développeurs peuvent profiter dans un cadre plus large pour faciliter ce processus. D'autres outils qui devraient faire partie de ce cadre d'IA incluent les tests de biais et l'analyse des erreurs de certaines technologies d'IA.

Une autre considération importante dans le développement de l’IA est la manière dont les entreprises utilisent les données pour former leurs modèles et augmenter leurs résultats.

Les chercheurs suggèrent que l’utilisation d’étiquettes de notation similaires au système actuel de l’Entertainment Software Rating Board utilisé aux États-Unis est loin de communiquer aux joueurs les risques associés aux données et à l’éthique de l’IA.

Au lieu de cela, des approches similaires aux cartes modèles, à l'IA et aux étiquettes de données développées dans le domaine responsable de l'IA apporteraient plus de transparence au processus, expliquent les chercheurs, et incluraient des informations détaillées, notamment sur la manière dont les développeurs ont utilisé l'IA dans la création du jeu et comment les données spécifiques d'un utilisateur sont collectées et utilisées dans le jeu.

« Les données sont incroyablement précieuses, et ce type d'informations ne peut pas être utilisé uniquement pour recycler un modèle », explique Schoene.

« J'aimerais savoir ce qui arrive à mes données. J'aimerais savoir comment mon style de jeu informe et influence tout type d'agents dans le jeu », ajoute-t-elle.

Mais Schoene souligne qu’utilisée à bon escient, l’IA pourrait en réalité contribuer à développer l’industrie et à attirer de nouveaux acteurs.

« Oui, il y a tous ces compromis à faire », dit-elle. « Il y a des dangers, mais il y a aussi des points positifs. L'IA pourrait être utilisée pour rendre les jeux plus accessibles à des personnes ayant des capacités différentes si elle est bien faite. »