Nouvelle déclaration commune sur les principes pour des systèmes algorithmiques responsables

Le Technology Policy Council (TPC) mondial de l’Association for Computing Machinery a publié une nouvelle déclaration sur les principes pour des systèmes algorithmiques responsables rédigée conjointement par ses comités de politique technologique américain (USTPC) et européen (Europe TPC). Reconnaissant que les gouvernements et les entreprises utilisent de plus en plus les systèmes algorithmiques pour prendre ou recommander des décisions qui ont des effets considérables sur les individus, les organisations et la société, la déclaration ACM énonce neuf principes instrumentaux destinés à favoriser une prise de décision algorithmique équitable, précise et bénéfique. .

La déclaration comprend une définition pour chaque principe ainsi qu’une brève explication de la façon dont le principe contribue à l’objectif plus large de construire des systèmes algorithmiques responsables. Les neuf principes instrumentaux comprennent : la légitimité et la compétence ; Minimiser les dommages ; Sécurité et confidentialité ; Transparence; interprétabilité et explicabilité ; maintenabilité ; contestabilité et vérifiabilité ; imputabilité et responsabilité ; et Limitation des impacts environnementaux. La nouvelle déclaration complète la Code de déontologie de l’ACM et est conçu comme un guide pour les développeurs et les concepteurs d’algorithmes afin qu’ils restent vigilants concernant le potentiel de biais et d’injustice à chaque étape du processus de développement logiciel.

« Nous nous appuyons sur notre 2017 Déclaration sur la transparence algorithmique et la responsabilité avec des principes qui poussent les concepteurs et les développeurs à produire des preuves suffisantes de la légitimité et de la fiabilité des systèmes automatisés, afin que les utilisateurs n’aient pas besoin de leur accorder une confiance aveugle », a expliqué Jeanna Matthews, professeur à l’Université Clarkson et co-auteure principale de l’ouvrage nouvelle déclaration « Les processus de collecte et de partage de ces informations critiques de manière transparente tout au long du cycle de vie d’un système sont essentiels au déploiement responsable de systèmes algorithmiques en collaboration avec toutes les parties prenantes concernées par un système. »

« Cette déclaration améliore la première à plusieurs égards », a ajouté Ricardo Baeza-Yates, professeur à l’Universitat Pompeu Fabra et co-auteur principal de la nouvelle déclaration. « Nous incluons deux nouveaux principes instrumentaux clés : la légitimité et la compétence. Ceux-ci définissent la validité d’un système algorithmique ainsi que la durabilité qui inquiète pour notre avenir sur Terre. Nous discutons également des aspects de gouvernance, y compris la manière de mettre ces principes en pratique en donnant un nombre d’exemples de compromis à considérer. »

En plus des neuf principes instrumentaux, l’ACM Technology Policy Council reconnaît que, malgré la mise en place d’un cadre pour décourager les biais dans les algorithmes, plusieurs facteurs pourraient produire des systèmes injustes. Pour ces raisons, la déclaration sur les principes pour des systèmes algorithmiques responsables comprend quatre recommandations qui tiennent compte de la manière dont les données sont traitées et dont un système est déployé.

• Les constructeurs de systèmes et les opérateurs doivent adhérer aux mêmes normes dans la sélection des intrants ou des systèmes d’architecture auxquels les humains sont tenus lorsqu’ils prennent des décisions équivalentes
• Les développeurs de systèmes d’IA doivent entreprendre des évaluations d’impact approfondies avant le déploiement de systèmes d’IA
• Les décideurs politiques devraient exiger que les pistes d’audit soient utilisées pour atteindre des normes plus élevées d’exactitude, de transparence et d’équité
• Les opérateurs de systèmes d’IA devraient être tenus responsables de leurs décisions, que des outils algorithmiques soient utilisés ou non.

Les membres de l’ACM Technology Policy Council reconnaissent également qu’une approche « taille unique » pour parvenir à des systèmes algorithmiques responsables serait inefficace et que le contexte joue un rôle important dans les décisions de chaque développeur. Les membres de l’ACM TPC espèrent que la Déclaration sur les principes pour des systèmes algorithmiques responsables suscitera des discussions entre toutes les parties prenantes, initiera davantage de recherches et aidera les dirigeants à développer des méthodes de gouvernance pour apporter des avantages à un large éventail d’utilisateurs tout en promouvant la fiabilité, la sécurité et la responsabilité des systèmes algorithmiques. systèmes.

Fourni par Association for Computing Machinery