Les lois sur la liberté d’information sont essentielles pour dénoncer les actes répréhensibles de l’IA. Le système actuel n’est pas à la hauteur

Il y a eu de nombreuses discussions sur la façon dont l’intelligence artificielle (IA) affectera tous les pans de notre société, des devoirs scolaires à l’industrie musicale.

Mais alors que les décideurs politiques continuent de débattre de la meilleure manière de réglementer l’IA, une question a retenu peu d’attention : dans quelle mesure nos lois sur la liberté d’information sont-elles prêtes à faire face aux nouvelles technologies ?

Les lois sur la liberté d’information sont importantes car elles contribuent à maintenir les gouvernements responsables et transparents. Sans eux, les principaux actes répréhensibles peuvent rester secrets.

Alors que la technologie continue d’évoluer rapidement, il est temps de repenser fondamentalement le régime australien de liberté d’information afin de l’adapter à ses objectifs pour 2024 et au-delà.

Les lois sur la transparence sont essentielles aux problèmes d’automatisation

Vous vous demandez peut-être ce que les lois sur la liberté d’information (FOI) ont à voir avec l’IA et l’automatisation. Le récent scandale Horizon au Royaume-Uni est un bon exemple de la façon dont les deux travaillent ensemble.

Ce scandale s’est produit lorsqu’un système comptable informatique appelé Horizon a identifié à tort les déficits financiers des bureaux de poste du Royaume-Uni. Les autorités postales du Royaume-Uni ont poursuivi 700 maîtres de poste à la suite des conclusions du système. Certains sont allés en prison pour fraude et vol, et beaucoup d’autres ont été ruinés financièrement.

Cela a été décrit comme « peut-être la plus grande erreur judiciaire de l’histoire du Royaume-Uni ».

Il est important de noter que les militants britanniques ont largement utilisé la FOI pour obtenir des informations sur le système. Par exemple, une demande d’un leader de la campagne a conduit à la divulgation d’un document de la Poste qui utilisait des termes offensants et racistes pour catégoriser les sous-maîtres de poste faisant l’objet d’une enquête.

Une autre demande de FOI a révélé que les autorités gouvernementales avaient été informées d’éventuels problèmes avec le système en mai 2013.

Cette débâcle devrait rappeler à l’Australie les implications de l’utilisation de l’IA et de l’automatisation dans les systèmes gouvernementaux.

Cela devrait également nous amener à nous demander si nos lois sont adaptées pour relever les défis particuliers de la technologie, d’autant plus que les lois australiennes sur la transparence sont plus restrictives que celles du Royaume-Uni. Il n’existe pas d’exemption absolue pour les documents du Cabinet au Royaume-Uni.

Une réforme désespérément nécessaire

La réglementation de l’IA en Australie a récemment fait l’actualité en raison de la publication de la réponse provisoire du gouvernement à la consultation responsable sur l’IA.

Bien qu’il s’agisse d’une initiative importante, relativement peu d’attention a été accordée à la nécessité de mettre à jour certains de nos principaux mécanismes de transparence.

Par exemple, le gouvernement a refusé de mettre en œuvre une recommandation importante du rapport de 2023 de la Commission royale Robodebt. Celui-ci recommandait que l’exemption du Cabinet (la disposition qui permet aux documents du Cabinet d’être exemptés de divulgation) dans la Loi sur la liberté d’information soit abrogée.

Bien qu’il ait déclaré qu’il « accepte ou accepte en principe les 56 recommandations » du rapport, le gouvernement n’a pas formellement accepté la recommandation sur la liberté d’information. Dans sa réponse, il a déclaré que cela était dû à la nécessité de protéger la confidentialité du Cabinet, la responsabilité collective et la fourniture de « conseils francs et intrépides de la part des ministres et des hauts fonctionnaires ».

Le rapport de la commission royale a également noté que les personnes concernées et les groupes de défense ont rencontré d’importantes difficultés pour obtenir des informations sur le fonctionnement du système Robodebt, notamment via la loi sur la liberté d’information. Ces résultats sont significatifs car la surclassification des informations gouvernementales est l’une des raisons pour lesquelles Robodebt a pu se poursuivre en toute impunité pendant si longtemps.

Que doit-il se passer maintenant ?

Le recours croissant à l’automatisation et à l’IA au sein du gouvernement nécessite une plus grande ouverture envers le public. Pour atteindre un équilibre entre la transparence et la confidentialité du Cabinet, notre document recommande les changements suivants :

• l’exemption du cabinet doit être complétée par un test d’intérêt public prévu par la loi et un appel auprès du commissaire à l’information, comme au Royaume-Uni
• restreindre la portée des documents couverts par la confidentialité du Cabinet
• réduction du délai de divulgation de 30 ans à dix ans, conformément à plusieurs États australiens.

Mais nous réclamons également une révision et une modernisation beaucoup plus vastes de la loi sur la liberté d’information.

Les lois ont été adoptées en 1982, alors que les documents papier étaient la norme et que les processus gouvernementaux en ligne en étaient à leurs balbutiements. Bien qu’il ait fait l’objet de quelques modifications mineures depuis lors, il n’a pas encore fait l’objet d’une refonte majeure pour tenir compte des énormes progrès technologiques qui ont eu lieu.

Comme nous et d’autres l’avons déjà soutenu dans un document de 2020 sur la technologie et le droit, les réformes futures devraient inclure l’élargissement de la portée de la loi pour permettre une plus grande ouverture et réduire les exemptions pour les secrets commerciaux (pour permettre la divulgation des informations commerciales utilisées à des fins automatisées). les technologies). Nous avons également suggéré que les agences gouvernementales soient obligées d’être plus proactives dans la divulgation des détails des technologies automatisées qu’elles ont utilisées. Cela contribuera à rendre notre régime de liberté d’information adapté à ses objectifs, en 2024 et au-delà.