Les fonctionnaires seniors pensent que Genai augmentera la productivité, mais s'inquiète des risques

De nombreuses affirmations audacieuses ont été faites sur l'intelligence artificielle générative (Genai) et sa capacité à améliorer la productivité et à générer des gains d'efficacité au travail.

Une récente enquête Microsoft a révélé que 24% des dirigeants du secteur privé ont déjà déployé Genai dans leurs organisations. Beaucoup envisagent de licencier du personnel et de les remplacer par des systèmes Genai.

Mais combien d'appétit le secteur public a-t-il pour utiliser l'intelligence artificielle, qui ne vient pas sans risques?

Notre nouvelle recherche explore les attitudes de la bureaucratie australienne à l'utilisation du Genai dans le travail politique. Étant donné que les gouvernements devraient travailler de manière éthique, transparente et responsable, nous nous sommes demandé si les fonctionnaires se méfient davantage d'adopter cette technologie.

Pas de vue unique

Nous avons interrogé des bureaucrates supérieurs de 22 agences du gouvernement de l'État, du territoire et du gouvernement fédéral sur leurs opinions sur Genai. Nous nous sommes concentrés sur ce que cela pourrait signifier pour l'avenir de la prise de décision, du développement des politiques et des services publics.

Ils ont exprimé une gamme de vues sur le potentiel transformateur du Genai. Certains étaient des passionnés qui ont vu le potentiel de mener un travail du gouvernement plus rapidement et plus fiable.

Une personne interrogée a fait remarquer: « Pourquoi améliorer la bougie alors que vous pourriez utiliser une ampoule? »

D'autres étaient moins enthousiastes, faisant valoir que la technologie est sur-typée. Surtout, ils considèrent Genai comme fondamentalement inapproprié pour une utilisation dans le travail des politiques publiques et intrinsèquement risqués sur plusieurs fronts. Ceux-ci incluent:

• La tendance de l'IA à halluciner, où les outils voient des modèles dans des données qui n'existent pas dans la réalité, ce qui rend les sorties inexactes ou erronées
• Le risque de biais dans les ensembles de données existants, tels que la sous-représentation de certains groupes ou personnes
• La nature sensible des données gouvernementales qui pourraient être compromises par les programmes d'IA.

Indépendamment de leurs opinions spécifiques sur le Genai, les fonctionnaires nous ont toujours dit deux choses.

Premièrement, ils ne croient pas que l'intelligence artificielle remplacera les travailleurs. Au lieu de cela, ils sont convaincus que ces outils augmenteront leur travail en les libérant des tâches de routine et répétitives. Cela leur permettrait de se concentrer sur des tâches de grande valeur, comme s'engager avec le public.

Deuxièmement, l'utilisation actuelle du Genai est largement axée sur les tâches d'administration qui ne s'appuient pas sur les données sensibles des clients ou n'interagissent directement avec le public.

Gueule de bois robodebt

L'une des conséquences du schéma Robodebt est le rythme et l'échelle de l'adoption d'outils automatisés.

De nombreuses personnes interrogées ont expliqué que les organisations du secteur public étaient encore très prudentes à utiliser la technologie Genai à la suite du scandale.

Une personne interrogée nous a dit que la majorité des problèmes de Robodebt étaient au niveau humain, ce qui met en évidence l'importance des individus « à prendre leurs fonctions, à la fois professionnellement et éthiquement, sérieusement et interrogeant ce qu'ils obtiennent des systèmes d'IA ».

Une attention particulière est également accordée à l'influence de la prise de décision humaine dans le développement de machines qui utilisent le Genai.

Changement incrémentiel

Nos recherches suggèrent que les agences de la fonction publique adoptent en grande partie une approche prudente et mesurée pour appliquer le Genai dans le travail politique. Les hauts fonctionnaires perçoivent que le public se méfie de la façon dont les gouvernements utilisent ces outils. La reconstruction de la crédibilité en matière de surveillance et de mise en œuvre de la technologie est impérative.

Les fonctionnaires ont décrit la majeure partie de leur utilisation du Genai comme expériences délibérées. Des résultats clairs sont fixés pour l'utilisation de ces outils et les processus d'évaluation sont en place pour surveiller s'ils les atteignent.

Ceci est considéré comme important parce que les organisations du secteur public doivent savoir si ces outils font ce qu'ils promettent – un rapport qualité-prix pour de l'argent et aider à se prémunir contre les risques imprévus.

Utilisation non autorisée

Certains scandales récents montrent comment les outils Genai peuvent être risqués lorsqu'ils sont mal utilisés. En réponse, certaines agences de service public ont interdit les modèles Genai disponibles gratuitement tels que Chatgpt et ne permettent qu'accès à des programmes officiellement autorisés tels que Copilot.

Mais cela ne signifie pas que les fonctionnaires n'utilisent pas la technologie.

Plusieurs personnes interrogées nous ont dit qu'elles étaient au courant des collègues utilisant des programmes non autorisés pour améliorer leur productivité. Les appareils personnels sont souvent engagés pour contourner les restrictions du système. Les préoccupations ont été exprimées que les fonctionnaires pourraient ne pas recevoir de conseils sur la façon d'utiliser ces outils avec soin et en toute sécurité.

Nouvelle réalité

La technologie Genai est invitée à effectuer des tâches qui nécessitent une intelligence humaine et à effectuer ces tâches plus rapidement. Cependant, nos résultats soulignent un fort besoin d'aligner ces outils sur les valeurs du gouvernement australien qui encadrent les attentes pour l'utilisation responsable du Genai.

La fonction publique est confrontée à un dilemme. Est-ce une opportunité d'innovation dans le travail de politique gouvernementale en expliquant l'impact transformateur potentiel des programmes Genai, comme promis dans d'autres secteurs? Ou, une approche plus prudente est-elle nécessaire pour générer la confiance, tant dans la technologie et dans les organisations du secteur public pour les utiliser de manière appropriée?

Les travaux récents d'Elon Musk dans l'administration Trump peuvent suggérer ce dernier. L'expérience a mis en évidence les conséquences importantes de l'influence de l'industrie technologique et l'utilisation d'outils d'IA dans le cadre de la maximisation de l'efficacité du gouvernement.

Le public australien a des attentes élevées en matière de gouvernement pour résoudre des problèmes tels que la crise du logement et les pressions du coût de la vie. Une combinaison de machines et d'intelligence humaine peut offrir le pouvoir nécessaire pour s'attaquer à ces problèmes économiques et sociaux complexes. Cependant, toutes les agences n'ont pas encore décidé de retourner l'interrupteur.

Notre recherche met en évidence le mélange de vues parmi les fonctionnaires supérieurs envers le Genai. Qu'il transforme la fonction publique ou accélère simplement les affaires comme d'habitude ne dépendra pas de la technologie elle-même, mais de la façon dont les gouvernements hardiment, soigneusement et transparents choisissent de l'utiliser.