Il y a une fièvre de Chatgpt parmi les fonctionnaires. Ce que nous ne savons pas, c'est comment cela nous affectera en tant qu'utilisateurs
Dans la ville de Bétera (Valence), ils ont transformé le chatpt en un autre employé. Cela a été compté dans le pays Marcos Gallart, secrétaire adjoint de la zone d'urbanisme de ladite ville. Selon lui, l'IA économise « 20% du temps dans la rédaction de rapports ». Le chatbot Openai, comme ses concurrents, lui permet, bien sûr, gagner de temps à temps, mais il y a un problème avec cette adoption. Ou plusieurs.
Faites attention à gagner du temps. Bien que Chatgpt puisse bien sûr aider à effectuer toutes sortes de tâches administratives, Gallart lui-même a expliqué comment la formation, l'accompagnement est nécessaire et jusqu'où ce type d'outils peut être utilisé. Et il y a le problème, car la dimension et la complexité de l'administration publique font de ce type de processus d'adaptation et d'utilisation de nouvelles technologies supposent un défi colossal.
Il n'y a pas de normes. Malgré l'obsession réglementaire de l'UE et de l'Espagne dans le domaine de l'IA, il n'y a pas de réglementation claire qui guide les fonctionnaires sur la façon d'utiliser l'IA et comment gérer les données qui en sont gérées. Ici, les enseignants, le personnel de santé ou les juges sont inclus qui font partie d'un énorme groupe (1,6 million de travailleurs) qui peuvent bien sûr utiliser ces outils, mais très soigneusement.
Pour dire à la police. Ces derniers mois, nous avons prouvé comment l'utilisation aveugle de l'IA et la confiance dans ces systèmes peuvent être une véritable catastrophe. La police nationale, par exemple, avait utilisé l'IA depuis six ans pour détecter de fausses plaintes, mais la véritable fiabilité du système était très discutable. Dans le récent cas «Ábalos», une IA a été utilisée pour transcrire les déclarations des témoins et accusée dans les interrogatoires, mais il y avait des paragraphes qui étaient des gallimatismes. Encore plus grave était ce qui s'est passé avec le système IA VIOGÉN, qui était théoriquement destiné à résoudre les cas de violence de genre et a fini par provoquer des tragédies mortelles.
L'Espagne veut l'administration. Pendant ce temps, le ministère de l'Expression publique a annoncé de nos jours son intention d'incorporer l'IA à l'administration publique. Pour ce faire, il a levé une « plate-forme souverain de l'IA » avec un investissement de 14 millions d'euros. Sa mission, entre autres: accélérer les procédures de l'administration pour provoquer celle selon le ministre Óscar López sera « la plus grande révolution de l'administration générale d'Internet ».
Un cauchemar pour la confidentialité (et la sécurité). Quelqu'un a demandé à Chatgpt sur les problèmes personnels est déjà délicat pour la réponse – qui peut ne pas être exact ou même correct – et pour le fait que le chatbot conserve ces données. Le fait est particulièrement sérieux si un fonctionnaire présente des documents de toutes sortes dans ce chat ou d'autres pour les résumer ou les analyser: si ces documents contiennent des données sensibles ou privées, ils sont sous le contrôle de ces chatbots, qui peuvent en fait les filtrer par erreur à d'autres utilisateurs.
Citoyens, victimes possibles. Cela fait de l'IA de devenir une arme à double rangée pour les administrations publiques et les citoyens. D'une part, ils peuvent aider à accélérer les efforts et même résoudre les problèmes beaucoup plus efficacement. De l'autre, une utilisation incorrecte de Chatgpt et de ses alternatives peuvent faire une fin de données privées et personnelles là où elles ne devraient pas, ou même quelque chose de pire: que le résultat d'une gestion est erroné parce qu'un fonctionnaire l'a utilisé et a considéré qu'il était correct sans une supervision adéquate.
Zéro-rétention de données. En ce sens, il existe de nombreux services qui offrent des données sans rétention de données. (ZDR, Zero Data Retention) Il s'agit: les données que vous entrez ne seront pas stockées sur les serveurs du fournisseur. Openai l'a dans son service d'entreprise ChatGPT, une version commerciale avec précision pour que les professionnels puissent utiliser la capacité de Chatgpt sans crainte de fuites de données. Microsoft est un autre exemple.
L'administration publique est plus « publiée ». En mars, le projet de loi a été approuvé pour l'utilisation éthique, inclusive et bénéfique de l'IA. Ce document était une adaptation à notre législation du règlement européen de l'intelligence artificielle approuvée en mars 2024, mais nous avons trouvé une contradiction. Il a été critiqué que la loi de l'IA était trop restrictive – l'UE a dû revenir en arrière – mais le plus drôle est que ce n'était pas avec l'administration publique: là, le règlement est chaleureux, ne spécifie pas de mauvaises utilisations claires et ne considère que des infractions mineures à celles référées au déploiement et à l'utilisation des systèmes (articles 25, 26 et 27).
Image | Pioche
Dans Simseo | L'obsession réglementaire de l'UE soulève un monde dans lequel l'IA aura deux vitesses. Et l'Europe perdra
