Les experts remettent en question le ministre généré par l'AI-AI
La semaine dernière, l'Albanie a annoncé qu'un ministre généré par l'AI-prendrait en charge un nouveau portefeuille d'offres publiques.
« Siella » est présenté comme le premier ministre virtuel du monde, et le Premier ministre albanais Edi Rama a promis que la nomination met fin à la corruption rampante dans les contrats gouvernementaux – un obstacle majeur à l'adhésion de la nation balkanique à l'Union européenne.
Mais de sérieuses questions techniques, politiques et éthiques ont été soulevées sur le législateur virtuel.
Vraiment incorruptible?
En annonçant la nomination de Diella, Rama a affirmé que les offres publiques seraient désormais « 100% exemptes de corruption ».
« Sciella ne dort jamais, elle n'a pas besoin d'être payée, elle n'a aucun intérêt personnel, elle n'a pas de cousins, car les cousins sont un gros problème en Albanie », selon le Premier ministre, dont le pays se classe 80e sur 180 dans l'indice de corruption de Transparency International.
Les politiciens albanais sont souvent impliqués dans les scandales de corruption liés aux fonds publics.
L'ancien maire de la capitale Tirana a été détenu pendant ses fonctions et reste en détention, soupçonné de corruption dans le cadre de l'attribution des contrats gouvernementaux.
Le chef de l'opposition et ancien Premier ministre Sali Berisha est également soupçonné d'avoir accordé des contrats publics à ses associés.
Siella est-elle la solution?
Pas vraiment, selon les experts.
« Comme tout système d'IA, elle dépend entièrement de la qualité et de la cohérence des données et de la fiabilité des modèles derrière elle », a déclaré Erjon Curraj, un expert en transformation numérique et en cybersécurité.
Le fonctionnement exact de Siella reste inconnu, mais il s'appuie probablement sur des modèles de grande langue (LLM) pour répondre aux requêtes – similaire aux grandes quantités de texte qui alimentent les chatbots génératifs tels que le chatgpt ou les gemini.
Mais si les données d'entrée sont incomplètes, biaisées ou obsolètes, les décisions de l'IA refléteront ces défauts, et il « pourrait mal interpréter les documents, signaler à tort un fournisseur ou manquer des signes de collusion », a déclaré Curraj.
« Les LLM reflètent la société; ils ont des biais. Il n'y a aucune raison de croire que cela résout le problème de la corruption », a déclaré Jean Ganascia, informaticien et spécialiste de l'intelligence artificielle.
« En supposant qu'une machine n'a aucun biais implique que nous devons nous soumettre à la machine », a déclaré Ganascia.
Qui a le contrôle?
L'opposition albanaise a fait appel devant la Cour constitutionnelle pour les préoccupations concernant qui serait responsable des décisions de l'IA.
« Qui contrôlera Siella? » Berisha a demandé au Parlement.
Ganascia convient que les questions de responsabilité et de contrôle sont essentielles en ce qui concerne l'IA.
« Si la prise de décision publique est confiée à une machine, cela signifie qu'il n'y a plus de responsabilité; nous sommes réduits à l'état des esclaves. »
« Ce qui m'inquiète, c'est l'idée d'une machine régissant, offrant la« bonne »réponse et prévenir toute délibération», a déclaré le chercheur, qui est également philosophe.
« Un politicien assume la responsabilité, mais ici, l'idée est que la machine est parfaite, et nous ne pouvons pas aller à l'encontre de ses décisions de toute façon. »
Semblant à répondre à ces préoccupations, un décret publié jeudi indique que Rama « est également responsable de la création et du fonctionnement du ministère virtuel de la Siella de l'intelligence artificielle ».
Ancienne corruption, nouveau logiciel
La nomination a fait la une des journaux du monde entier, ce que le Premier ministre excelle sur le fait que, en assistant à des réunions internationales dans des baskets, en annonçant une interdiction de Tiktok, en créant un État de Bektashi sur le modèle du Vatican, ou en ouvrant des camps de migrants pour héberger des personnes interceptées en mer par le gouvernement italien.
Mais atteindre ses objectifs est un problème différent.
Tiktok reste facilement accessible en Albanie, seulement quelques dizaines d'hommes ont été transférés dans les camps migrants et la légalité de l'initiative est toujours contestée par les tribunaux italiens.
De petits progrès publics ont été réalisés sur l'État de Bektashi depuis son annonce il y a un an.
Quant à Siella, dont le visage est celui de la célèbre actrice albanaise Anila Bisha, qui a signé un contrat expirant en décembre pour l'usage de son image, il n'est pas clair si sa nomination survivra à l'examen de la Cour constitutionnelle.
Il n'est également pas certain qu'il respectera les normes de l'Union européenne, que l'Albanie espère se joindre au cours des cinq prochaines années.
« Jusqu'à présent, il n'y a aucune information sur le fonctionnement de Siella », a déclaré le politologue albanais Lutfi Dervinishi.
« Si un système corrompu fournit des données manipulées ou si des filtres sont configurés sur ce qu'il ne doit pas voir, Siella légitimera simplement la corruption ancienne avec de nouveaux logiciels. »
