Les institutions en Espagne commencent à utiliser le raccourci. Dans le «cas Ábalos» qui a causé un problème grave

Avec l’affaire «Apalos», nous assistons à l’un des cas de corruption les plus pertinents de ces dernières années, mais à la Cour suprême, il y a eu une situation de rocambolesque. Les transcriptions des déclarations du juge Leopoldo Puente ou de l’ancien ministre José Luis Ábalos, entre autres, sont devenues une division de la déclaration dans un gallimatismes.

Déclarations incompréhensibles. Le Diari de Tarragone ou le Diario de Navarra ont eu accès aux documents avec les transcriptions des déclarations des personnes impliquées dans le cas «Abalos». Ces transcriptions semblent démontrer une utilisation « incontrôlée et sans supervision », disent-ils dans le Diario de Navarra, les outils AI pour transcrire ces textes. L’avocat de l’administration suprême de la justice a envoyé ces copies écrites, mais il existe des paragraphes incompréhensibles.

Transcriptions terribles. Ces documents montrent plusieurs exemples de transcriptions désastreuses. Lorsque vous répondez à Ábalos sur sa présence présumée dans des appartements liés à la prostitution, il semble dire « c’est vraiment que à Madrid pas de Madrid ». Dans une autre question du juge, il répond selon la transcription « Je ne me souviens pas en ce moment, car à cette date, il l’a déjà fait, mais peu importe, vous ne vous souvenez pas qu’il est compressible qu’il ne se souvienne pas des dates. » À la question de l’utilisation illicite d’une villa dans la ligne de conception, la transcription indique que la réponse était « parfois parce qu’une période du temps que nous n’étions pas, mais elle a été causée, il a été fixé si cela 2 avec cela, j’ai terminé mes revenus, n’avait aucun autre revenu. »

AI ou identifie correctement les témoins. Cette catastrophe s’étend à l’identification des témoins. Dans le Diario de Navarras, ils commentent ce qui s’est passé avec Claudio Rivas, « le plus grand partenaire de Víctor de Aldama du Macrofude de Los Hydrocarbos ». Les documents de transcriptions montrent que l’IA a appelé ce témoin « Claudia Arribas », « Claudia Up » ou « Claudio Arribas ». Également dans l’une de ses réponses sur son activité est également absurde selon la transcription de l’IA: « Un groupe d’entreprises dédié aux hydrocarbures des hydrocarbures, pour la vente d’hydrocarbures ».

Mais le remède que la maladie. Comme indiqué dans le Diari de Tarragone, il a été décidé d’utiliser l’IA pour les transcriptions lorsque pour éviter les fuites, l’accès aux vidéos originales de ces interrogatoires était limitée. L’utilisation abusive de l’IA a provoqué la seule façon dont les parties peuvent désormais analyser les déclarations est de demander à la Cour la vision de ces enregistrements originaux.

Utilisation abusive de l’IA. Ici, nous avons un exemple inquiétant de ce qui peut arriver à une mauvaise utilisation de l’IA dans les organisations officielles. Le problème n’est pas connu, et le système d’IA peut ne pas être pensé pour les transcriptions en espagnol, par exemple, mais ce qui est clair, c’est que personne n’a examiné la transcription faite par l’IA, ce qui doit être une partie essentielle de la gestion de ces systèmes. La propension des chatbots pour inventer les données et les hallucinar est déjà connue, et ici ces limitations étaient claires.

Il ne peut pas être laissé seul. Un article d’El País en novembre nous rappelle comment ces types de situations sont courants lors de l’utilisation d’outils de traduction qui appliquent souvent des traductions littérales qui n’ont aucun sens. Cela s’est produit avec la traduction embarrassante du site Web officiel du tourisme de Santander, qui en 2018 a traduit le nom du Botín Center en tant que « centre de butin » (centre du pillage « ou le centre historique comme » casque historique « (c’est un casque en anglais, mais se référant au casque protecteur des automobilistes, par exemple).

Soyez prudent avec des chuchotements et des transcriptions par l’IA. Des chercheurs de l’Université du Michigan ont analysé les transcriptions de Whisper, une application OpenAI populaire et remarquable pour les transcriptions audio. Des hallucinations (erreurs et phrases inventées) ont été détectées entre 38% et 80% des cas analysés. Comme ils le soulignent dans le pays, un porte-parole d’OpenAI a déjà reconnu les limites et a souligné que « l’outil ne devrait pas être utilisé dans des environnements à haut risque ».

Clakes Clatigpt. Il y a quelques mois, nous avons assisté à un autre cas unique d’une mauvaise utilisation de l’IA. Un avocat a déposé une plainte, mais pour gagner du temps et des ressources, il s’est tourné vers l’utilisation de Chatgpt pour son mémoire initial. Le problème est que l’IA avait inclus des références erronées à la législation colombienne au lieu des réglementations espagnoles applicables. L’avocat a réalisé l’erreur et a rapidement présenté une lettre assumant la responsabilité et s’excuse pour cette utilisation incorrecte. La Cour supérieure de la justice de Navarra a décidé de ne pas imposer de sanction, mais encore une fois ce risque d’utiliser ces outils sous des formes inappropriées et sans examiner les textes ou le contenu qu’ils génèrent.

L’Espagne a ASIA précisément pour cela. L’année dernière, nous avons parlé de l’agence espagnole pour la supervision de l’intelligence artificielle (AESIA). Cette agence a précisément pour mission d’enquêter et d’améliorer ceux qui abusent de l’IA à partir de 2025. La recherche a commencé théoriquement le 2 février, et le 2 août, cette agence assumera un pouvoir de sanction complet. Nous verrons s’ils prennent des lettres dans cette mauvaise utilisation de l’IA dans le «cas Ábalos», mais bien sûr, ce serait un exemple clair d’une utilisation inappropriée et même dangereuse de l’IA.

Image | Ministère des Transports

Dans Simseo | Les entreprises de l’IA ont sauté les droits d’auteur depuis des années. Ils viennent de subir une défaite juridique inquiétante