ACT de l'IA, risque de report pour le membre du garant de la vie privée

Ceux qui m'ont suivi au cours de ces années savent que je n'ai jamais été parmi les admirateurs enchantés de laAI actes. Je l'ai toujours défini – avec une pointe d'amertume réaliste – le Bouton benjamin Réglementation européenne: née âgée, partiellement surmontée, en partie inadéquate (pensez simplement à la classification des chatbots comme « risque doux ») et inévitablement tardif par rapport à l'occupation silencieuse et quotidienne que l'intelligence artificielle a mise en œuvre dans nos vies. Un texte qui, tel qu'il a été conçu, semblait vouloir exploiter une vague avec un réseau papier.

AI ACT, un « appareil monstrueusement complexe »

Pourtant – j'avoue – j'avais cru un peu. Parce que, malgré ses 400 pages, avec 180 considérables, 113 articles et 13 pièces jointes, l'acte avait une ambition – rare de nos jours – pour dire une chose simple mais puissante: Tout ce qui est techniquement possible n'est également légalement acceptable. À l'intérieur de ce système monstrueusement complexe, entre les articles, les classifications des risques et les reports croisés, il y avait un cœur éthique clairement visible. Enfin, il a été question non seulement de ce que l'intelligence artificielle est capable de faire, mais de ce que il devrait, et surtout ne devrait pas, faire.

Par exemple: Exclusion de l'IA à partir de systèmes de manipulation cognitive destinés aux sujets vulnérables (Une référence loin d'être implicite aux mécanismes de persuasion de nombreuses plateformes), interdiction du score social, obligations de transparence pour les systèmes à haut risque, ceux qui décident de nous prendre, de nous prendre soin ou de nous condamner. En d'autres termes: interdit de jouer avec la vie des gens sans instructions claires, des responsabilités bien définies et des garanties constitutionnelles.

Et puis, enfin, des mots qui jusqu'à hier semblaient être le patrimoine des conférences académiques et des directives ignorées:

• Explanabilité, C'est le droit de savoir comment et pourquoi une décision est prise par une voiture;
• traçabilitéparce que les algorithmes doivent également laisser des traces et répondre à leurs actions;
• Interdiction de la discrimination automatiquepour protéger ceux qui risquent d'être pénalisés par des modèles formés sur des données erronées;
• Reconnaissance des systèmes génératifspour toujours savoir quand nous parlons à un logiciel;
• limites rigoureuses à l'utilisation de la surveillance biométrique.

Surtout, la réaffirmation de la dignité humaine comme principe cardinal, et non comme une note au pied de la page.

Ce n'était plus une question de recommandations vagues ou de codes éthiques de la page d'accueil d'entreprise. On a parlé d'obligations contraignantes, avec des responsabilités légales et des sanctions réelles. Il s'agissait de mettre la personne, et non la logique du code, au centre du processus. Une petite révolution réglementaire qui ne voulait pas freiner l'innovation, mais qui la dirige enfin.

La Commission européenne pourrait reporter certaines parties de la loi sur la loi

Ensuite, comme cela arrive souvent, la bureaucratie a glissé entre l'ambition et la réalité. Selon ce qui rapporte le politicien, et confirmé par les déclarations du vice-président de la Commission européenne Henné VirkkunenBruxelles évaluerait la possibilité de reporter certaines parties de la loi, en particulier celles plus complexes à mettre en œuvre. Il n'est pas clair si pour de vraies difficultés techniques – et à ce sujet, vous pouvez également discuter – ou Pour les pressions croissantes du hallqui sont devenus plus explicites avec le retour sur les lieux d'un Washington certainement moins enclin aux contraintes réglementaires.

En attendant, ce qui avait été annoncé comme la première loi sur l'intelligence artificielle au monde les risques se transformant en cadre vide. Une belle architecture sans abri. Alors que les entreprises attendent des directives et des normes techniques toujours en phase embryonnaire, l'hypothèse du « Stop-the-horaire », Une suspension des termes d'application qui, traduite en mots simples, signifie: attendons. Nous nous référons. En cas de doute, ne décidons pas.

Et tout en prenant le temps, les Amériques atterrissent à Bruxelles. Dans le film « Nous devons juste pleurer« , Troisi et Benigni ont essayé d'empêcher Colombo de découvrir l'Amérique. Cependant, cependant, il semble que les Amériques aient mis le pied au cœur de l'Europe, avec l'objectif opposé: arrêter l'acte avant qu'il ne puisse vraiment affecter. Les pressions, à la fois diplomatiques et industrielles, multipliées et par la résistance politique au sein de l'Union, augmentent également avec eux.

Le risque de report: pourquoi Ce ne peut pas être la technique qui décide

Le risque est évident: qu'entre un report, un compromis et un retard, la montagne réglementaire donne naissance à une souris (encore plus irréversiblement ancien contrairement au bon Benjamin …) peut-être inoffensif, peut-être inutile, certainement non pertinent.

Lors de la dernière réunion des ministres numériques, même la Pologne – généralement pas au premier rang dans la défense des principes éthiques européens – était favorable à un report, à condition qu'il soit bien planifié. Une position apparemment raisonnable, qui risque cependant se transformer en Alibi parfait pour ne rien faire.

La vérité est que le temps, dans ces domaines, n'est jamais neutre. Chaque mois qui passe sans cadre clair est une nouvelle occasion pour les grandes plates-formes d'occuper l'espace laissé vide. L'espace qui devient alors une règle de facto: propriétaire opaque, unilatéral. Et tandis que l'Europe discute des pièces jointes techniques, quelqu'un d'autre définit les nouveaux droits numériques par défaut.

Il ne s'agit pas d'être contre la technique. Au contraire. Il s'agit d'empêcher la technique qui décide seule de ce que nous sommes et de ce que nous deviendrons. Nous avons besoin d'une loi qui reconnaît que l'innovation et les droits fondamentaux ne sont pas des pôles opposés, mais des forces à maintenir en équilibre. Un équilibre fragile, bien sûr, mais indispensable. Et qu'il doit être soigneusement gardé, pas la mort sinueuse reportée.

En ce sens, les paroles du prix Nobel de chimie sont actuellement de retour, John Charles Polanyiprononcé lors d'un symposium international dédié à la science et aux droits de l'homme: « Le respect des droits de l'homme, essentiel si nous voulons utiliser sagement la technologie, n'est pas quelque chose de l'étranger à greffer sur la science. Au contraire, il fait partie intégrante de la science elle-même. »

Un avertissement lucide et nécessaire. Parce qu'il ne s'agit pas de freiner la technique, mais de l'orientation. Se rappeler qu'il n'y a aucun progrès sans justice, ni innovation qui peut être définie comme telle si elle n'est pas humainement durable.

Conclusions

Si l'acte est démonté pièce par pièce ou subit simplement des retards supplémentaires dans ses temps d'application déjà éternels (pour l'ère numérique), avant même d'entrer en vigueur, il ne sera pas seulement un échec légal. Ce sera le signal, clair et amer, que l'Europe a renoncé – encore une fois – à avoir une voix autonome dans le monde numérique.

Et puis oui, nous n'aurons qu'à pleurer. Ou rire amèrement, en espérant qu'au moins le prochain chatbot émotionnel nous console grâce à la compassion que nous avons nourrie, dûment manipulée, avec notre langue et nos histoires de vie quotidiennes.