Éviter l’IA est difficile, mais notre liberté de se désabuser doit être protégée

Imaginez postuler pour un emploi, seulement pour découvrir qu’un algorithme propulsé par l’intelligence artificielle (IA) a rejeté votre curriculum vitae avant même qu’un humain ne le vienne. Ou imaginez visiter un médecin où les options de traitement sont choisies par une machine que vous ne pouvez pas remettre en question.

Ce n’est pas de la science-fiction. Cela devient une réalité pour beaucoup de gens aujourd’hui. L’IA façonne tranquillement presque toutes les parties de nos vies – des nouvelles que nous avons lues choisies par l’IA à la façon dont nos villes gèrent le trafic. L’IA promet la commodité, la productivité, l’innovation et l’efficacité.

Mais à mesure qu’il devient plus puissant, une question urgente est négligée: les gens ont-ils le droit de vivre sans l’influence de l’IA?

Exclu de la vie moderne

Opter de l’IA n’est pas une simple question.

L’IA alimente les systèmes essentiels tels que les soins de santé, les transports et les finances.

Il influence également les décisions d’embauche, les applications de location, les prêts, la notation du crédit, les flux de médias sociaux, les services gouvernementaux et même les nouvelles ou les informations que nous voyons lorsque nous recherchons en ligne.

Des décisions difficiles prises par l’IA dans votre vie peuvent être extrêmement difficiles – et ne peuvent être faites que devant les tribunaux. Il est encore plus difficile de choisir de vivre sans IA, car cela nécessite de s’éloigner d’une grande partie de la vie moderne. Par exemple, les utilisateurs australiens des plateformes de médias sociaux de META ne peuvent pas refuser leurs données utilisées pour former les modèles d’IA de l’entreprise.

Un fossé croissant

Les systèmes axés sur l’IA sont biaisés. Les outils d’embauche automatisés favorisent certaines données démographiques, et la notation de crédit alimentée par l’IA peut refuser injustement les prêts.

Ces biais ne sont pas seulement théoriques, mais ils sont réels et présents dans nos interactions quotidiennes. Si l’IA devient le gardien des services essentiels, ceux qui choisissent de l’éviter pourraient faire face à des inconvénients importants.

Dans de nombreux pays où les systèmes numériques se développent rapidement, une grande partie de la population a du mal à s’adapter à ces technologies. Par exemple, en Inde, seulement 12% des personnes de plus de 15 ans sont considérées comme des alphabes numériques mettant en évidence les défis des changements technologiques.

Beaucoup de conflits font face à une exclusion simplement parce qu’ils ne s’intégrent pas dans le modèle défini en AI. Dans ces cas, le fait de retirer de l’IA n’est plus un choix personnel, mais c’est une question de survie dans un monde en évolution rapide. Le fossé entre ceux qui embrassent l’IA et ceux qui sont laissés pour compte sont l’élargissement et deviennent une barrière sociale.

Il ne s’agit pas seulement de biais ou d’inefficacité. Il s’agit de la transformation fondamentale de notre société, où les dominables connectés, optimisés et liés à la machine dominent – et le reste d’entre nous est laissé dans l’ombre.

Une leçon de contrôle

L’histoire de l’apprenti du sorcier, un poème de Johann Wolfgang von Goethe écrit en 1797, est un puissant rappel des dangers des forces de déchaînement que nous ne pouvons pas contrôler.

Dans le conte, un apprenti utilise la magie pour effectuer des tâches mais perd le contrôle du balai enchanté, conduisant au chaos et au désastre. Aujourd’hui, l’IA est cette force incontrôlable. Il a le potentiel de faciliter la vie, mais présente également de sérieux risques lorsqu’il devient incontrôlable.

Le problème n’est pas seulement une question de sécurité mais de liberté. L’apprenti du sorcier nous enseigne, comme l’a écrit l’historien Yuval Noah Harari, pour « ne jamais invoquer une puissance que vous ne pouvez pas contrôler » – un rappel que même les progrès bien intentionnés peuvent devenir incontrôlables si nous ne les gérions pas correctement.

Alors que l’IA devient plus ancrée dans nos vies, le problème ne concerne pas si cela fonctionne. Il s’agit de savoir si nous avons le droit de décider combien nous voulons dans nos vies. La liberté de choisir, de se retirer, est essentielle pour préserver notre autonomie à l’ère numérique.

Qu’est-ce qui doit changer?

Pour protéger le droit de vivre une vie libre de l’influence constante de l’IA, nous devons agir maintenant.

Alors que la plupart des cadres de gouvernance de l’IA mettent l’accent sur l’utilisation responsable, en se concentrant sur l’équité, la transparence et la responsabilité, ils négligent souvent un principe vital: le droit de se désengager des systèmes d’IA entièrement sans faire face à l’exclusion ou à l’inconvénient.

Les gouvernements, les entreprises et les communautés doivent créer des politiques qui non seulement réglementent l’IA mais respectent également les libertés individuelles. Les gens devraient avoir la possibilité de vivre sans l’IA, sans faire face à la discrimination ou à l’exclusion des services essentiels.

La prise de décision de l’IA doit également être plus transparente. Qu’il s’agisse d’embauche automatisée, de soins de santé ou de services financiers, l’IA doit être compréhensible, responsable et ouvert à l’examen. Nous ne pouvons plus permettre à ces systèmes de fonctionner à huis clos, prenant des décisions qui affectent la vie des gens sans recours aux personnes impliquées.

Enfin, la société doit investir dans la littératie numérique. Tout le monde doit comprendre les systèmes qui ont un impact sur leur vie et ont les outils pour les défier si nécessaire. S’assurer que les gens savent comment naviguer et contrôler les technologies qui façonnent leur monde est essentielle pour maintenir la liberté à l’ère numérique.

Une question urgente

Certains peuvent demander, pourquoi ne pas simplement ajouter un interrupteur de mise à mort à l’IA et l’arrêter si nécessaire? Mais une fois que l’IA est tissée dans des systèmes cruciaux tels que les soins de santé, le transport ou la communication, ce n’est plus quelque chose que nous pouvons simplement désactiver.

Comme l’électricité ou Internet, il devient un élément essentiel de la vie moderne, pas facilement réversible sans perturbation majeure.

Donc, comme l’IA se propage plus loin dans tous les coins de nos vies, nous devons demander de toute urgence: aurons-nous toujours la liberté de dire non?

Si nous n’agissons pas maintenant pour protéger le droit de choisir, nous risquons un avenir où l’autonomie personnelle est compromise et l’influence de l’IA n’est pas contrôlée. La question n’est pas de savoir si nous pouvons vivre avec l’IA, mais si nous aurons toujours le droit de vivre sans cela avant qu’il ne soit trop tard pour briser le sort.