Les fondations veulent limiter l'influence des développeurs d'IA avec 500 millions de dollars destinés à centrer les besoins humains

L’intelligence artificielle est une question de conception et non de destin.

C'est le message de dix fondations philanthropiques visant à desserrer l'emprise que les développeurs fortunés de la technologie, alimentés par une frénésie d'investissement, exercent sur son évolution. Lancée mardi sous le nom de Humanity AI, la coalition s'engage à consacrer 500 millions de dollars sur les cinq prochaines années pour placer les intérêts humains au premier plan de l'intégration rapide de la technologie dans la vie quotidienne.

« Chaque jour, les gens en apprennent davantage sur l'impact de l'IA sur leur vie, et on a souvent l'impression que cette technologie nous arrive plutôt qu'avec nous et pour nous », a déclaré le président de la Fondation MacArthur, John Palfrey, dans un communiqué. « Les enjeux sont trop importants pour confier les décisions à une poignée d'entreprises et de dirigeants en leur sein. »

L'intelligence artificielle a été adoptée comme stimulant de la productivité dans des domaines tels que le génie logiciel ou la médecine. Il pourrait aider les étudiants souffrant de diverses déficiences visuelles, de la parole, du langage et de l'audition à exécuter des tâches qui viennent facilement aux autres. Les groupes humanitaires testent sa capacité à traduire des documents importants pour les réfugiés. Et certains agriculteurs le trouvent utile pour détecter les ravageurs dans leurs champs difficiles à inspecter.

Mais d’autres se demandent si son déploiement améliore réellement leur qualité de vie. Certains soulignent qu’il existe de réels préjudices pour les enfants qui se tournent vers les chatbots IA pour obtenir de la compagnie. Les vidéos deepfake générées par l’IA contribuent à la diffusion en ligne de fausses informations et de désinformations. La dépendance des systèmes gourmands en électricité à l’énergie générée par les combustibles fossiles contribue au changement climatique. Et les économistes craignent que l’IA ne supprime les emplois des jeunes ou des travailleurs débutants.

Le problème, selon Michele L. Jawando, présidente du réseau Omidyar, est que les géants de la technologie n'investissent pas massivement dans la première série de cas d'utilisation. Ils se concentrent sur des produits qui peuvent ou non aider les humains à prospérer.

Jawando a cité comme exemple l'entrée récente d'OpenAI sur le marché en ligne. Lors de son DevDay la semaine dernière, la société a vanté les nouvelles capacités de ChatGPT en tant que marchand virtuel capable de vendre des marchandises directement aux vendeurs Etsy ou de livrer de la nourriture depuis Uber Eats.

La coalition reconnaît le désir du secteur privé de maximiser les profits et l'intérêt des gouvernements à stimuler l'innovation, selon Jawando. Mais entre la grande influence des entreprises technologiques et les reculs réglementaires de l'administration Trump pour accélérer la construction de technologies d'IA, elle a déclaré que les dirigeants philanthropiques reconnaissaient la nécessité de davantage de capitaux et de plus de collaboration pour amplifier la voix de la société civile.

« Nous pensons que Humanity AI peut vraiment répondre à la question : de quoi les humains ont-ils besoin pour s'épanouir ? À quoi cela ressemble-t-il réellement ? » dit Jawando. « La plupart de ce qui nous est proposé actuellement est l'efficacité. Mais ce n'est pas florissant. Je ne veux pas que ma vie soit efficace. Je veux que ma vie s'épanouisse. Je veux qu'elle me semble riche et robuste, saine et sûre. »

Dirigé par la Fondation MacArthur et Omidyar Network, Humanity AI cherche à reprendre le pouvoir en soutenant la technologie et en prônant le centrage des personnes et de la planète. Les membres doivent accorder des subventions dans au moins un des cinq domaines prioritaires identifiés par la coalition : faire progresser la démocratie, renforcer l'éducation, protéger les artistes, valoriser le travail ou défendre la sécurité personnelle.

L’alliance d’un large éventail d’organisations philanthropiques souligne l’inquiétude généralisée. Ses rangs représentent des partisans des sciences humaines tels que la Fondation Mellon, des luttant contre les inégalités au sein de la Fondation Ford, un bailleur de fonds Internet ouvert au sein de la Fondation Mozilla, des bailleurs de fonds de premier plan pour l'éducation tels que la Fondation Lumina, des géants caritatifs tels que la Fondation David et Lucile Packard et des groupes comme la Siegel Family Endowment qui explorent les impacts sociétaux de la technologie.

Ce n'est pas la première coalition philanthropique à émerger cette année dans le but de garantir que les gens ordinaires ne soient pas laissés pour compte. La Fondation Gates et le groupe Ballmer faisaient partie des bailleurs de fonds qui ont annoncé en juillet qu'ils dépenseraient 1 milliard de dollars sur 15 ans pour aider à créer des outils d'IA pour les défenseurs publics, les agents de libération conditionnelle, les travailleurs sociaux et autres qui aident les Américains en situation précaire. D’autres efforts visent à améliorer les connaissances en IA et à élargir l’accès aux entrepreneurs des pays à faible revenu.

Humanity AI espère élargir sa coalition. Les partenaires ont commencé à coordonner les subventions cet automne et mettront en commun de nouveaux fonds l'année prochaine dans un fonds collaboratif géré par Rockefeller Philanthropy Advisors.

Les bénéficiaires comprennent la National Black Tech Ecosystem Association, qui construit divers pipelines de leadership dans les domaines STEM ; AI Now, un institut de recherche de l'Université de New York qui étudie les implications sociales de l'IA ; et une initiative de la Howard Law School dédiée au développement de solutions d'IA qui font progresser les droits civiques.

« Nous pouvons choisir la participation plutôt que le contrôle », a déclaré la directrice exécutive de la Fondation Mozilla, Nabiha Syed, dans un communiqué envoyé par courrier électronique. « Les systèmes qui façonnent nos vies doivent être alimentés par des personnes, ouverts par conception et alimentés par l'imagination. »