certains défendent de l'ouvrir, d'autres de le fermer fermement
Le développement de la bombe atomique dans le cadre du célèbre « Projet Manhattan » a changé le cours de l’histoire. Il l’a fait, bien entendu, dans le cadre de mesures de sécurité extrêmes visant à garder le projet complètement secret et à empêcher les Russes de développer une arme similaire. Certains soutiennent aujourd’hui que nous devrions faire de même avec l’intelligence artificielle, en la développant comme un projet top secret afin qu’elle ne tombe pas entre de mauvaises mains. C'est le vieux débat technologique.
Le (pas si secret) projet Manhattan. Les sites où le projet a été développé – Los Alamos, Oak Ridge, Hanford – étaient géographiquement isolés et fortement protégés par la police militaire et les barbelés. Il y avait des contrôles de sécurité et d'accès 24h/24 et 7j/7, ainsi que des panneaux et des rappels constants aux employés pour qu'ils gardent secret ce qu'ils savaient. Malgré cela, les espions soviétiques ont réussi à obtenir des informations cruciales qui ont accéléré le développement de la bombe atomique soviétique d'environ 12 à 18 mois. Cette bombe soviétique, soit dit en passant, était une copie presque exacte de celle créée par le projet Manhattan.
Marc Andreessen veut « arrêter » l'IA. L'investisseur bien connu, co-fondateur de Netscape, J'ai récemment fait cette analogie entre le projet Manhattan et le développement de modèles d'IA. Selon lui, l’intelligence artificielle devrait être gérée comme ce projet de la Seconde Guerre mondiale. Autrement dit, avec des mesures de sécurité extrêmes pour empêcher, selon lui, « le Parti populaire chinois d'accéder à l'IA américaine ».
Même les marines et les détecteurs de mensonges. Andreessen propose que l'accès soit restreint à tous les développements qui varient du PDG « au cuisinier de l'entreprise », et propose de créer des mécanismes de surveillance interne « constants » et même que les employés passent chaque mois des détecteurs de mensonges. Des lieux de travail sécurisés devraient également être créés et gardés par les Marines américains 24 heures sur 24.
Cet investisseur propose également d'éviter les fuites en protégeant les appareils utilisés avec des cages de Faraday, des contre-mesures électroniques et que tous les employés disposent de quelque chose de similaire à un AirTag pour pouvoir les suivre à tout moment. Il devrait également y avoir un grand responsable de la sécurité qui pourrait interroger n'importe qui – et le « terroriser » – à tout moment.
L'IA est une menace pour la civilisation. L’excuse d’Andreessen, comme celle d’autres technogourous, est de désigner l’IA comme la grande menace pour notre civilisation. S’il tombait entre de mauvaises mains, ce type de projet pourrait conduire (peut-être) à la fin de la race humaine.
La sécurité d'aujourd'hui est comme le fromage suisse. L'entrepreneur critique qu'au lieu de fermer ces développements, ni OpenAI ni les autres startups du domaine ne protègent trop leurs développements. « La sécurité est l'équivalent du fromage suisse. La pénétration chinoise de ces laboratoires pourrait être triviale en utilisant n'importe quelle méthode d'espionnage industriel, comme simplement soudoyer les gens qui nettoient leurs bureaux pour connecter des clés USB à des ordinateurs portables. » Pour lui, en fait, la réalité est que la Chine espionne déjà les États-Unis et que toutes les recherches américaines sur l’IA sont actuellement téléchargées tous les soirs.
OpenAI devrait être nationalisé. La solution est claire pour Andreessen : OpenAI doit être nationalisé immédiatement. Cela entraînerait des changements potentiels majeurs dans la gestion de cette entreprise, qui deviendrait probablement quelque chose de plus similaire au Pentagone ou à la NSA.
Elon a défendu son ouverture et maintenant il ferme l'IA plus que quiconque. C’est exactement le même discours qu’Elon Musk défend depuis des années, mais curieusement il a co-fondé OpenAI en tant qu’organisation qui entendait partager tout ce qu’il découvrait. L'entreprise (maintenant sans lui) a fini par convertir GPT-4 en un développement plus secret, mais Musk, qui a également démarré son projet avec xAI, ne l'a pas fait comme OpenAI l'avait initialement proposé, mais de manière complètement fermée et secrète.
Les soutiens. Il existe d’autres personnalités qui sont d’accord avec Andreessen. L'un d'eux est le milliardaire Vinod Khosla, co-fondateur de Sun Microsystems. il y a des mois commenté comment « il y a beaucoup de beauté dans l'ouverture. La publication de l'étude sur les transformateurs a permis à l'IA de s'épanouir aujourd'hui ». Et pourtant, note-t-il, « ces publications, idées et lignes de codes se répandent en Chine ».
Le magnat croyait à l'Open Source avec l'apparition de Linux, » mais je ne le suis plus. Si vous optimisez pour progresser le plus vite possible, confiez votre travail au plus grand nombre au moindre coût possible. C’est la recette pour un progrès rapide. Et c’est la science fondamentale. Mais ce n’est pas la science fondamentale. C’est le projet Manhattan. »
Fermons tout pour nous protéger (et gagner plus d'argent). Ce que propose Andreessen est une vision déjà connue et commune à de nombreuses grandes personnalités à la tête de la Big Tech, dont l'ouverture partielle à l'Open Source a toujours été critiquée comme une gesticulation. Microsoft en est un bon exemple : pendant des années, il a critiqué cette philosophie – rappelez-vous, Ballmer qualifiait Linux de « cancer » – et a fini par l'adopter progressivement pour reconquérir la communauté des développeurs et des utilisateurs.
C’est bien sûr une bonne nouvelle que les majors soutiennent ces projets, mais qu’elles le fassent ou qu’elles se fassent encore plus entendre, il est très peu probable qu’elles le fassent par conviction morale. Au moins, ceux qui s'abonnent savent clairement qu'ils le font pour finir par gagner plus d'argent. C'est légal, sans aucun doute, mais des arguments comme « nous devons nous protéger de la Chine » ou « nous faisons cela pour avoir un monde meilleur » restent en arrière-plan.
Mais l’IA Open Source devient de plus en plus prometteuse. Les commentaires d'Andreessen soulignent le fait que les projets d'IA Open Source continuent de gagner du terrain et de susciter beaucoup d'intérêt. C'est ce que fait par exemple Llama 2, le LLM de Meta, qui a Yann LeCun pour grand défenseur de cette ouverture de la recherche. LeCun lui-même répondu à Vinod Khosla, qui revendiqué que « nous sommes dans une guerre économique avec la Chine et que l’IA doit être une victoire ». Selon le responsable de l'IA chez Meta, « Quelle que soit la guerre dans laquelle vous pensez que nous sommes, Vinod, nous la perdrons inévitablement si nous interdisons ou simplement entravons les plates-formes d'IA open source. » Rappelons-le : il y a plus d'un an, même Google s'inquiétait de l'avancée de modèles comme Llama 2, et les responsables indiquaient que « l'Open Source peut nous éclipser ». Il y a beaucoup, beaucoup d’argent en jeu.
Images | TechCrunch
À Simseo | Meta, IBM et d'autres forment The AI Alliance. Son objectif : défendre le développement de modèles d’IA Open Source
