OpenAI sait que ChatGPT n’est pas parfait, il paiera donc jusqu’à 20 000 $ à ceux qui trouveront des bogues

Nous sommes plongés dans un monde de plus en plus numérisé dans lequel il n’est pas toujours facile de prédire quelle sera la prochaine technologie qui changera de nouvelles vies (tout semble indiquer qu’en ces temps ce sera la prometteuse intelligence artificielle). Mais nous avons certaines certitudes, et l’une d’entre elles est qu’il n’existe pas de systèmes 100% sécurisés, et cela s’applique également aux produits OpenAI.

Tout comme les voleurs de la vieille école utilisent leurs compétences de crochetage pour obtenir leur précieux butin, les cybercriminels font de même avec les systèmes informatiques. Alors vous vous demandez peut-être ce que ces individus ont en commun. La réponse est simple : ils profitent de vulnérabilités physiques ou numériques qui n’ont pas été corrigées à temps.

En réponse à ce scénario, de nombreuses entreprises décident de donner des prix aux chasseurs de primes de bugs informatiques pour éviter les problèmes de sécurité avec leurs plates-formes. C’est précisément ce que fait l’entreprise fondée par Sam Altman. En plus d’examiner vos systèmes à huis clos, il donne la possibilité à des experts en informatique du monde entier d’y contribuer.

La prime de bogue OpenAI

Les créateurs de GPT-4, entre autres modèles d’IA, ont annoncé le lancement de son programme ChatGPT Vulnerability Bounty (VRP). Ce Prime de bogue Il dispose d’un système de rémunération basé sur l’importance des cotisations. Les paiements vont de 200 $ pour les découvertes de faible gravité à 20 000 $ pour les « découvertes exceptionnelles ».

Comme nous le disons, ce type de pratique est de plus en plus courant parmi les grandes entreprises technologiques, et tout au long de l’histoire, nous avons vu comment des géants de l’industrie tels qu’Apple, Google, Meta ou Microsoft ont offert des récompenses de jusqu’à 200 000 $ ou plus pour les erreurs. Bien sûr, il y a certaines conditions que les personnes intéressées à participer doivent remplir lors du test de leurs systèmes.

OpenAI a publié une liste de problèmes qui ne relèvent pas de son programme de primes, notamment l’utilisation de jailbreaks, le fait de forcer le modèle à renvoyer des résultats inappropriés ou de lui faire écrire du code malveillant. Dans aucun de ces cas, et dans d’autres aussi, il n’y a pas de récompense. Oui, il y a une récompense dans d’autres types d’échecs ou de vulnérabilités.

La société d’intelligence artificielle s’intéresse à la découverte des problèmes d’authentification, situations de données exposéesbogues de la plate-forme de paiement ChatGPT Plus, méthode de contournement de la protection Cloudflare en envoyant du trafic vers des points de terminaison non protégés, plantages d’applications, problèmes avec l’API ou avec des plugins créés par OpenAI (non tiers).

Pour ce Bug Bounty, ceux menés par Altman se sont associés à Bugcrowd, une vieille connaissance dans le monde des primes pour les bogues et les vulnérabilités des systèmes informatiques (bien qu’il y en ait aussi d’autres comme HackerOne et Synack). Les personnes intéressées peuvent trouver tous les détails sur le profil OpenAI au sein de la plateforme Bugcrowdqui sera en charge de la gestion des expéditions et des récompenses.

Images: nahel abdoul hadi / Capture d’écran de ChatGPT

A Simseo : Si ByteDance veut que TikTok continue d’opérer aux États-Unis, c’est simple : il suffit de le vendre

A Simseo : Je suis informaticien et je travaille en signalant des bogues logiciels à de grandes entreprises technologiques