Le client ChatGPT pour Mac est le dernier exemple selon lequel nous avons besoin de plus de sécurité dans l'IA

Les modèles d’IA générative comme ChatGPT sont parfaits pour beaucoup de choses, mais terribles pour d’autres. On sait déjà qu'ils font des erreurs et inventent des choses, mais on voit de plus en plus comment ceux qui les mettent en œuvre ne tiennent pas compte d'un détail important : la sécurité.

ChatGPT pour Mac, fatal. Jusqu'à vendredi dernier, l'application ChatGPT disponible pour macOS – pour l'instant il n'y en a pas sur Windows – présentait une faille de sécurité majeure : elle enregistrait toutes les conversations en texte brut. Cela signifie que si quelqu'un accédait à notre machine, il pourrait également accéder à ces conversations et aux données qu'elles contiennent.

Potins faciles. Un utilisateur nommé Pedro José Pereira Vieito a démontré dans Threads comment il était possible de développer une petite application qui accédait à ces données et montrait les conversations au fur et à mesure qu'elles se déroulaient. Comme il l’a souligné, en plus de sauvegarder ces conversations en texte brut, l’emplacement de ces textes n’était pas non plus protégé.

OpenAI va au-delà de la sécurité. Ce qui est curieux, c'est que, comme Vieito l'a souligné, macOS propose depuis six ans une méthode simple pour chaque application afin de garder privées les données avec lesquelles elle travaille. « OpenAI a choisi de ne pas activer le bac à sable et de stocker les conversations en texte brut dans un emplacement non sécurisé, désactivant ainsi toutes ces défenses intégrées (sur macOS). »

Mettre à jour pour résoudre ce problème. Chez OpenAI, ils ont publié une mise à jour qui crypte les discussions et signifie donc que ces conversations ne peuvent plus être « espionnées » par des utilisateurs autres que les utilisateurs de ChatGPT eux-mêmes.

L’IA doit accorder plus d’attention à la sécurité. Ce qui s'est passé avec ChatGPT rejoint d'autres scandales récents. Le plus grave est probablement celui qui a ébranlé Windows Recall, la nouvelle fonctionnalité de Microsoft qui, dès son lancement, s'est révélée être un désastre en matière de sécurité et de confidentialité.

Faites attention à ce que vous dites à votre chatbot. Il existe un problème encore plus difficile à résoudre : ChatGPT et ses concurrents ne savent pas garder les secrets. Il a été démontré que ces modèles d’IA génératifs peuvent être utilisés pour révéler des données sensibles qui, d’une manière ou d’une autre, ont fini par faire partie de leurs ensembles de données d’entraînement. Le problème a fini par provoquer le lancement de versions spécifiques telles que ChatGPT Enterprise, qui garantit théoriquement que les conversations avec ce chatbot d'entreprise sont absolument privées.

À Simseo | La nouvelle société d'Ilya Sutskever a un objectif clair : créer une superintelligence avec une sécurité « nucléaire »