Zoom dit qu'il ne forme pas l'IA sur les appels sans consentement.  Mais d'autres données sont un jeu équitable

Zoom dit qu’il ne forme pas l’IA sur les appels sans consentement. Mais d’autres données sont un jeu équitable

Crédit : domaine public Unsplash/CC0

Une mise à jour des conditions de service de Zoom tire la sonnette d’alarme sur les réseaux sociaux, les utilisateurs affirmant qu’elle révèle que la société de vidéoconférence exploite désormais leurs visites chez le médecin en ligne et leurs happy hours virtuels pour former des modèles d’intelligence artificielle.

« Les conditions d’utilisation de Zoom exigent désormais que vous autorisiez l’IA à s’entraîner sur TOUTES vos données – audio, reconnaissance faciale, conversations privées – de manière inconditionnelle et irrévocable, sans désactivation », a lu un tweet largement partagé cette semaine qui a depuis été supprimé. « N’essayez pas de négocier avec nos nouveaux suzerains. »

La société a rapidement répondu avec un article de blog lundi soulignant qu’elle « n’utilisera pas de contenu audio, vidéo ou de chat pour former nos modèles d’intelligence artificielle sans votre consentement », et en ajoutant une ligne aux termes pour clarifier cela.

Les experts de la confidentialité en ligne affirment que cette politique est désormais reflétée avec précision dans le document. Cependant, les conditions permettent toujours à Zoom de former l’IA sur d’autres données, telles que le comportement des clients, et ils se demandent dans quelle mesure certains participants à la réunion auront le choix de se retirer si, par exemple, leur patron en décide autrement.

Voici un examen plus approfondi des faits.

RÉCLAMATION : Les conditions d’utilisation de Zoom autorisent l’entreprise à utiliser toutes les données des clients, y compris les conversations privées, pour la formation à l’intelligence artificielle, sans possibilité de retrait.

LES FAITS: Ce n’est pas exact, du moins maintenant que Zoom a ajouté un libellé aux termes pour rendre sa politique plus claire, disent les experts.

Les conditions actuelles ne permettraient pas à l’entreprise d’exploiter le contenu généré par l’utilisateur comme la vidéo et le chat pour la formation à l’IA sans qu’un client ne s’inscrive. Cependant, une fois qu’un hôte de réunion est d’accord, les autres participants devraient partir s’ils ne veulent pas donner leur consentement. Les conditions autorisent également Zoom à utiliser d’autres données, y compris des informations sur le comportement des utilisateurs, sans autorisation supplémentaire.

« Le visage de ces conditions d’utilisation garantit désormais à l’utilisateur que Zoom n’utilisera pas son contenu client dans le but de former des modèles d’intelligence artificielle sans son consentement », a déclaré John Davisson, directeur du contentieux et avocat principal à l’Electronic Privacy Information. Centre, a déclaré à l’Associated Press.

Le problème est la langue que Zoom a ajoutée à ses termes en mars. Le document fait la distinction entre deux types de données : les « données générées par le service », telles que les fonctionnalités utilisées par les clients et la partie du monde dans laquelle ils se trouvent, et le « contenu client », qui correspond aux données créées par les utilisateurs eux-mêmes, telles que l’audio ou transcriptions de chat.

Les termes stipulent que les données générées par le service peuvent être utilisées pour « l’apprentissage automatique ou l’intelligence artificielle (y compris les objectifs de formation et de réglage des algorithmes et des modèles. » Le billet de blog de Zoom indique que la société considère ces données « comme nos données », et les experts confirment ce langage permettrait à l’entreprise d’utiliser ces données pour la formation à l’IA sans obtenir de consentement supplémentaire.

Séparément, les termes indiquent que le contenu client peut également être utilisé « à des fins » d’apprentissage automatique ou d’IA.

Après que cela ait été mis en évidence sur les réseaux sociaux cette semaine, la société a précisé dans son message qu’il s’agissait de nouvelles fonctionnalités d’IA génératives que les utilisateurs doivent accepter, qui créent des éléments tels que des résumés de réunion automatisés pour les clients. Zoom a déclaré dans une déclaration à l’AP qu’en plus d’activer les fonctionnalités pour eux-mêmes, les utilisateurs doivent consentir séparément au partage de ces données avec l’entreprise.

Les experts ont déclaré que le langage de la mise à jour de mars était de grande portée et aurait pu ouvrir la porte à l’entreprise pour utiliser ces données sans autorisation supplémentaire si elle le voulait.

Mais Zoom a ajouté une mise en garde plus explicite aux conditions lundi, en disant : « Nonobstant ce qui précède, Zoom n’utilisera pas de contenu audio, vidéo ou de chat pour former nos modèles d’intelligence artificielle sans votre consentement. »

Avec ce langage, Davisson a déclaré que l’utilisation de telles données pour former l’IA sans le consentement d’un utilisateur constituerait désormais une violation des conditions de la part de Zoom, ouvrant l’entreprise à des litiges.

Cependant, les experts ont déclaré que le fonctionnement de cette fonction pourrait encore poser des problèmes à certains participants aux appels Zoom si l’hôte opte pour les fonctionnalités d’IA génératives.

Zoom indique que si un organisateur de réunion décide d’utiliser la fonction de résumé de la réunion, les participants reçoivent une notification les avertissant qu’une fonction d’IA a été activée et que leurs données peuvent être partagées pour la formation à l’IA. Ils sont invités à poursuivre la réunion ou à partir.

Bien que cela offre en théorie à tous les participants la possibilité de contrôler la manière dont leurs données sont utilisées, il peut ne pas être possible pour quelqu’un de se retirer d’une réunion ou de renoncer complètement à Zoom s’il n’est pas d’accord, a déclaré Katharine Trendacosta, directrice des politiques et du plaidoyer à l’Electronic Fondation Frontière.

« Si l’administrateur y consent et que c’est votre patron au travail qui vous demande d’utiliser Zoom, comment est-ce vraiment ce consentement ? » elle a demandé.

Davisson a des préoccupations similaires.

« Ce genre d’acquisition juste à temps du » consentement « n’est pas un véritable consentement », a-t-il déclaré. « Et c’est donc une mise en garde assez trompeuse de leur part à introduire. Il prétend reposer sur le consentement, mais ce sur quoi il repose vraiment est en quelque sorte ce que l’organisateur de la réunion ou l’administrateur système a décidé de faire. »