Certains veulent faire passer pour réel le contenu généré par l’IA. La solution TikTok : les tags automatiques

L'intelligence artificielle générative (GenAI) est là pour rester. De plus en plus de personnes de différents domaines s'y tournent pour créer des pièces visuelles qui ont généralement un qualité incroyable. Il y a quelques années, c'était impensable. Si vous souhaitez créer du contenu d’aspect professionnel, vous devez posséder certaines compétences en conception.

Comme nous pouvons le constater, les outils génératifs offrent de grandes opportunités créatives, mais ils comportent des risques. Par exemple, nous ne sommes pas toujours en mesure d'identifier si une image ou une vidéo a été créée ou modifiée avec GenAI. Et cela peut être utilisé dans des scénarios de fraude ou de désinformation.

Les balises de contenu comme solution

Les réseaux sociaux se mobilisent sur le sujet. TikTok, qui est l'une des plateformes les plus populaires de la planète, vient d'annoncer qu'elle commence à taguer Contenu généré par l'IA (AIGC). Sous ces nouveaux paramètres, si vous publiez une image créée avec un service comme DALL·E d'OpenAI, la balise « générée par l'IA » sera ajoutée.

Même si vous le souhaitez, vous ne pourrez pas masquer l'étiquette susmentionnée. En effet, sa fonction est d'assurer la transparence aux utilisateurs. De nombreuses images, comme celles de vacances « falsifiées », apparaissent sous nos yeux comme réelles alors qu’elles ne le sont pas en réalité. Le label cherche à remédier à cette situation.

Il convient de noter que ce n’est pas la première fois que TikTok parle de balises de contenu. Depuis quelques temps, les utilisateurs du réseau social sont tenus par les règles du service d'ajouter «généré par l'IA » manuellement si le contenu semble réaliste. Le non-respect de cette règle peut entraîner des sanctions, selon TikTok.

« Nous pouvons supprimer le contenu qui enfreint les directives de la communauté », explique la société. Dans ce cas, une fois qu’un utilisateur a ajouté une balise manuellement, il n’aura pas non plus la possibilité de la supprimer. Même d'autres utilisateurs peuvent signaler les publications générées par l'IA qui n'ont pas l'étiquette correspondante.

Comment TikTok sait-il quel contenu a été généré par l’IA ?

Si vous vous demandez comment TikTok sait quel contenu a été généré par l'IA, la réponse est Informations d'identification du contenu de la Coalition pour la provenance et l'authenticité du contenu (C2PA). Lorsque nous créons du contenu avec des outils tels que DALL·E d'OpenAI ou Bing Image Creator de Microsoft, ces informations d'identification sont automatiquement jointes.

Toutes les propositions de génération d'images n'ont pas adopté cette solution, mais on s'attend à ce que de nouveaux membres la rejoignent au fil du temps. Il s'agit d'un type de filigrane qui permet d'identifier instantanément si une image a été créée ou modifiée avec l'intelligence artificielle, et un moyen essentiel pour l'étiqueter.

TikTok a également promis que dans les mois à venir, il commencerait à ajouter des informations d'identification de contenu aux médias qu'il utilise. sont exportés depuis votre application. Cela a du sens si l'on tient compte du fait que de nombreux utilisateurs republient le contenu créé sur TikTok sur d'autres plateformes telles que l'Instagram de Meta ou les YouTube Shorts de Google.

Rappelons que Meta avait annoncé en février qu'elle ajouterait des balises de contenu basées sur la norme C2PA sur Facebook, Instagram et Threads. On assiste en direct aux premiers mouvements des réseaux sociaux pour apporter une plus grande transparence dans les publications. Il faut attendre de voir s'ils donneront réellement des résultats.

Images | ByteDance | Objectif | Captures d'écran

À Simseo | Qu'est-ce que l'Intelligence Générale Artificielle (AGI), la technologie qui vise à révolutionner complètement notre monde