Avec le développement des outils basés sur l’IA et leur disponibilité pour le grand public, la génération de contenu n’a jamais été aussi facile. Mais face aux “deepfakes” et autres types de contenus générés par l’IA, certains réseaux sociaux ont décidé d’agir. Sur TikTok, un nouvel outil permettra de marquer de tels contenus dans le but de sensibiliser les spectateurs sur leur création.
Au début de l’année 2021, les “deepfakes” de Tom Cruise ont fait sensation sur TikTok. Un deepfake manipule la voix et la physique d’une personne avec des méthodes de génération profonde. Souvent impressionnants de réalisme, de tels contenus peuvent entraîner de la confusion sur les réseaux sociaux si les utilisateurs ne comprennent pas qu’il ne s’agit pas de l’acteur ou de la personnalité publique réelle en question. En effet, jusqu’à présent, les créateurs de tels contenus n’étaient pas tenus d’informer les utilisateurs de l’utilisation de l’IA dans leur contenu.
Mais ce n’est plus le cas. TikTok vient de lancer un nouveau label qui signalera les vidéos générées par l’intelligence artificielle. Les créateurs de contenu sont invités à “l’appliquer à tout contenu entièrement généré ou significativement modifié par l’IA”, comme l’explique TikTok dans l’annonce officielle.
Cette nouvelle fonctionnalité aidera les créateurs à se conformer à la politique sur les médias synthétiques introduite dans les directives de la plateforme en mars. “Cette politique exige que les personnes étiquettent les contenus générés par l’IA qui contiennent des images, des sons ou des vidéos réalistes afin d’aider les spectateurs à contextualiser la vidéo et d’éviter la propagation potentielle de contenus trompeurs. Les créateurs peuvent désormais le faire grâce au nouveau label (ou à d’autres types de divulgations, comme un autocollant ou une légende)”. Si un créateur ne respecte pas cette nouvelle règle, il risque de voir son contenu supprimé de l’application.
Mais bien que la plateforme laisse aux créateurs le soin d’ajouter eux-mêmes l’étiquette, le géant chinois travaille néanmoins sur un moyen de reconnaître automatiquement de tels contenus. “Cette semaine, nous commencerons à tester une étiquette ‘généré par l’IA’ que nous prévoyons d’appliquer automatiquement aux contenus que nous détectons comme ayant été modifiés ou créés avec l’IA. Pour apporter plus de clarté autour des produits TikTok alimentés par l’IA, nous renommons également les effets TikTok AI pour inclure explicitement ’IA’ dans leur nom et leur étiquette d’effets correspondante, et nous avons mis à jour nos directives pour les créateurs d’Effet House afin qu’ils fassent de même”, déclare le réseau social.
Le groupe Meta travaille également sur une fonctionnalité pour alerter les spectateurs sur le fait que le contenu a été généré par l’IA. Et d’autres plateformes suivront probablement le mouvement.
Ces nouvelles fonctionnalités sont mises en place non seulement dans le cadre de la stratégie des réseaux sociaux pour contrer les deepfakes, mais aussi de leur obligation de se conformer à la Digital Services Act de l’Europe. Depuis le 25 août, cette réglementation européenne sur les services numériques rend obligatoire l’identification de tels contenus générés par l’IA dans l’intérêt de la transparence.
En juin, le Parlement européen a adopté une législation pour réglementer l’utilisation de l’intelligence artificielle. L'”AI Act” devrait être finalisé d’ici la fin de l’année.
