Les géants de la tech promettent des filigranes pour révéler les créations d’IA

La Maison Blanche a déclaré le 21 juillet que OpenAI et d’autres acteurs de la course à l’intelligence artificielle se sont engagés à rendre leur technologie plus sûre en utilisant des fonctionnalités telles que des filigranes sur les images fabriquées. « Ces engagements, que les entreprises ont choisi de prendre immédiatement, soulignent trois principes qui doivent être fondamentaux pour l’avenir de l’IA – la sécurité, la sûreté et la confiance – et marquent une étape cruciale vers le développement d’une IA responsable », a déclaré la Maison Blanche dans un communiqué. Des représentants d’Amazon, Anthropic, Google, Inflection, Meta, Microsoft et OpenAI devaient rejoindre le président américain Joe Biden plus tard vendredi pour annoncer ces engagements, qui comprennent le développement de « mécanismes techniques robustes » tels que des systèmes de filigranes pour garantir que les utilisateurs sachent quand le contenu est généré par l’IA, selon un responsable de la Maison Blanche. Les craintes que des images ou des sons créés par l’intelligence artificielle soient utilisés pour la fraude et la désinformation se sont intensifiées à mesure que la technologie s’améliore et que l’élection présidentielle américaine de 2024 approche. Des moyens de détecter si un son ou une image a été généré artificiellement sont recherchés pour empêcher les gens d’être trompés par des faux qui semblent réels. « Ils s’engagent à mettre en place un régime plus large pour permettre aux consommateurs de savoir plus facilement si le contenu est généré par l’IA ou non », a déclaré le responsable de la Maison Blanche. « Il y a du travail technique à faire, mais l’objectif est que cela s’applique au contenu audio et visuel et qu’il fasse partie d’un système plus large. » L’objectif est de faciliter aux gens de savoir quand le contenu en ligne est créé par l’IA, a ajouté le responsable. Les engagements des entreprises comprennent des tests indépendants des systèmes d’IA pour évaluer les risques en matière de biosécurité, de cybersécurité ou d' »effets sociétaux », selon la Maison Blanche. Common Sense Media a salué la Maison Blanche pour son « engagement à établir des politiques essentielles pour réglementer la technologie de l’IA », selon le directeur général de l’organisation, James Steyer. « Cela dit, l’histoire montre que de nombreuses entreprises technologiques ne tiennent pas réellement leurs promesses de s’engager de manière responsable et de soutenir des réglementations strictes. » Biden travaille également sur un décret visant à garantir que l’IA soit sûre et digne de confiance, selon le responsable de la Maison Blanche. Les filigranes pour le contenu généré par l’IA étaient parmi les sujets discutés par le commissaire européen Thierry Breton avec le directeur général de OpenAI, Sam Altman, lors d’une visite à San Francisco en juin. « J’ai hâte de poursuivre nos discussions – notamment sur les filigranes », a écrit Breton dans un tweet accompagné d’un extrait vidéo de lui et Altman. Dans la vidéo, Altman a déclaré qu’il « aimerait montrer » ce que OpenAI fait avec les filigranes « très bientôt ». La Maison Blanche a également déclaré qu’elle travaillerait avec ses alliés pour établir un cadre international pour la développement et l’utilisation de l’IA. – AFP