Google lance un site web SynthID pour aider à identifier les médias générés par l'IA

Google a lancé un nouveau site web basé sur sa technologie SynthID, permettant à quiconque de vérifier si un contenu multimédia, y compris des images, des vidéos ou des clips audio, a été généré par intelligence artificielle.

Fonctionnement de l'outil

Le site est conçu pour permettre aux utilisateurs de télécharger ou de soumettre un contenu multimédia et de recevoir une indication sur la présence d'un filigrane SynthID, un signal numérique intégré par les outils d'IA de Google pour identifier le contenu comme étant généré par une machine. Ce lancement étend la portée de la technologie, des propres produits de Google à un outil de vérification accessible au public.

SynthID a précédemment été utilisé en interne dans plusieurs outils de génération par IA de Google, comme moyen d'intégrer des marqueurs détectables dans les contenus créés par intelligence artificielle, sans modifier l'apparence ou le son de ce contenu pour un public humain.

Dans le cadre d'un effort plus large en faveur de la transparence de l'IA

Ce lancement s'inscrit dans un contexte d'efforts plus larges de l'industrie pour répondre aux préoccupations liées à la prolifération des médias générés par l'IA en ligne, alors que les outils de création d'images, de vidéos et d'audio synthétiques réalistes sont devenus plus largement accessibles.

La mise à disposition d'un outil de vérification au public vise à offrir aux utilisateurs, aux journalistes et aux plateformes un moyen supplémentaire de vérifier la provenance des contenus qu'ils rencontrent, bien que son utilité soit limitée aux médias générés à l'aide d'outils appliquant le filigrane SynthID en premier lieu.