OpenAI ajoute désormais un filigrane aux voix générées, avec un outil public pour les vérifier
Les sons générés par GPT-Live dans ChatGPT Voice ou via l’API contiennent maintenant un filigrane SynthID invisible, lisible par l’outil public de vérification d’OpenAI.
Les sons produits par GPT-Live, dans ChatGPT Voice comme via l’API, contiennent désormais un filigrane SynthID. L’outil public d’OpenAI sait lire ces signaux dans les fichiers audio et une API permet aux entreprises d’intégrer le contrôle à leurs systèmes sans téléversement manuel.
Deux preuves différentes sont incorporées. Les identifiants C2PA sont des métadonnées signées attachées au fichier pour indiquer son origine. Faciles à lire, elles disparaissent aussi facilement lors d’un réencodage, d’une capture ou du passage par une messagerie. SynthID, conçu par Google DeepMind, modifie imperceptiblement le contenu lui-même ; son signal résiste au découpage, aux filtres et à la compression avec pertes. OpenAI emploie les deux et l’outil indique ceux qu’il détecte.
Sa conclusion reste très limitée. Un résultat positif confirme la présence de signaux de provenance OpenAI. Un résultat négatif ne prouve presque rien : le son peut venir d’un autre générateur sans filigrane ou avoir été assez transformé pour détruire la marque. Le filigrane confirme une origine, ce n’est pas un détecteur de mensonge.
Ce qui se joue. Le clonage vocal a causé les dommages les plus concrets des médias synthétiques, notamment par des appels imitant un proche ou un dirigeant. La détection de texte a échoué et celle d’images provoque trop de fausses accusations. L’audio offre davantage de place pour cacher un signal. Le pari est que si assez de grands générateurs marquent leurs créations, l’absence de marque deviendra elle-même un faible indice. Il exige une adoption générale et s’effondre dès qu’un modèle ouvert performant sans filigrane se diffuse, ce qui existe déjà.
Ce que cela signifie pour vous : Si un message vocal semble suspect, vous disposez d’un point de contrôle ; un filigrane OpenAI confirmé fournit une réponse solide. Une absence de résultat n’apporte aucune information. Face à une voix connue réclamant argent ou identifiants dans l’urgence, raccrochez et rappelez un numéro déjà enregistré. Dans le journalisme, les ressources humaines ou tout domaine où l’audio sert de preuve, l’API mérite d’être intégrée comme un signal parmi d’autres, jamais comme arbitre unique.
Sources
Sources: https://openai.com/index/advancing-content-provenance/
Un fonds spéculatif dédié à l’IA annonçait 439 % de rendement, puis a presque tout vendu quelques jours plus tard
Après des appels de marge, Situational Awareness, le fonds de Leopold Aschenbrenner, a dû céder son portefeuille coté à Citadel. Sa thèse sur l’essor de l’IA n’était pas forcément fausse ; l’argent emprunté l’était.
