Ouvrir le menu principal

MacGeneration

Recherche

Google met SynthID, son outil de détection de texte généré par IA, en open source

Pierre Dandumont

vendredi 25 octobre 2024 à 17:00 • 11

Ailleurs

Google, dans un message sur X, vient d'annoncer que son outil SynthID était maintenant open source. Il s'agit d'une technologie qui permet de détecter les textes générés par une intelligence artificielle. C'est une bonne nouvelle, mais elle doit être prise pour ce qu'elle est : un outil supplémentaire pour ceux qui veulent détecter un texte généré par IA. En effet, SynthID, de l'aveu même de Google, n'est pas parfait.

Les parties en bleu permettent de détecter le texte généré par IA.

Le premier point à prendre en compte, c'est que SynthID ne détecte pas réellement les textes générés par IA, mais permet en réalité d'intégrer un filigrane invisible au moment de la génération, qui peut être ensuite récupéré. Il faut donc que le programme de génération emploie SynthID au départ, et c'est probablement la raison pour laquelle Google propose sa solution en open source. Si l'IA n'a pas intégré le filigrane, SynthID ne peut pas le détecter.

Le fonctionnement exact est compliqué mais voici les bases : les IA génératives travaillent en assemblant des token (un mot, une phrase, etc.) de manière statistique pour former des phrases cohérentes. Pour continuer la phrase « Ma couleur préférée est le… », il y a des choix plus probables (rouge, bleu, etc.) que d'autres (violet, zinzolin, cuisse de nymphe) et le principe de base des IA est de choisir le plus probable en fonction du contexte (de façon extrêmement schématique). Dans le cas du filigrane SynthID, l'idée est de modifier légèrement les choix, ce qui peut ensuite être détecté. Google indique que le résultat demeure toujours aussi fiable et que le texte généré devient détectable par les bons outils.

Un exemple imagé par Google.

Il n'est pas parfait, car il ne fonctionne tout simplement pas dans plusieurs cas. Le plus évident est celui d'une réponse factuelle à une question : les réponses ne peuvent pas être altérées. Le second problème vient de la réécriture d'un texte généré par IA, ou d'une traduction (simple ou double pour revenir à la langue d'origine) : ces deux voies cassent la détection du filigrane. Enfin, le message de Google1 parle explicitement de la version dédiée aux textes de SynthID, et pas de celle pensée pour les images par exemple.

SynthID : un filigrane de Google pour détecter les images générées par IA

SynthID : un filigrane de Google pour détecter les images générées par IA

Si l'idée de Google de rendre son outil open source est bonne, il faudra attendre de voir si les sociétés qui s'occupent des générateurs de textes suivront et intégreront SynthID.


  1. Un tweet, sur X qui est anciennement Twitter, vous le saviez ?  ↩︎

Rejoignez le Club iGen

Soutenez le travail d'une rédaction indépendante.

Rejoignez la plus grande communauté Apple francophone !

S'abonner

QEMU passe en version 10 et gagne quelques fonctions graphiques sur les Mac

23/04/2025 à 18:00

• 13


Kernel Panic : 20 ans d’Intel, merci et bon débarras ?

23/04/2025 à 17:00

• 3


OpenAI voudrait bien acheter Chrome, si le navigateur de Google était à vendre

23/04/2025 à 16:00

• 27


Intel pourrait licencier environ 20 000 personnes de plus

23/04/2025 à 15:03

• 12


Smash Smash, une app qui permet de se défouler (virtuellement) sur l’écran de son Mac

23/04/2025 à 14:00

• 13


Google ne changera rien pour les cookies tiers dans Chrome : l'abandon est bien abandonné

23/04/2025 à 12:12

• 19


Apple a mis à jour XProtect, l'anti-malware de macOS

23/04/2025 à 11:15

• 22


La troisième bêta de macOS 15.5 est disponible 🆕

23/04/2025 à 10:11

• 9


Choisissez le moniteur parfait pour votre Mac

23/04/2025 à 09:09

• 0


Tesla aurait de nouveau perdu de l’argent au premier trimestre 2025 sans les crédits carbone

23/04/2025 à 08:30

• 103


Apple réorganise Siri avec des équipes du Vision Pro

23/04/2025 à 08:13

• 9


Hausse de Netflix : Canal+ augmente légèrement le prix de l’option Premium, Free ne change rien pour le moment

22/04/2025 à 22:16

• 18


Le prochain routeur Starlink va être Wi-Fi 6E

22/04/2025 à 21:49

• 15


ChatGPT Search pourrait bientôt gagner ses galons de très grand moteur de recherche en Europe

22/04/2025 à 16:50

• 38


Pearl aurait repris l'enseigne Macway

22/04/2025 à 16:10

• 19


Counterpoint : le MacBook Air M4 et la crainte des droits de douane ont poussé les ventes d'Apple

22/04/2025 à 15:19

• 26