Ouvrir le menu principal

MacGeneration

Recherche

Google met SynthID, son outil de détection de texte généré par IA, en open source

Pierre Dandumont

vendredi 25 octobre 2024 à 17:00 • 11

Ailleurs

Google, dans un message sur X, vient d'annoncer que son outil SynthID était maintenant open source. Il s'agit d'une technologie qui permet de détecter les textes générés par une intelligence artificielle. C'est une bonne nouvelle, mais elle doit être prise pour ce qu'elle est : un outil supplémentaire pour ceux qui veulent détecter un texte généré par IA. En effet, SynthID, de l'aveu même de Google, n'est pas parfait.

Les parties en bleu permettent de détecter le texte généré par IA.

Le premier point à prendre en compte, c'est que SynthID ne détecte pas réellement les textes générés par IA, mais permet en réalité d'intégrer un filigrane invisible au moment de la génération, qui peut être ensuite récupéré. Il faut donc que le programme de génération emploie SynthID au départ, et c'est probablement la raison pour laquelle Google propose sa solution en open source. Si l'IA n'a pas intégré le filigrane, SynthID ne peut pas le détecter.

Le fonctionnement exact est compliqué mais voici les bases : les IA génératives travaillent en assemblant des token (un mot, une phrase, etc.) de manière statistique pour former des phrases cohérentes. Pour continuer la phrase « Ma couleur préférée est le… », il y a des choix plus probables (rouge, bleu, etc.) que d'autres (violet, zinzolin, cuisse de nymphe) et le principe de base des IA est de choisir le plus probable en fonction du contexte (de façon extrêmement schématique). Dans le cas du filigrane SynthID, l'idée est de modifier légèrement les choix, ce qui peut ensuite être détecté. Google indique que le résultat demeure toujours aussi fiable et que le texte généré devient détectable par les bons outils.

Un exemple imagé par Google.

Il n'est pas parfait, car il ne fonctionne tout simplement pas dans plusieurs cas. Le plus évident est celui d'une réponse factuelle à une question : les réponses ne peuvent pas être altérées. Le second problème vient de la réécriture d'un texte généré par IA, ou d'une traduction (simple ou double pour revenir à la langue d'origine) : ces deux voies cassent la détection du filigrane. Enfin, le message de Google1 parle explicitement de la version dédiée aux textes de SynthID, et pas de celle pensée pour les images par exemple.

SynthID : un filigrane de Google pour détecter les images générées par IA

SynthID : un filigrane de Google pour détecter les images générées par IA

Si l'idée de Google de rendre son outil open source est bonne, il faudra attendre de voir si les sociétés qui s'occupent des générateurs de textes suivront et intégreront SynthID.


  1. Un tweet, sur X qui est anciennement Twitter, vous le saviez ?  ↩︎

Rejoignez le Club iGen

Soutenez le travail d'une rédaction indépendante.

Rejoignez la plus grande communauté Apple francophone !

S'abonner

Elon Musk quitterait bientôt ses fonctions auprès de Donald Trump, sur fond de crise chez Tesla

02/04/2025 à 22:30

• 44


TikTok US : Amazon aurait fait une offre de rachat à quelques jours de la fin du délai

02/04/2025 à 21:15

• 2


La Nintendo Switch 2 sera disponible le 5 juin à 469 €

02/04/2025 à 21:05

• 106


Une fuite de données massive sur X toucherait potentiellement plusieurs milliards de comptes

02/04/2025 à 20:50

• 51


Promo : l'écran 4K LG UltraFine 32 avec une colonne ERGO est à 423 € (-250 €)

02/04/2025 à 20:30

• 18


La première beta de macOS 15.5 disponible pour les développeurs

02/04/2025 à 20:00

• 0


Substage fait appel aux intelligences artificielles génératives pour vous aider dans le Finder

02/04/2025 à 18:00

• 13


Quand FCP génère des dessins, Premiere Pro rallonge les vidéos avec son extension générative

02/04/2025 à 15:00

• 7


Refurb : 12 configurations de Mac mini M4 avec de bonnes réductions

02/04/2025 à 14:36

• 11


SpaceX tente de freiner le décollage d’Apple dans les satellites

02/04/2025 à 13:47

• 23


🆕 AirPods Max : Apple a repoussé la sortie du firmware pour l'audio lossless

02/04/2025 à 09:38

• 78


Dragonfly, un client Bluesky pour le Mac et l’iPad, en attendant l’iPhone, Android et Windows

02/04/2025 à 08:05

• 7


Un clavier any key, un Stream Deck avec 1 262 touches, une protection en herbe ou un casque qui traduit les joueurs : les 🐟 2025

01/04/2025 à 23:59

• 0


Un moniteur OLED 4K 32 pouces en promotion sous les 1 000 €

01/04/2025 à 21:45

• 25


Déjà en difficulté, MacWay a été placé en liquidation judiciaire 🆕

01/04/2025 à 17:25

• 89


BenQ : découvrez leurs écrans spécialement conçus pour Mac !

Partenaire