ChatGPT va filigraner ses textes en Europe pour respecter l'AI Act

OpenAI vient de présenter textGrain, sa solution pour marquer discrètement les textes produits par ChatGPT et Codex, afin de coller aux exigences européennes sur l'IA. Le principe reprend celui de SynthID, déjà utilisé par Claude chez Anthropic : au lieu de choisir chaque mot uniquement selon sa pertinence dans la phrase, le modèle privilégie subtilement certains mots qui servent ensuite de preuve que le texte vient bien d'une IA. En théorie, ça ne change rien au sens ni à la qualité du texte, et OpenAI assure que l'écart est minime, de l'ordre de quelques dixièmes de points sur ses tests avec GPT-6 Astra.

Là où ça se corse, c'est sur l'efficacité réelle du système. Il faut un texte assez long pour que la détection soit fiable : seulement 80% de réussite sur 200 mots environ, mais 95% si on double la longueur. Et surtout, il suffit de retoucher le texte à la main pour brouiller les pistes : changer 10% des mots fait chuter la détection de 30 points, et à 25% de mots modifiés, il ne reste plus que 7% de chances de repérer l'origine IA. Autant dire que c'est loin d'être infaillible face à quelqu'un qui veut vraiment contourner le système.

Pour l'instant, ce marquage ne concernera que les utilisateurs européens de ChatGPT et Codex, OpenAI préférant tester l'impact à grande échelle avant d'étendre la mesure, contrairement à Anthropic qui l'a activée partout d'un coup. Du côté de l'API, textGrain est déjà disponible mais seulement sur demande explicite, et le contenu n'est pas modifié par défaut.

Autre point important : OpenAI ne donne pas encore accès à un outil permettant de vérifier si un texte a été marqué, contrairement à ce qui existe déjà pour les images et l'audio. Seuls quelques chercheurs et organisations triés sur le volet pourront y accéder pour le moment, la firme promettant un élargissement futur sans donner de date précise.