Anthropic appose un filigrane invisible sur les textes écrits par Claude

Anthropic a commencé à insérer une marque lisible par les machines dans les textes produits par ses nouveaux modèles. Ce n'est pas une mention, pas une note de bas de page et rien de visible à l'œil: c'est un signal statistique incorporé au choix et à l'agencement des mots. Qui lit le texte ne s'en aperçoit pas; un système qui sait le chercher le trouve.

La conséquence pratique est que la marque résiste au copier-coller. C'est la différence avec les métadonnées, effacées dès qu'un texte passe d'un document à un autre ou se retrouve collé dans un formulaire. Anthropic soutient que le marquage ne modifie ni le sens, ni la qualité, ni la lisibilité de la réponse. Pour les fichiers générés, aux formats svg, png et jpg, l'entreprise emploie en revanche des métadonnées signées selon la norme ouverte C2pa, celle qu'une partie de l'industrie a adoptée pour certifier l'origine des images.

Une obligation européenne appliquée partout

La mesure répond à l'article 50 du règlement européen sur l'intelligence artificielle, la disposition relative aux obligations de transparence devenue applicable le 2 août, qui impose aux fournisseurs de systèmes génératifs de rendre reconnaissables les contenus produits artificiellement. Anthropic a choisi d'appliquer le marquage dans le monde entier et non aux seuls utilisateurs européens. C'est une décision récurrente parmi les grandes plateformes: maintenir deux comportements distincts selon la juridiction coûte plus cher que de s'aligner partout sur la norme la plus stricte.

L'entreprise a annoncé qu'elle publierait les détails techniques nécessaires à la détection de la marque, afin que les utilisateurs et les tiers puissent vérifier un contenu. Elle en a aussi indiqué les limites, qui sont substantielles: un texte peut ne pas apparaître marqué s'il a été produit par un modèle antérieur, s'il a été lourdement réécrit ou s'il est trop court pour que le signal soit reconnaissable. Il s'ensuit que l'absence de marque ne démontre rien. Le système peut confirmer qu'un texte vient de Claude; il ne peut ni exclure qu'il vienne d'une autre intelligence artificielle, ni établir qu'une personne l'a écrit.

Cela mérite d'être gardé à l'esprit, car l'usage le plus naturel d'un tel outil est précisément celui qui ne fonctionne pas: y passer un devoir scolaire ou une candidature pour savoir s'ils sont authentiques. Le marquage rend traçable ce qui sort d'un fournisseur ayant décidé de le marquer. Sur tout le reste, il ne dit rien.