Anthropic versieht die von Claude geschriebenen Texte mit einem unsichtbaren Wasserzeichen

Anthropic hat begonnen, in die Texte seiner neuen Modelle eine maschinenlesbare Markierung einzufügen. Es ist kein Schriftzug, keine Fussnote und für das Auge nicht sichtbar: Es ist ein statistisches Signal, eingebettet in die Wahl und Anordnung der Wörter. Wer den Text liest, bemerkt es nicht; ein System, das danach sucht, findet es.

Praktisch bedeutet das, dass die Markierung das Kopieren und Einfügen übersteht. Darin liegt der Unterschied zu Metadaten, die gelöscht werden, sobald ein Text von einem Dokument in ein anderes wandert oder in ein Formular eingefügt wird. Anthropic hält fest, die Markierung verändere Bedeutung, Qualität und Lesbarkeit der Antwort nicht. Für erzeugte Dateien in den Formaten svg, png und jpg verwendet das Unternehmen dagegen signierte Metadaten nach dem offenen Standard C2pa, den ein Teil der Branche zur Herkunftsbescheinigung von Bildern übernommen hat.

Europäische Pflicht, weltweit angewendet

Die Massnahme erfüllt Artikel 50 der europäischen Verordnung über künstliche Intelligenz, die Bestimmung zu den Transparenzpflichten, die seit dem 2. August anwendbar ist und Anbieter generativer Systeme verpflichtet, künstlich erzeugte Inhalte erkennbar zu machen. Anthropic hat sich entschieden, die Markierung weltweit anzuwenden und nicht nur bei europäischen Nutzenden. Das ist ein wiederkehrender Entscheid unter grossen Plattformen: Zwei unterschiedliche Verhaltensweisen je nach Rechtsraum zu pflegen kostet mehr, als sich überall am strengsten Standard auszurichten.

Das Unternehmen kündigte an, die technischen Angaben zu veröffentlichen, die zum Erkennen der Markierung nötig sind, damit Nutzende und Dritte einen Inhalt prüfen können. Es nannte auch die Grenzen, und die sind erheblich: Ein Text kann unmarkiert bleiben, wenn er von einem früheren Modell stammt, wenn er stark überarbeitet wurde oder wenn er zu kurz ist, als dass das Signal erkennbar wäre. Daraus folgt, dass das Fehlen der Markierung nichts beweist. Das System kann bestätigen, dass ein Text von Claude stammt; es kann weder ausschliessen, dass er von einer anderen künstlichen Intelligenz kommt, noch feststellen, dass ihn ein Mensch geschrieben hat.

Das ist im Auge zu behalten, denn die naheliegendste Verwendung eines solchen Werkzeugs ist genau jene, die nicht funktioniert: eine Schulaufgabe oder eine Bewerbung darüber laufen zu lassen, um zu erfahren, ob sie echt ist. Die Markierung macht nachvollziehbar, was von einem Anbieter kommt, der sich zur Markierung entschieden hat. Über alles Übrige sagt sie nichts.