Anthropic mette una filigrana invisibile nei testi scritti da Claude

Anthropic ha cominciato a inserire un contrassegno leggibile dalle macchine nei testi prodotti dai suoi nuovi modelli. Non è una scritta, non è una nota a piè di pagina e non è visibile all'occhio: è un segnale statistico incorporato nella scelta e nella disposizione delle parole. Chi legge il testo non se ne accorge; un sistema che sappia cercarlo lo trova.

La conseguenza pratica è che il contrassegno resiste al copia e incolla. È la differenza rispetto ai metadati, che vengono cancellati non appena un testo viene spostato da un documento a un altro o incollato in un modulo. Anthropic sostiene che la marcatura non modifica il significato, la qualità o la leggibilità della risposta. Per i file generati, nei formati svg, png e jpg, l'azienda usa invece metadati firmati secondo lo standard aperto C2pa, quello adottato da una parte dell'industria per certificare l'origine delle immagini.

L'obbligo europeo, applicato ovunque

La misura risponde all'articolo 50 del regolamento europeo sull'intelligenza artificiale, la norma sugli obblighi di trasparenza che è diventata applicabile il 2 agosto e che impone ai fornitori di sistemi generativi di rendere riconoscibili i contenuti prodotti artificialmente. Anthropic ha scelto di applicare la marcatura in tutto il mondo e non solo agli utenti europei. È una decisione ricorrente fra le grandi piattaforme: mantenere due comportamenti diversi a seconda della giurisdizione costa più che adeguarsi ovunque allo standard più severo.

L'azienda ha annunciato che pubblicherà i dettagli tecnici necessari a rilevare il contrassegno, in modo che utenti e terze parti possano verificare un contenuto. Ha anche indicato i limiti, che sono sostanziali: un testo può non risultare marcato se è stato prodotto da un modello precedente, se è stato riscritto in modo pesante o se è troppo corto perché il segnale sia riconoscibile. Ne consegue che l'assenza del contrassegno non dimostra nulla. Il sistema può confermare che un testo viene da Claude, non può escludere che venga da un'altra intelligenza artificiale né stabilire che sia stato scritto da una persona.

Vale la pena tenerlo presente, perché il modo più naturale di usare uno strumento del genere è esattamente quello che non funziona: passarci sopra un compito scolastico o una candidatura per sapere se sia autentica. La marcatura rende tracciabile ciò che esce da un fornitore che ha deciso di marcarlo. Su tutto il resto non dice niente.