Conform Playtech.ro: Anthropic introduce marcaje invizibile pentru conținutul generat de AI
Compania Anthropic, un jucător important pe piața inteligenței artificiale, a anunțat implementarea unor noi măsuri de securitate menite să identifice conținutul creat de sistemele sale AI. Începând cu 2 august 2026, modelele sale de limbaj, precum Claude, vor integra „watermark-uri” ascunse, atât în text, cât și în imaginile generate. Aceste marcaje sunt concepute pentru a fi detectate de sisteme informatice, fără a fi vizibile ochiului uman.
Semnale ascunse în textul generat de AI
În cazul textelor, marcajul va fi integrat la nivelul caracterelor și cuvintelor prin modificări subtile, aproape imperceptibile pentru un cititor obișnuit. Aceste diferențe pot consta în spațierea neobișnuită, succesiunea anumitor elemente sau alte particularități ale structurii textului. Ideea principală este ca un algoritm să poată identifica aceste „semnale ascunse”, chiar dacă materialul pare a fi un text obișnuit.
Potrivit Anthropic, aceste watermark-uri sunt proiectate să reziste chiar și după ce textul este copiat și lipit în alte aplicații, cum ar fi Notepad sau TextEdit. Această măsură vizează toate modelele Claude lansate începând cu data specificată și nu se limitează la un anumit serviciu. Marcajul este integrat la nivelul modelului, permițând apariția sa indiferent de platforma prin care este generat conținutul, fie că este vorba de Claude direct, API, Claude Code, Claude Cowork sau alte produse bazate pe modelele companiei.
Semnătură digitală pentru imaginile generate de AI
Sistemul de marcare nu se oprește la conținutul textual. Și fișierele de imagine generate de Claude vor beneficia de o semnătură digitală. Aceasta va include informații despre proveniența imaginii, creatorul acesteia și eventualele modificări ulterioare. Formatul acestei semnături diferă de cel pentru text, implicând metadate semnate criptografic.
Dacă cineva încearcă să modifice aceste metadate pentru a ascunde faptul că o imagine a fost creată cu ajutorul inteligenței artificiale, semnătura criptografică va deveni invalidă. Acest mecanism poate fi deosebit de util în contextul răspândirii rapide a imaginilor pe internet, oferind un indicator tehnic, bazat pe proveniența fișierului, în locul unor simple detectoare de conținut AI. Anthropic a anunțat că va publica informații suplimentare cu privire la modul exact de detectare a acestor marcaje în viitor.
Sursa: Playtech.ro
