Tekst koji napiše Claude od 11. kolovoza nosi žig po kojem se može prepoznati. Ne vidi se, ne mijenja smisao rečenice i ne može ga otkriti čovjek.
Anthropic je tada objavio da svi budući modeli ugrađuju vodeni žig. Google isto radi na izlazu Geminija preko sustava SynthID-Text, a OpenAI je najavio svoju verziju. IEEE Spectrum je 9. rujna objavio pregled kako to radi.
Dosadašnji detektori gledali su stil i vjerojatnost riječi, griješili toliko da su optuživali i ljude, pa su ih mnoga sveučilišta odbacila. Žig je prva tehnika koja ne počiva na pogađanju.
Zelene i crvene riječi
Nije skriveni znak ni podatak u datoteci, nego promjena u načinu biranja riječi. Model ih razvrsta u dvije skupine i onima iz prve malo poveća vjerojatnost. Nijedna pojedina riječ nije dokaz, ali u duljem tekstu udio tih riječi postaje veći nego što bi bio slučajno.
„Ako uzorkujemo iz tako promijenjene raspodjele, pojedini odabir ne mora doći iz povlaštene skupine, ali kroz mnogo odabira prevaga se vidi", objašnjava John Kirchenbauer s Vector instituta, autor rada iz 2023. na kojem postupak počiva.
Kratki tekst izmiče
Kirchenbauerova metoda postiže 98,4 posto otkrivanja bez lažnih uzbuna na odgovorima od oko 200 tokena. Googleov SynthID-Text u najboljem slučaju dolazi do 95 posto, ali na kratkim odgovorima pada ispod polovice. Da bi se žig uklonio, treba promijeniti otprilike četvrtinu riječi ili više.
Vinu Sankar Sadasivan iz Mete navodi da bi za objavu od dvadeset riječi trebalo da više od pola dođe iz povlaštene skupine da bi se žig pouzdano prepoznao. Komentari, naslovi i kratke poruke tako ostaju izvan dosega.
Ključ ima samo proizvođač
Ovaj dio se najmanje spominje. Žig može očitati samo onaj tko ima ključ. Nastavnik, urednik ili sudac ne mogu sami provjeriti tekst nego ovise o tome hoće li tvrtka ponuditi uslugu provjere i pod kojim uvjetima.
Dok svaka ima svoj ključ i svoj sustav, vodeni žig rješava problem samo onome tko ga je postavio.
