Anthropic je 11. kolovoza objavio da svi budući modeli Claude ugrađuju vodeni žig u tekst koji napišu. Google isto radi na izlazu modela Gemini preko sustava SynthID-Text, a OpenAI je najavio da će uvesti svoju verziju. IEEE Spectrum je 9. rujna objavio pregled kako to zapravo radi.

Za nekoga tko prima tekstove od studenata, novinara ili suradnika, ovo je prva tehnika otkrivanja koja ne počiva na pogađanju. Dosadašnji detektori gledali su stil i vjerojatnost riječi i griješili su toliko da su optuživali i ljude, pa su mnoga sveučilišta od njih odustala.

Kako žig izgleda iznutra

Žig nije skriveni znak ni podatak u datoteci, nego promjena u načinu biranja riječi. Model riječi razvrsta u dvije skupine, uvjetno zelenu i crvenu, i riječima iz zelene malo poveća vjerojatnost. Nijedna pojedina riječ nije dokaz, ali kroz dulji tekst udio zelenih riječi postaje veći nego što bi bio slučajno. John Kirchenbauer s Vector instituta, autor rada iz 2023. na kojem postupak počiva, objašnjava da odabir pojedine riječi ne mora doći iz povlaštene skupine, ali kroz mnogo odabira prevaga se vidi.

Brojke i granice

Kirchenbauerova metoda iz 2023. postiže 98,4 posto otkrivanja bez lažnih uzbuna na odgovorima od oko 200 tokena. Googleov SynthID-Text u najboljem slučaju dolazi do 95 posto, ali na kratkim odgovorima pada ispod 50 posto. Da bi se žig uklonio, treba promijeniti otprilike četvrtinu riječi ili više.

Ograničenje je, dakle, duljina. Vinu Sankar Sadasivan iz Mete navodi da bi za objavu od dvadeset riječi trebalo da više od pola riječi dođe iz zelene skupine da bi se žig pouzdano prepoznao. Kratke poruke, komentari i naslovi ostaju izvan dosega.

Tko uopće može provjeriti

Ovo je dio koji se najmanje spominje: žig može očitati samo onaj tko ima ključ za otkrivanje. Nastavnik, urednik ili sudac ne mogu sami provjeriti tekst, nego ovise o tome hoće li tvrtka koja je model napravila ponuditi uslugu provjere i pod kojim uvjetima.

Što pratiti

Pitanje koje odlučuje o svemu jest hoće li se tvrtke dogovoriti oko zajedničkog načina provjere. Dok svaka ima svoj ključ i svoj sustav, vodeni žig rješava problem samo onome tko ga je postavio.