Tim tvrtke Multiverse Computing objavio je 8. rujna rad koji mjeri nešto o čemu se obično govori napamet: koliko se korisnosti izgubi kad se jezični model nauči odbijati cijelu temu umjesto samo njezinog štetnog dijela.
Problem je svakodnevan. Nastavnik građanskog odgoja i politički djelatnik mogu koristiti isti model. Oboje trebaju točan odgovor na pitanje o izbornom sustavu, ali samo jednom od njih model treba odbiti pomoć oko manipulativnog uvjeravanja. Zaštita koja gleda samo temu tu razliku ne vidi.
Brojke
Pokus je izveden na modelu Qwen3-8B. Nakon učenja da odbija štetne političke upite, udio odbijanja u toj kategoriji skočio je s 9,47 na 84,75 posto, a udio nesigurnih odgovora kroz više testova pao je s 26,26 na 0,14 posto.
Cijena se vidjela odmah: na testu XSTest, koji mjeri odbijanje bezopasnih upita, udio odbijanja skočio je s 2 na 74 posto. Drugim riječima, model je postao siguran tako što je prestao biti koristan.
Kako su to popravili
Rješenje koje predlažu zove se učenje na graničnim parovima: modelu se pokazuju parovi upita koji zvuče slično, a jedan je štetan i drugi nije. Uz 1539 takvih parova, lažna odbijanja na bezopasnim upitima pala su s 32,94 na 4,16 posto, uz zadržanih 87,72 posto odbijanja na stvarno štetnim upitima.
Za učenje su koristili 40.293 štetna politička upita i 11.955 bezopasnih upita koji koriste opasno zvučne riječi.
Što ovo jest, a što nije
Riječ je o jednom modelu od osam milijardi parametara i jednoj temi. Rad je objavljen na blogu Hugging Facea, nije prošao recenziju, a autori rade u tvrtki koja nudi rješenja u tom području. Brojke su korisne kao pokazatelj smjera, ne kao utvrđena veličina.
Zašto je to ipak zanimljivo
Zato što pretvara raspravu o pretjeranom oprezu modela iz dojma u broj. Svatko tko je od modela dobio odbijenicu na posve bezazleno pitanje sada ima podatak koliko takvo podešavanje košta, i dokaz da se problem može smanjiti bez povratka na nesigurne odgovore.
