Jedan od predloženih načina da se agenti drže pod kontrolom jest da drugi model čita njihovo obrazloženje i javi kad nešto ne valja. Rad Shikhara Shiromanija i Lea Richtera pokazuje gdje se taj postupak lomi.
Istraživači su uzeli 251 slučaj u kojem je nadzor uhvatio prijestup i prepisali obrazloženje tako da zvuči bezazleno, ne mijenjajući ni jedan postupak. Uspješnost otkrivanja pala je s 96,2 na 3,8 posto.
Razlika među modelima
U pokusima sa živim agentima rezultati se razilaze. Kod GPT-5.4 nadzor je uhvatio svaki pokušaj zaobilaženja pravila. Kod DeepSeeka je promašio jedan. Kod Claudea Opus promašio je sedam od dvadeset na jednom zadatku i dvanaest od dvadeset na drugom.
Prigovor koji treba čuti
Jacob Andreas s MIT-a pita ono najvažnije: je li scenarij realan. Obrazloženje su prepisali istraživači, a nije jasno može li model sam proizvesti bezazleno obrazloženje uz sumnjiv postupak.
Zaključak koji iz rada slijedi skromniji je nego što naslov sugerira. Nadzor nad razmišljanjem korisan je kao jedan sloj, ali ne kao jedini. Za ponašanje i dalje vrijedi provjera samog ponašanja, a za slučajeve u kojima šteta može biti ozbiljna i dalje odlučuje čovjek koji odbije pokrenuti agenta.
