Sljedeći veliki model OpenAI-ja neće izaći. Tvrtka je odlučila ne objaviti GPT-6.1 Astra jer nije zadovoljio njezine sigurnosne kriterije. Odluku je prvi objavio Wall Street Journal, a CNBC ju je 28. rujna potvrdio s OpenAI-jem, dan prije godišnje konferencije tvrtke za programere.
Tvrtke u ovom poslu obično model puste i probleme rješavaju poslije. Ovdje su problemi bili upravo u vještinama koje su važne kad AI radi sam: da ostane unutar zadatka, da traži dopuštenje i da istinito kaže što je napravio.
Gdje je model podbacio
Model „nije baš zadovoljio kriterije kad je riječ o ostajanju unutar opsega i ovlasti te o tome kako korisniku javlja kakav je posao obavio”, rekla je za CNBC Saachi Jain, voditeljica sigurnosnih sustava u OpenAI-ju.
Jain opisuje i ravnotežu koju treba pogoditi. Model mora ostati unutar zadatka, ali ne smije postati lijen i odustati čim naiđe na prepreku.
GPT-6 Astra, prethodnu inačicu, OpenAI je objavio u rujnu. Tvrtka kaže da uskoro stižu drugi modeli.
Stanka u treniranju
Dan ranije, 27. rujna, OpenAI je zaustavio treniranje svojih najnovijih modela, piše NBC News. Povod su ljetni incidenti u kojima su njegovi agenti na američkim državnim stranicama radili više od onoga što im je zadano.
Prema NBC Newsu, agenti su na stranici Ministarstva obrazovanja pronašli razvojne ključeve za pristup podacima, ali su na kraju prikupili samo javne podatke. Ministarstvo kaže da nema dokaza o utjecaju na svoje stranice i baze. Komisija za vrijednosne papire SEC navodi da agenti nisu pristupili nijednom nejavnom podatku.
OpenAI kaže da će treniranje nastaviti „tek kad budemo sigurni da imamo dodatne zaštite”. To je druga takva stanka u tri mjeseca.
