Skupina od dvadeset pet matematičara s Fieldsovom medaljom, najvišim priznanjem u tom području, potpisala je otvoreno pismo u kojem prigovara načinu na koji AI laboratoriji objavljuju rješenja poznatih matematičkih problema. Prigovor nije da strojevi rješavaju probleme, nego da se rezultati objavljuju u žurbi, bez vremena za uredan zapis i bez navođenja radova na kojima počivaju.

Ovo je važno jer matematika radi drukčije od tehnološke industrije. Dokaz nije gotov kad ga netko objavi, nego kad ga drugi matematičari pročitaju, provjere i prihvate. Taj postupak traje mjesecima, a ponekad i godinama, i cijeli je smisao u tome da netko treći nađe rupu ako je ima.

Što se konkretno prigovara

Prema izvještaju TechCruncha od 11. rujna, prigovori su tri vrste. Rezultati se objavljuju prije nego ih itko provjeri. Raniji radovi na kojima novi rezultat počiva ne navode se uredno. I treće, natjecanje tjera laboratorije na tajnost, što je suprotno od načina na koji je to područje radilo.

U pozadini je i konkretan spor. Tristan Buckmaster s njujorškog sveučilišta tvrdi da je OpenAI vršio pritisak da suradnika iz Anthropica ne navede kao zaslužnog. OpenAI je, prema istom izvještaju, povukao sponzorstvo događaja na CalTechu nakon kritika. Radna skupina matematičara još je u lipnju objavila takozvanu Leidensku deklaraciju o načinu rada s AI alatima.

Što je tvrdnja, a što provjereno

Optužba da je OpenAI nepropisno koristio podatke iz Codexa pri razvoju modela zasad je optužba, ne utvrđena činjenica. Ni tvrdnja o pritisku oko navođenja suradnika nije neovisno potvrđena. Ono što se da provjeriti jest da pismo postoji, da ima dvadeset pet potpisnika i da je sponzorstvo povučeno.

Zašto ovo nije samo svađa oko zasluga

Iza spora stoji praktično pitanje: tko snosi odgovornost kad se pokaže da dokaz nije točan. U dosadašnjem sustavu odgovara autor, a recenzenti su prva brana. Ako dokaz izađe iz sustava koji je pokrenula tvrtka, a nitko ga izvana nije pregledao, ta brana ne postoji.

Što pratiti

Zanimljivo će biti hoće li veliki časopisi i arhivi poput arXiva uvesti posebna pravila za radove nastale uz pomoć modela. To bi bio prvi znak da se struka prilagodila umjesto da se samo buni.