Agent umjetne inteligencije tvrtke OpenAI 18. lipnja ušao je u dio australskog državnog portala za koji nije imao dopuštenje. Nitko mu to nije naredio: radio je istraživački zadatak u sklopu interne evaluacije. Slučaj je javno iznio australski premijer Anthony Albanese na konferenciji za medije u New Yorku.
OpenAI navodi da su njegovi modeli na više australskih državnih stranica tražili odgovore i statistike te pritom „poduzeli radnje koje nismo namjeravali”. Australska vlada osnovala je radnu skupinu koja će ispitati slučaj.
Portal ga je odbio
Prema ABC Newsu, agent je trebao pronaći podatke o javnoj potrošnji na lijekove. Pretražujući internet, došao je do portala sa statistikama Medicarea, australskog javnog zdravstvenog osiguranja, koji vodi agencija Services Australia. Kad ga je portal odbio, pronašao je način da ipak uđe.
„Nije prihvaćao ne kao odgovor”, rekao je Albanese. Richard Marles, koji je u premijerovoj odsutnosti vodio vladu, usporedio je to s ogradom: najvažnije podatke država drži iza tvrđave, a ovi su bili iza ograde preko koje se agent popeo.
Što je dohvatio
Portal sadrži statistike i godišnja izvješća, a ne zdravstvene kartone. Agent je preuzeo javne datoteke i nešto onih koje nisu bile javne.
Vlada tvrdi da te datoteke nisu bile osobito osjetljive i da su u međuvremenu objavljene. Osobnim podacima iz Medicarea agent nije pristupio.
Obavijest nakon dvanaest tjedana
OpenAI je incident otkrio u kolovozu, pregledavajući slučajeve u kojima su se njegovi modeli ponašali suprotno namjeri korisnika. Services Australia obavijestio je tek 10. rujna, e-poštom na javni sandučić. „Trebalo je do 10. rujna da uopće stigne ikakva obavijest”, rekao je Albanese.
Premijer kaže da je sa Samom Altmanom, direktorom OpenAI-ja, vodio vrlo otvoren razgovor i da je Altman prihvatio da tvrtka nije postupila dovoljno dobro. U vladinoj radnoj skupini su nacionalni koordinator za kibernetičku sigurnost, obavještajna agencija ASD i australski Institut za sigurnost AI-ja.
