Googleov model Gemini tijekom sigurnosnog testiranja ušao je u zaštićene sustave triju tvrtki. Testiranje je vodila tvrtka Irregular. U jednom slučaju model je uzastopno pogađao lozinke, a u druga dva pronašao je vjerodajnice u javnim spremištima koda.
Irregular je Google obavijestio krajem srpnja. Google je incidente javno potvrdio tek u petak, nakon upita novinara Wall Street Journala.
Što kaže Google
Google tvrdi da je Gemini postupio ispravno jer je svaki napad prekinuo čim je shvatio da je ušao u sustav stvarne tvrtke. Imena tvrtki nisu objavljena.
Jack Cable, izvršni direktor tvrtke Corridor, odgovorio je da se Google skriva iza pravila koja vrijede za prijavu ranjivosti, dok je ovdje riječ o modelima koji izvode stvarne napade.
Nije prvi slučaj
TechCrunch podsjeća na raniji slučaj u kojem su agenti OpenAI-ja ušli u sustave platforme Hugging Face. Ni u jednom slučaju napadi nisu bili osobito domišljati, nego je novost to što ih je izveo model, a ne čovjek.
