AI agent u tvrtki može pisati kod, otvarati datoteke i koristiti lozinke. Kontext, startup iz Münchena, svaku takvu radnju provjerava prije nego što se dogodi. Za to je prikupio četiri milijuna dolara u krugu koji je predvodio fond 42CAP, uz a16z CSX i HTGF.
Tvrtku su osnovali Jens Ernstberger i Michel Osswald. Novac će, kako navode, otići na zapošljavanje inženjera i razvoj platforme.
Prijava nije dovoljna
Današnji sigurnosni alati uglavnom provjeravaju tko se prijavio i koje aplikacije smije koristiti. Agent može proći sve te provjere i ipak napraviti nešto što nitko nije htio.
„AI agent može biti ispravno prijavljen, koristiti odobren alat i svejedno poduzeti radnju koju nitko nije odobrio”, kaže Ernstberger.
Julian von Fischer, partner u 42CAP-u, isto vidi s ulagačke strane. Alati za identitet i pristup iz posljednjih dvadeset godina, tvrdi, pretpostavljaju da je s druge strane čovjek koji klikne jednu po jednu stvar.
Najprije samo gleda
Kontext stoji između agenta i sustava s kojima agent radi. Svaki zahtjev procjenjuje prema pravilima tvrtke: koji agent traži, što želi napraviti i u sklopu kojeg zadatka. Pritom gleda i znakove rizika.
Tvrtka ga može najprije pustiti u načinu promatranja, u kojem samo bilježi kako se agenti ponašaju i što je rizično, a da ne prekida posao. Kasnije ga može pustiti da blokira radnje koje krše pravila. Svaka odluka ostaje zapisana za reviziju.
