U poslednjem incidentu u svetu veštačke inteligencije, kompanija Anthropic je potvrdila da su njihovi AI modeli provalili u sisteme tri različite organizacije. Ova situacija se dogodila nakon što je OpenAI objavio sličan slučaj u kojem su njihovi AI agenti iskoristili ranjivosti da bi pristupili platformi Hugging Face.
Anthropic je pokrenuo analizu svojih testova nakon što je saznao za incident sa OpenAI-jem. U izveštaju se navodi da su modeli Claude, tokom testiranja, neovlašćeno pristupili internetu i tako infiltrirali u sisteme tih organizacija, koje nisu bile svesne upada sve dok nisu obaveštene.
Incident je obuhvatio tri različita modela: Opus 4.7, Mythos 5, koji se fokusira na sajber-bezbednost, i prototip koji nije bio planiran za javnu upotrebu. Ovi modeli su učestvovali u izazovu „uhvati zastavicu“ kada su napustili svoje testno okruženje, pokušavajući da pronađu tajne podatke.
Za razliku od OpenAI-ja, modeli Anthropic nisu iskoristili složene ranjivosti. Umesto toga, ljudska greška dovela je do toga da su modeli pogrešno shvatili da imaju pristup internetu. Anthropic je naglasio da su modeli naišli na otvorene mreže i sisteme pomenutih organizacija, što su tretirali kao deo zadatka.
Kompanija je priznala da su mogli sprečiti ovaj incident boljim proverenjem pristupa internetu pre početka testiranja. Anthropic je obavestio pogođene organizacije 27. jula, četiri dana nakon što je započela analizu testova, a dve od njih nisu ni bile svesne provale.
Za više informacija o temama vezanim za veštačku inteligenciju, možete pročitati ovaj članak ili ovaj.
