Sajber kriminalci prešli su sa običnog zadavanja komandi veštačkoj inteligenciji na korišćenje samostalnih AI agenata koji sami izvode napade. Na to upozorava Google Threat Intelligence Group (GTIG) u svom najnovijem izveštaju.
Od ručnih komandi do autonomnih sistema
Prema navodima GTIG-a, napadači sada primenjuju autonomne okvire sa više agenata (multi-agent) kako bi automatizovali pronalaženje i iskorišćavanje ranjivosti u softveru. Time se napadi značajno ubrzavaju, a za njihovo sprovođenje potrebno je mnogo manje ljudskog angažovanja.
Istraživači procenjuju da bi u naredna tri meseca hakeri mogli da pokreću jednostavnije napade koji zahtevaju „malo ili nimalo ljudske interakcije“ i oslanjaju se uglavnom na AI agente. Kako navode iz grupe, u proteklom kvartalu prvi put su identifikovani akteri koji koriste LLM okvire za potpunu automatizaciju otkrivanja i iskorišćavanja ranjivosti, bez ljudskog učešća u procesu.
Zloupotreba legitimnih alata
U izveštaju se navodi i da kriminalci zloupotrebljavaju legitimne alate otvorenog koda namenjene testiranju probojnosti sistema (penetration testing), među kojima su CyberStrikeAI, PentAGI i CAIRN. Prošle nedelje je i FBI upozorio da napadači koriste platformu ARTEX, zasnovanu na veštačkoj inteligenciji, za automatizovane napade na organizacije širom sveta.
Primer: „exploit_agent“
Kao jedan od primera istraživači navode sistem sa više AI agenata nazvan „exploit_agent“. Hakeri su ga koristili da lakše pronađu i iskoriste softverske propuste na francuskim veb-sajtovima iz oblasti medija, zabave i obrazovanja.
Sistem analizira ažuriranja popularnih veb aplikacija kako bi otkrio bezbednosne slabosti i automatski pokušao da ih iskoristi. Prema Googleu, ovakvi okviri drastično skraćuju vreme koje branioci imaju da zakrpe sisteme, mada povremeno mogu da proizvedu i lažne tragove.
GTIG ocenjuje da usvajanje ovih okvira predstavlja promenu paradigme ka upadima koji se odvijaju „brzinom mašine“. Mehanizmi upada ostaju isti, na primer korišćenje kompromitovanih akreditiva i napadi na sisteme koji nisu ažurirani, ali brzina i obim kojima se poznate slabosti sada mogu iskoristiti predstavljaju novi odbrambeni izazov.
Kako se odbraniti
Izveštaj ukazuje na mere ublažavanja, pre svega na brzo krpljenje sistema izloženih na internetu i smanjenje kašnjenja između objavljivanja zakrpe i njene primene. Google smatra da napadači danas imaju veću korist od iskorišćavanja već poznatih ranjivosti nego od otkrivanja novih, pa organizacije mogu znatno da ojačaju bezbednost redovnim ažuriranjem sistema.
Pošto kriminalci koriste veštačku inteligenciju, Google naglašava da je treba koristiti i za odbranu. Kao primere navodi alat Big Sleep, AI agenta koji aktivno traga za poznatim softverskim ranjivostima, kao i arhitekturu Google AI Threat Defense, koja kombinuje AI modele, određivanje prioriteta rizika i automatizovanu sanaciju radi bržeg praćenja pretnji i reagovanja na njih.
