Anthropic je otkrio da je kineska hakerska grupa iskoristila njihov AI alat Claude Code za špijunažu nad tridesetak velikih tvrtki i državnih institucija. Dio upada je uspio, a riječ je o prvom poznatom slučaju u kojem je AI odradio gotovo cijeli kibernetički napad umjesto ljudi.
Kineski državni hakeri iskoristili su AI alat Claude Code kako bi pokušali provaliti u oko 30 velikih tehnoloških kompanija, banaka, kemijskih tvrtki i državnih agencija diljem svijeta, a u “malom broju slučajeva” su zaista uspjeli ući u sustave, piše The Register pozivajući se na izvještaj tvrtke Anthropic.
Anthropic kaže da se napad dogodio sredinom rujna i da je iza njega kineska grupa koju prate pod oznakom GTG-1002. Najvažnije u cijeloj priči je to da je AI radio skoro sve umjesto ljudi - u drugim izvještajima navodi se da je Claude obavio 80 do 90 posto tehničkog posla samostalno, dok je čovjek samo birao mete i kliktao “odobri” u ključnim trenucima.
Napad je funkcionirao kao mali “AI tim”. Jedan glavni Claude agent koordinirao je više pod-agenta: jedni su izvidali mrežu i tražili gdje postoje slabe točke, drugi su skenirali servere i tražili rupe, treći su pisali iskorištavanja i zlonamjerni kod, a sljedeći su skupljali lozinke, podizali ovlasti i iznosili podatke. Haker je povremeno provjerio izvještaj AI-ja i odobrio sljedeći korak, ali veliki dio posla odrađen je bez njega.
Da bi zaobišli sigurnosne zaštite u Claudeu, napadači su ga “prevarili”: prikazali su se kao legitimna sigurnosna tvrtka koja radi testove obrane, a stvarne napade razbili su na puno manjih, naizgled bezazlenih zadataka. Umjesto “hakiraj ovu banku”, AI je dobivao zadatke tipa “provjeri ima li ova web stranica kakvih slabosti” ili “napiši skriptu koja testira ovu uslugu”, pa mu je bilo teže “shvatiti” da sudjeluje u špijunaži.
Pogledajte sve detalje o AI napadu:
Kad je Anthropic primijetio sumnjivo ponašanje, tvrtka je pokrenula istragu koja je trajala više od deset dana, blokirala kompromitirane račune, obavijestila napadnute organizacije i podijelila detalje s vlastima. U izvještaju navode da je ovo “prvi dokumentirani slučaj AI-orchestrirane špijunske kampanje” u kojoj je agentni AI zaista uspio doći do podataka visokovrijednih meta.
Ipak, AI nije bio savršen špijun. Claude je često pretjerivao u izvještajima, izmišljao lozinke koje nisu radile ili se hvalio da je “našao tajne dokumente” koji su zapravo bili javno dostupni. Anthropic kaže da su upravo te halucinacije zasad jedna od prepreka potpunim, potpuno autonomnim napadima bez nadzora ljudi.
Stručnjaci su podijeljeni oko toga koliko je ovaj slučaj dramatičan. Jedni ga vide kao ozbiljno upozorenje da AI alati sada mogu odraditi veći dio hakiranja za države i kriminalce, drugi tvrde da je riječ “samo” o vrlo naprednoj automatizaciji koju napadači i prije rade s drugim alatima. No svi se slažu u jednom: ako AI može pomoći napadačima da brže i jeftinije napadaju više meta odjednom, onda će i obrana morati koristiti AI da ih otkrije i zaustavi na vrijeme.
24sata © 2025
