Hackeři z významné skupiny organizovaného kybernetického zločinu využili umělou inteligenci (AI) k odhalení dosud neznámé softwarové chyby a jako první ji zneužili k útoku, uvedla dnes americká společnost Google z technologické skupiny Alphabet. Plánovaný útok mířil proti rozšířenému nástroji pro správu systémů, byl ale zablokován dříve, než mohl vést k masivnímu zneužití, uvedla společnost ve zprávě své skupiny Threat Intelligence Group.
Incident je prvním případem, kdy společnost Google identifikovala útočníky, kteří pomocí AI odhalili dosud neznámou slabinu a pokusili se ji zneužít ve velkém měřítku, dodala společnost. Google informoval dotčenou firmu i orgány činné v trestním řízení. Operaci zastavil dříve, než stačila způsobit škody.
Podle hlavního analytika Google Threat Intelligence Group Johna Hultquista jde o špičku ledovce z hlediska toho, jak kybernetičtí zločinci a hackeři za podpory států jako Severní Korea nebo Čína inovují s využitím AI. V tomto konkrétním případě Google nepodezřívá skupinu napojenou na některou z vlád, o které uskupení se jedná, ale neuvedl.
Útočníci začínají část kybernetických operací přenechávat AI a využívají ji k autonomnímu vyhledávání softwarových chyb a k vytváření takzvaného malwaru (škodlivého softwaru). Posun představuje krok směrem k autonomnějším kybernetickým útokům. Útočníci začínají spoléhat na systémy AI nejen jako na výzkumné nástroje, ale i jako na aktivní komponenty analyzující cíle útoku, generující škodlivý kód i rozhodující pod omezeným lidským dohledem, uvedli výzkumníci.
Při sledování stop hackerů společnost nalezla důkazy o tom, že k odhalení této slabiny využili velký jazykový model (LLM), tedy stejnou technologii, na níž stojí i populární chatboty. Společnost nicméně neuvedla, který LLM útočníci použili. Nejednalo se ale údajně s největší pravděpodobností o její model Gemini, ani o Claude Mythos společnosti Anthropic.
