Hackeři mění cíle. Vedle dat kradou i výpočetní výkon umělé inteligence
Kybernetičtí útočníci stále častěji zneužívají odcizené přístupové údaje nejen ke krádeži dat nebo těžbě kryptoměn, ale také k neoprávněnému využívání nákladných AI modelů a cloudového výpočetního výkonu. Na nový typ útoků upozorňuje analýza výzkumníků FortiGuard Labs. Tato technika se označuje jako „LLMjacking“ a dostala se do veřejného povědomí před dvěma lety, nyní je ale naplno na vzestupu.
„Generativní umělá inteligence se rychle stává jedním z nejvýnosnějších způsobů využití odcizených přihlašovacích údajů do cloudu. Útočníci již nemusí spouštět těžbu kryptoměn ani sbírat data, aby mohli zpeněžit kompromitovaný klíč pro správu identit a přístupů (IAM). Místo toho mohou zneužít přístup k legitimním cloudovým AI službám a pomocí účtu oběti spotřebovávat nákladné zdroje umělé inteligence nebo tento přístup případně dále prodávat třetím osobám,“ říká Ondřej Šťáhlavský, regionální senior ředitel společnosti Fortinet pro střední a východní Evropu.
Cílem útočníků není přístup k datům, ale k modelům samotným
Podle analýzy Fortinetu se LLMjacking týká krádeže a zneužití přístupu k hostovaným AI modelům, nikoli například krádeže trénovacích dat. Cíl útočníka je jednoduchý: donutit cizí cloudový účet zaplatit za drahé použití vysoce výkonného modelu – který buď využije sám, nebo jeho výkon přeprodá dále.
Podle Fortinetu je několik důvodů, proč je tato forma útoku pro kyberzločince tak atraktivní – především náklady na nástroje jsou u tohoto typu útoku nízké, a přitom výnos je pak vysoký. Stačí funkční cloudová identita – obvykle uniklý přístupový klíč, nebo odcizené lokální přihlašovací údaje. Jakmile je cloudová identita odhalena, útočníci jednají v řádu minut, nikoli dnů. Využívání prémiových modelů ve velkém měřítku přitom není levné – podle výzkumu LLMjackingu se škoda pro oběť pohybuje například v případě využití Claude 3 Opus přes 100 000 dolarů denně.
Jak útok probíhal
Výzkumníci FortiGuard Labs analyzovali konkrétní incident, při kterém byl zneužit dlouhotrvající přístupový klíč AWS IAM s administrátorskými oprávněními. S jeho pomocí útočník postupoval ve třech krocích – vytvořil nového uživatele IAM, přihlásil ho k odběru jednoho nebo více základních modelů přes AWS Marketplace a spustil odebrané modely, čímž na účtu oběti vygeneroval poplatky za jejich využití.
„Protože LLMjacking využívá platné přihlašovací údaje a legitimní cloudové služby, vyžaduje účinná prevence a detekce silné ověření identity, důkladné protokolování a kontextovou analýzu,“ uzavírá Ondřej Šťáhlavský z Fortinetu.
