LLMjacking: nové AI útoky na cloud, ktoré vás môžu stáť milión

Veľké jazykové modely (LLM) v cloude sa stali bežnou súčasťou práce – od kancelárií cez vývojárov až po školy. Súčasne však vznikol nový typ útokov: LLMjacking. Google varuje, že niektoré organizácie prišli kvôli zneužitiu prístupu k LLM o stovky tisíc dolárov denne a v extrémnych prípadoch až o sumy blížiace sa miliónu. Z LLMjacking sa stáva samostatný zločinecký biznis – útočníci kradnú prístupy a ďalej ich prepredávajú.

Čo je LLMjacking a prečo je taký nebezpečný

LLMjacking je forma zneužitia cloudu, pri ktorej útočník získa prístup k vašim službám veľkých jazykových modelov – typicky cez API alebo cloudové konto – a začne ich potichu používať na vlastné účely.

Podľa informácií od Google a ďalších bezpečnostných firiem ide o tieto kľúčové charakteristiky:

• útočníci ukradnú prístup (API kľúč, token, prihlasovacie údaje do cloudu),
• masovo generujú požiadavky do LLM a iných AI služieb,
• náklady sa počítajú v dňoch a hodinách – účty rýchlo rastú do státisícov,
• prístup k vašim AI službám často ďalej predávajú na podzemných trhoch.

To všetko bez toho, aby vám nutne „spadla“ služba alebo aby používateľ niečo spozoroval. Môže ísť čisto o finančný a kapacitný útok: vy platíte za výpočtový výkon, ktorý útočník využíva na svoje aktivity.

Pre rozdiel od klasického „kryptominigu“ v cloude je dôležité, že tu nejde „len“ o výpočtový výkon, ale o prístup k špecializovaným AI službám, ktoré sú drahé a účtujú sa po požiadavkách alebo tokenoch. Výsledkom sú účty, ktoré podľa dostupných správ v niektorých firmách narástli až na stovky tisíc dolárov za deň a celková škoda dosiahla takmer milión predtým, než bol prístup zablokovaný.

Prečo sa to týka aj slovenských firiem, obcí a škôl

Mnohé slovenské organizácie už dnes používajú AI služby v cloude, aj keď si to vedenie často neuvedomuje:

• vývojári a IT oddelenia používajú API veľkých jazykových modelov v testovacích aj produkčných systémoch,
• ekonomické, matrikové či školské systémy využívajú AI asistenty zabudované v cloudových platformách,
• učitelia a študenti pracujú s AI nástrojmi, ktoré sú napojené na cloud (účty školy, univerzity),
• externé firmy integrujú AI do interných portálov, webov alebo mobilných aplikácií.

Pri tom všetkom často neexistuje centrálna evidencia toho, kto má aký API kľúč, kde je uložený a aké má limity. V kombinácii s bežnými problémami (slabé heslá, chýbajúce 2FA, opustené testovacie účty) je to ideálne prostredie pre LLMjacking.

Pre subjekty spadajúce pod zákon č. 69/2018 Z. z. o kybernetickej bezpečnosti a budúcu smernicu NIS2 je navyše podstatné, že:

• nejde len o finančné škody – nekontrolované využitie cloudu môže ohroziť dostupnosť služieb,
• získané prístupy do cloudu môžu útočníci zneužiť aj na ďalší prienik do infraštruktúry,
• incident môže mať charakter vážneho kybernetického bezpečnostného incidentu, s povinnosťou hlásenia a riešenia.

Inými slovami: LLMjacking nie je problém iba „veľkých amerických firiem“. V momente, keď máte cloudový účet s AI službami a fakturáciou po použití, ste potenciálny cieľ – bez ohľadu na to, či ste výrobca, obecný úrad, škola alebo nemocnica.

Ako LLMjacking typicky prebieha: 4 scenáre z praxe

Správy o LLMjacking útokoch ukazujú, že útočníci nevyužívajú „magické zraniteľnosti“ v AI modeloch, ale veľmi známe chyby v správe prístupov a cloudu. Štyri najčastejšie scenáre:

1. Ukradnutý API kľúč vývojára

Vývojár si v rámci firemného alebo školského účtu vytvorí API kľúč do LLM služby a omylom ho:

• uloží do verejného repozitára,
• vloží do zdrojového kódu, ktorý unikne,
• zdieľa v chate či e-maile, ktorý je neskôr kompromitovaný.

Útočník nájde kľúč, začne cez neho posielať tisíce požiadaviek denne a obchoduje s takto získaným prístupom.

2. Slabo chránený cloudový účet

Administrátor má konto u cloudového poskytovateľa bez dvojfaktorového overenia, s prístupom k viacerým AI službám. Phishing, malvér alebo opätovne použité heslo umožní útočníkovi prihlásiť sa a:

• vytvoriť nové API kľúče,
• zvýšiť limity spotreby,
• zapnúť ďalšie platené AI služby.

3. Nesprávne zdieľanie prístupu s dodávateľom

Organizácia dá dodávateľovi IT „dočasný“ prístup k svojmu cloudovému účtu, ale:

• nikdy ho neskôr neobmedzí ani nezruší,
• prístup má zbytočne široké oprávnenia,
• nie je zazmluvnené, ako má dodávateľ chrániť tieto prihlasovacie údaje.

Po čase je konto dodávateľa kompromitované a útočník dostane prístup do vášho cloudu a AI služieb.

4. „Shadow IT“ – neoficiálne AI nástroje

Oddelenie si samo objedná AI nástroj na prepis nahrávok alebo automatické generovanie textov, prihlási sa firemnou kartou a prepojí ho s hlavným cloudovým účtom. IT o ničom nevie, limity a monitorovanie neexistujú. Ak dôjde k úniku prístupov, nič nebráni masívnemu zneužitiu.

Checklist: ako znížiť riziko LLMjacking v praxi

Nasledujúce kroky sú použiteľné pre firmy, samosprávy aj školy. Odporúčam ich zaradiť do riadenia kybernetickej bezpečnosti (NIS2, interné smernice, bezpečnostný projekt).

1. Urobte si inventúru AI služieb a API kľúčov

• spíšte, aké cloudové AI/LLM služby používate (aj tie „zadarmo“, ak sú napojené na vaše účty),
• zistite, kde všade sú API kľúče – v aplikáciách, integračných nástrojoch, skriptoch,
• rozdelenie: produkčné vs. testovacie kľúče, kto ich vlastní a spravuje.

2. Zaveďte princíp minimálnych oprávnení

• pre každý projekt alebo aplikáciu vytvorte samostatný účet/projekt v cloude,
• API kľúče dávajte len k nevyhnutným službám a rozsahom,
• nikdy nepoužívajte administrátorské konto na bežnú prevádzku aplikácií.

3. Nastavte limity a upozornenia na spotrebu

• v cloudových účtoch zapnite rozpočtové limity a alerty (e-mail, SMS),
• definujte denné a mesačné stropy pre AI a LLM služby,
• u veľkých nákladov vyžadujte dvojstupňové schvaľovanie (IT + ekonomické oddelenie).

4. Chráňte prístupy: 2FA a správa tajomstiev

• na všetkých cloudových účtoch povinne zapnite dvojfaktorové overenie,
• API kľúče ukladajte do trezorov tajomstiev (secret management), nie do kódu alebo konfiguračných súborov,
• pravidelne rotujte kľúče a rušte nepoužívané.

5. Kontrolujte úniky v kóde a repozitároch

• zaveďte automatické skenovanie kódu na API kľúče a heslá pred nasadením,
• prehľadajte existujúce repozitáre (aj súkromné) na možné úniky,
• zakážte v interných smerniciach vkladanie tajomstiev priamo do kódu.

6. Zaveďte monitorovanie a logging

• zapnite logovanie volaní API pre AI služby (kto, kedy, koľko požiadaviek),
• nastavte upozornenia na netypické správanie – prudký nárast požiadaviek, volania z iných krajín alebo časových pásiem,
• pre väčšie organizácie integrujte tieto logy do SIEM/SOC.

7. Ošetrite dodávateľov a „shadow IT“

• do zmlúv s IT dodávateľmi doplňte požiadavky na ochranu prístupov k vašim AI a cloudovým službám,
• zaveďte interné pravidlá, že nové AI nástroje sa nesmú objednávať bez súhlasu IT a vedenia,
• urobte krátke školenie pre manažment o rizikách neoficiálnych AI nástrojov.

Čo robiť, ak máte podozrenie na LLMjacking

Ak zrazu vidíte podozrivo vysoký účet za AI/LLM služby alebo nezvyčajný nárast spotreby, postupujte systematicky:

1. Okamžite obmedzte prístupy
   • zrušte alebo obnovte podozrivé API kľúče,
   • dočasne vypnite používanie AI služieb pre neznáme aplikácie,
   • zmeňte heslá a odhláste aktívne relácie v cloudovom účte.
2. Kontaktujte poskytovateľa cloudu/AI
   • nahláste podozrenie na zneužitie a požiadajte o detailné logy,
   • overte si možnosti zastavenia účtovania pri potvrdenom útoku.
3. Urobte interné vyšetrenie
   • zistite, z ktorých účtov a z ktorých IP adries prichádzali požiadavky,
   • skontrolujte aktuálne aj historické logy,
   • preverte stanice administrátorov a vývojárov na prítomnosť malvéru.
4. Vyhodnoťte, či ide o kybernetický incident podľa zákona
   • ak ste prevádzkovateľ základnej alebo významnej služby, posúďte, či incident ohrozil dôvernosť, integritu alebo dostupnosť vašich služieb,
   • v prípade potreby postupujte podľa interného plánu reakcie na incidenty a povinností voči NBÚ/SK-CERT.
5. Prijmite trvalé opatrenia
   • zapracujte zistenia do bezpečnostnej dokumentácie,
   • aktualizujte postupy správy cloudu a AI služieb,
   • zamerajte školenia zamestnancov na prácu s API kľúčmi a AI nástrojmi.

LLMjacking a NIS2: kde ho zaradiť v riadení kybernetickej bezpečnosti

Pre organizácie, ktoré sa pripravujú na NIS2 alebo už dnes spĺňajú požiadavky zákona o kybernetickej bezpečnosti, odporúčam zaradiť LLMjacking do nasledujúcich oblastí:

• Riadenie aktív – AI a LLM služby evidujte ako samostatné aktíva s uvedením zodpovednej osoby a klasifikácie.
• Riadenie prístupov – špecifické pravidlá pre API kľúče, secret management, segmentáciu cloudových účtov a projektov.
• Riadenie rizík – LLMjacking zaraďte medzi scenáre, ktoré môžu viesť k významným finančným a prevádzkovým dopadom.
• Incident management – doplňte konkrétny postup pre podozrenie na zneužitie AI/LLM služieb (zastavenie spotreby, kontaktovanie poskytovateľa).
• Dodávateľský reťazec – preverujte, ako vaši dodávatelia chránia prístupy k AI službám, ktoré používajú vo vašom mene.

Takto budete vedieť pri audite alebo hodnotení súladu doložiť, že nové typy hrozieb – vrátane LLMjacking – máte podchytené v rámci existujúceho systému riadenia kybernetickej bezpečnosti.

Zhrnutie

LLMjacking je praktický príklad toho, ako sa kybernetické hrozby prispôsobujú novým technológiám. Neútočí na samotné AI modely, ale na naše prístupy do cloudu a nedisciplinovanú správu API kľúčov. Následky pritom nemusia mať podobu zmazaných dát – stačí niekoľko dní nekontrolovaného využívania drahých AI služieb a škoda môže byť v stovkách tisíc.

Dobrá správa je, že väčšina opatrení proti LLMjacking je rovnaká ako pri klasickej ochrane cloudu: inventarizácia služieb, princíp minimálnych oprávnení, limity a upozornenia na spotrebu, dôsledná správa tajomstiev a kontrola dodávateľov. Ak tieto opatrenia zavediete systematicky a ich dodržiavanie aj priebežne kontrolujete, LLMjacking sa z „nočnej mory s miliónovým účtom“ stane zvládnuteľné riziko vo vašom bezpečnostnom programe.