Przejdź do treści
INDEKS ANALIZ BREACHROAD / NOTA TECHNICZNA

LLMjacking: jak złodzieje monetyzują dostęp do modeli AI

Google opisuje LLMjacking, w którym skradzione klucze do chmury generują rachunki przekraczające 100 tys. USD dziennie. Oto detekcja i obrona.

MATERIAŁ PUBLICZNY
AUTOR
/ CEO Breachroad · OSCP · PNPT
PUBLIKACJA
7 listopada 2026
CZAS CZYTANIA
18 min czytania
TEMAT
Bezpieczeństwo AI
LLMjacking: jak złodzieje monetyzują dostęp do modeli AI

LLMjacking to kradzież dostępu do płatnych modeli językowych i wykorzystanie go do generowania odpowiedzi na koszt ofiary. Google Threat Intelligence Group opisało 2 listopada 2026 roku przypadki obejmujące wielu dostawców chmurowych i modeli, organizacje z kilku branż oraz koszty przekraczające 100 tys. USD w ciągu jednego dnia. W części analizowanych środowisk skumulowana wartość nieautoryzowanego użycia przekroczyła milion dolarów.

Źródłem faktów jest raport Google „LLMjacking: Monetizing compromised cloud models”. Publikacja opisuje zdarzenia obserwowane przez Mandiant w 2026 roku. Nie jest to teoretyczny scenariusz prompt injection: napastnik zdobywa ważne poświadczenie lub sesję chmurową, odnajduje dostępne modele, a następnie sprzedaje lub wykorzystuje ich moc obliczeniową.

Jak działa model biznesowy przestępcy

Operator nie musi kraść danych treningowych ani przejmować samego modelu. Wystarczy, że może wysyłać zapytania rozliczane na konto organizacji. Skradziony dostęp trafia do usług pośredniczących, które łączą wiele kont i modeli w jeden interfejs. Google używa określenia LLM Mixers: agregatory rozpraszają obciążenie, ukrywają źródło i sprzedają użytkownikom tańszy lub nieograniczony dostęp.

Ekonomia przypomina cryptojacking, ale jednostką wartości jest token i dostęp do modelu. Wysokie limity, kosztowne modele, długie konteksty i generowanie wielokrotne mogą bardzo szybko zwiększyć rachunek. Ponieważ legalne obciążenia AI bywają skokowe, prosty alert na „dużo requestów” może nie wystarczyć.

Potwierdzone drogi wejścia

Google wskazuje kilka klas początkowego dostępu: publicznie wystawione usługi, skradzione konta IAM i konta usługowe, tokeny GitHub oraz aktywne tokeny sesyjne. Wspólny mianownik to poświadczenie, które pozwala wyliczyć modele albo wysyłać żądania inferencji. Napastnik automatyzuje rozpoznanie i szybko testuje limity.

To ważne rozróżnienie: problem nie zaczyna się w promptach, lecz w warstwie tożsamości, chmury i rozliczeń. Ochrona przed prompt injection nie zatrzyma klienta API posiadającego prawidłowy klucz. Właśnie dlatego program bezpiecznego wdrażania AI powinien obejmować IAM, sekrety, budżety i telemetrię, a nie tylko filtr treści.

Sygnały, które warto korelować

Najsilniejszy alert łączy sygnał tożsamości z sygnałem użycia modelu. Sam wzrost kosztów może wynikać z premiery produktu. Samo logowanie z nowego adresu może dotyczyć pracownika w podróży. Razem z wyliczaniem wielu modeli, nagłą zmianą regionu i wysoką liczbą żądań poza profilem stanowią znacznie mocniejszą hipotezę.

Monitoruj co najmniej:

  • pierwsze użycie modelu przez daną tożsamość;
  • wywołania z nowego regionu, ASN albo narzędzia klienta;
  • enumerację dostępnych modeli i limitów bez odpowiadającej zmiany aplikacji;
  • nagły wzrost liczby tokenów wejściowych i wyjściowych;
  • użycie kosztowniejszego modelu zamiast zatwierdzonej wersji;
  • wiele identycznych lub bardzo podobnych żądań w krótkim czasie;
  • aktywność 24/7 z konta wcześniej związanego z jednym pipeline’em;
  • błędy limitów, próby zwiększenia quota i tworzenie nowych kluczy;
  • zmianę budżetu, projektu rozliczeniowego albo miejsca docelowego logów.

Zachowuj identyfikator tożsamości, model, region, projekt, liczbę tokenów, status, opóźnienie i skrót treści zgodny z polityką prywatności. Pełne prompty mogą zawierać dane wrażliwe, dlatego widoczność bezpieczeństwa nie powinna automatycznie zamieniać się w niekontrolowane archiwum treści.

Co zrobić po wykryciu

Najpierw zatrzymaj koszty, ale zachowaj dowody. Wyłącz lub ogranicz skompromitowane poświadczenie, wymuś zakończenie sesji, zablokuj źródła w polityce i zmniejsz quota dla nieużywanych modeli. Jednocześnie eksportuj logi IAM, audytu, inferencji, CI/CD, repozytorium i rozliczeń do lokalizacji, której atakujący nie może zmodyfikować.

Następnie ustal drogę wejścia. Jeśli klucz znalazł się w publicznym repozytorium, sama rotacja nie zamyka problemu: trzeba usunąć go z historii, sprawdzić forki, artefakty buildów i logi CI. Jeśli skradziono token sesyjny, przeanalizuj źródłowe urządzenie i mechanizm uwierzytelniania. Jeśli użyto konta usługowego, sprawdź wszystkie role, możliwości impersonacji oraz sekrety osiągalne w tym samym projekcie.

Powiadom właściciela chmury i zespół finansowy. Dostawca może pomóc z danymi, limitami i oceną opłat, ale organizacja powinna zachować własną linię czasu. Nie zakładaj z góry zwrotu kosztów. Budżet i alert to bezpiecznik, nie substytut kontroli dostępu.

Architektura odporna na LLMjacking

Pierwszą zasadą jest brak długowiecznych kluczy w kodzie i na urządzeniach użytkowników. Aplikacje powinny otrzymywać krótkotrwałą tożsamość workloadu, a backend pośredniczący powinien egzekwować dozwolony model, region, maksymalną długość kontekstu i limity. Użytkownik nie potrzebuje zwykle bezpośredniego klucza dostawcy.

Drugą zasadą jest minimalny zakres. Osobne projekty dla produkcji, testów i eksperymentów ograniczają blast radius. Konto aplikacji nie powinno móc zwiększać własnych limitów, wyłączać logów ani tworzyć kolejnych kluczy. Wysokie uprawnienia administracyjne należy oddzielić od prawa do inferencji.

Trzecią zasadą jest kontrola kosztu na kilku poziomach: limit na żądanie, na użytkownika, na usługę, na model i na okres. Twardy limit może pogorszyć dostępność, dlatego krytyczne procesy wymagają zaplanowanego trybu degradacji. Lepiej świadomie przełączyć usługę na tańszy model lub kolejkę niż dowiedzieć się o incydencie dopiero na fakturze.

Przewodnik po tożsamościach agentów AI rozwija problem NHI, a artykuł o sandboxie dla agentów pokazuje, jak oddzielić model od narzędzi i sekretów. Te dwa obszary trzeba połączyć: sandbox bez właściwego IAM nadal może posiadać zbyt silny token.

Threat model dla zespołu AI

Zespół powinien narysować przepływ od użytkownika do modelu i systemu rozliczeń. Gdzie powstaje tożsamość? Kto wybiera model? Gdzie przechowywany jest sekret? Kto może podnieść limit? Jak koreluje się request aplikacji z wpisem dostawcy? Jak szybko można unieważnić dostęp bez zatrzymania wszystkich usług?

Ćwiczenie tabletop może rozpocząć się od alertu finansowego w sobotę. Uczestnicy dostają kolejne dane: aktywność z nowego ASN, konto usługowe używane także przez CI, token w historycznym artefakcie i rosnące koszty. Celem nie jest zgadnięcie sprawcy, lecz podjęcie decyzji o izolacji, ciągłości działania, dowodach i komunikacji.

Czego nie należy mylić z LLMjacking

Prompt injection wpływa na zachowanie modelu w legalnej sesji. Model extraction próbuje odtworzyć własności modelu. Kradzież danych dotyczy poufności wejść lub systemów. LLMjacking przede wszystkim monetyzuje cudze uprawnienie i budżet, choć w jednym incydencie te klasy mogą się łączyć. Precyzyjna nazwa pomaga dobrać właściciela kontroli: IAM i FinOps są tu równie ważne jak zespół AI.

Nie każdy wysoki rachunek jest atakiem. Błąd pętli, niekontrolowany agent, brak cache albo zmiana taryfy mogą dać podobny objaw. Dochodzenie musi testować obie hipotezy. Wzorzec normalnego użycia i dane wdrożeniowe pozwalają odróżnić incydent od awarii kosztowej.

Fakty źródłowe i analiza Breachroad

Fakty źródłowe: Mandiant obserwował w 2026 roku zdarzenia w wielu regionach i branżach, dostęp przez skradzione poświadczenia oraz usługi odsprzedające go w formie LLM Mixers; w opisanych przypadkach koszt przekraczał 100 tys. USD dziennie, a skumulowane użycie milion dolarów. Analiza Breachroad: zalecane korelacje, limity wielopoziomowe, oddzielenie projektów i scenariusz tabletop wynikają z modelu zagrożenia, nie są twierdzeniem o każdym incydencie Google.

Co zrobić w tym tygodniu

Wyszukaj klucze dostawców modeli w repozytoriach, sekretach CI i obrazach kontenerów. Zmapuj tożsamości mające prawo do inferencji. Ustaw alerty kosztowe oparte na odchyleniu i twarde limity tam, gdzie przerwanie jest bezpieczne. Sprawdź, czy osoba dyżurna może w ciągu minut unieważnić token, a następnie odtworzyć usługę z czystej tożsamości.

Na koniec przeprowadź kontrolowany przegląd architektury. AI red teaming może zweryfikować, czy agent lub aplikacja dają się skłonić do ujawnienia sekretu albo użycia niezatwierdzonego modelu. Szkolenie z bezpieczeństwa AI pomaga natomiast połączyć zespoły ML, chmurowe, SOC i FinOps wokół jednego planu reakcji. Najlepszą obroną przed LLMjacking jest sytuacja, w której skradzione poświadczenie ma krótki czas życia, mały zakres i natychmiast widoczny koszt.

FinOps jako czujnik bezpieczeństwa

Budżet powinien mieć progi informacyjne, ostrzegawcze i awaryjne. Próg informacyjny tworzy ticket z kontekstem; ostrzegawczy ogranicza kosztowny model lub concurrency; awaryjny blokuje nową pracę poza zatwierdzonymi usługami. Automatyczna blokada musi uwzględniać procesy krytyczne, aby napastnik nie mógł wywołać samodzielnego denial of service przez zużycie limitu.

Model kosztowy powinien znać oczekiwany wydatek na użytkownika, funkcję, produkt i godzinę. Alertuj na odchylenie tempa, nie tylko przekroczony miesięczny budżet. Przy stawce zmieniającej się między modelami sto podobnych requestów może mieć zupełnie inny skutek finansowy.

Sekrety w cyklu tworzenia oprogramowania

Skan repozytorium obejmuje historię, pull requesty, komentarze, artefakty CI, logi i obrazy kontenerów. Klucz usunięty z ostatniego commitu nadal może działać w forku lub cache. Po wykryciu unieważnij go natychmiast, potem usuń materiał i zbadaj użycie. Odwrotna kolejność wydłuża okno.

Preferuj federację workload identity między CI a chmurą. Pipeline otrzymuje krótki token tylko dla konkretnego projektu i nie może podnieść quota. Sekret produkcyjny nie powinien być dostępny dla buildów z niezatwierdzonego brancha ani pull requestu z forka.

Analiza treści bez naruszenia prywatności

Do detekcji powtarzalnego odsprzedawanego ruchu przydatne są skróty cech: model, liczba tokenów, język, długość, embedding lub prywatny fingerprint. Nie zawsze trzeba zapisywać pełną rozmowę. Dostęp do treści powinien wymagać uzasadnionego incydentu, być rejestrowany i ograniczony czasowo.

Jeśli pełne prompty są konieczne do dochodzenia, wydziel repozytorium dowodowe oraz politykę redakcji danych. Zespół finansowy potrzebuje kosztu i projektu, nie treści klienta. Rozdzielenie widoków zmniejsza wtórne ryzyko wycieku podczas analizy LLMjacking.

Weryfikacja procesu unieważnienia

Raz na kwartał utwórz testowy klucz i zasymuluj jego wyciek do kontrolowanego repozytorium. Mierz czas detekcji, unieważnienia, blokady quota, odnalezienia kopii i odtworzenia usługi z nową tożsamością. Sprawdź każdy region oraz cache bramy API.

Po teście upewnij się, że stary token rzeczywiście przestał działać, a alarmy zawierają właściciela. Audyt bezpieczeństwa AI może porównać deklarowaną politykę z efektywnymi rolami i limitami.

Mierniki dojrzałości

Raportuj długowieczne klucze, tożsamości bez właściciela, czas unieważnienia, pokrycie logami inferencji, odchylenie wykryte przed fakturą oraz maksymalny koszt możliwy w godzinę. Malejący średni rachunek nie jest wystarczający; limit musi działać także w najdroższym dozwolonym scenariuszu.

Kryteria bezpiecznego zamknięcia incydentu

Po LLMjacking potwierdź unieważnienie wszystkich kopii poświadczenia, zamknięcie drogi wycieku, przegląd historii użycia, zatrzymanie nieautoryzowanych kosztów i odtworzenie aplikacji z nową tożsamością. Sprawdź, czy napastnik nie utworzył kolejnego klucza lub roli. FinOps powinien uzgodnić dane z logami technicznymi, a legal ocenić, czy przesyłane prompty zawierały dane podlegające zgłoszeniu.

Po miesiącu wykonaj ponowny skan sekretów i próbę unieważnienia. Jeżeli koszt może rosnąć szybciej niż alert dociera do dyżurnego, zmniejsz limit albo dodaj automatyczny bezpiecznik.

UDOSTĘPNIJ / KOPIUJ