exploit_agent: AI automatyzuje tworzenie exploitów
GTIG po raz pierwszy opisał agentowy pipeline AI, który analizuje poprawki, tworzy exploity i uruchamia je bez człowieka. Jak musi zmienić się obrona?
- AUTOR
- Karol Rapacz / CEO Breachroad · OSCP · PNPT
- PUBLIKACJA
- 16 listopada 2026
- CZAS CZYTANIA
- 22 min czytania
- TEMAT
- Bezpieczeństwo AI
Google Threat Intelligence Group i Mandiant opublikowały 16 listopada 2026 roku raport, który wyznacza ważną granicę w cyberbezpieczeństwie AI. Badacze po raz pierwszy zaobserwowali frameworki LLM w pełni automatyzujące badanie podatności i eksploatację bez człowieka w pętli. Najbardziej konkretnym przykładem jest ujawniony serwer stagingowy z narzędziem nazwanym przez GTIG exploit_agent.
Nie jest to ogólna prognoza ani demonstracja laboratoryjna. Według oficjalnego raportu GTIG system wykonywał ciągłą analizę różnic między wersjami popularnych aplikacji webowych, identyfikował potencjalne błędy, przygotowywał exploity i automatycznie je uruchamiał. Na serwerze znajdowały się także dane ofiar oraz skrypty do rozpoznania wewnętrznego, brute force, instalowania webshelli i usuwania webshelli innych napastników.
To nie oznacza, że AI nagle odkrywa każdą lukę albo że klasyczny zespół red team stał się zbędny. Oznacza, że ekonomia i tempo ataków na podatności n-day mogą się istotnie zmienić. Poprawka, release note i różnica w kodzie stają się ustrukturyzowanym wejściem dla automatycznego pipeline’u.
Co dokładnie potwierdza GTIG
Raport opiera się na telemetrii z reagowania Mandiant, śledzeniu aktorów i obronie platform Google. GTIG opisuje kilka równoległych trendów:
- używanie otwartych frameworków wieloagentowych podczas rzeczywistych włamań;
- automatyzację analizy różnicowej poprawek i tworzenia exploitów;
- LLMJacking, czyli kradzież poświadczeń i zasobów modeli;
- pełną integrację LLM z operacjami wpływu;
- manipulowanie konfiguracją asystentów programistycznych w atakach na łańcuch dostaw.
W przypadku exploit_agent badacze znaleźli wystawiony serwer stagingowy. Framework łączył modele frontier i lokalne, porównywał kod przed oraz po poprawce, analizował zmianę, przygotowywał exploit i wykonywał go. Telemetria wskazywała zainteresowanie francuskimi serwisami z branży mediów, rozrywki i edukacji.
To ważna granica dowodowa: GTIG potwierdza obserwację systemu i artefaktów. Nie twierdzi, że każda kampania AI działa bez operatora, że wszystkie wygenerowane exploity były skuteczne ani że framework jest nieomylny.
Dlaczego n-day jest atrakcyjniejszy niż zero-day
Zero-day wymaga znalezienia słabości w ogromnej przestrzeni kodu, protokołów i stanów. N-day daje napastnikowi punkt zaczepienia: producent opublikował łatę, zmienił kilka funkcji, opisał kategorię błędu albo udostępnił nową wersję pakietu. Model może skupić analizę na ograniczonej różnicy.
Automatyczny pipeline może:
- pobrać starą i nową wersję;
- zbudować semantyczny diff;
- wskazać zmienione walidacje, granice uprawnień i operacje pamięci;
- wygenerować hipotezę podatności;
- przygotować test w izolowanym środowisku;
- ocenić odpowiedź aplikacji;
- poprawić payload po błędzie;
- przeszukać Internet w poszukiwaniu niezałatanych instancji;
- uruchomić działanie po spełnieniu warunków.
Każdy z tych kroków był możliwy wcześniej. Nowością jest połączenie ich w ciąg pracujący stale, równolegle i przy niższym koszcie operatora. GTIG podkreśla, że napastnicy mogą preferować szybkie weaponizowanie n-day nad szerokim poszukiwaniem zero-day.
Fałszywe exploity też są narzędziem presji
Raport zwraca uwagę na drugi skutek: fala niepoprawnych, generowanych przez LLM proof of concept. Po publikacji krytycznych luk PHP pojawiły się setki deklarowanych PoC, które nie działały. Obrońcy musieli poświęcić czas na ich weryfikację, jednocześnie monitorując realne próby.
To tworzy asymetrię. Napastnik może tanio opublikować wiele wariantów, a zespół bezpieczeństwa ponosi koszt sprawdzenia każdego. Dlatego proces reagowania nie może traktować obecności kodu w publicznym repozytorium jako dowodu skuteczności. Potrzebne są źródło, powtarzalny test, telemetria exploitacji i ocena warunków brzegowych.
Nie należy jednak czekać na „idealny PoC” przed wdrożeniem poprawki. Jeśli producent i koordynator potwierdzają podatność, decyzję o priorytecie opieraj na ekspozycji, wpływie i dostępności naprawy, a nie popularności filmu demonstracyjnego.
Frameworki wieloagentowe w realnych włamaniach
GTIG opisuje użycie CAIRN i PentAGI w rzeczywistej aktywności oraz eksperymenty z CyberStrikeAI i HexStrike AI. Frameworki łączą modele z narzędziami rozpoznania, testowania web, exploitacji i analizy binarnej. Mogą wykorzystywać wyspecjalizowanych agentów, wspólną pamięć, pętlę obserwacja–decyzja–działanie i feedback z wykonania.
CAIRN został zaobserwowany przeciw celom w amerykańskim sektorze lotniczym. PentAGI, w zmodyfikowanej platformie orkiestracyjnej, wspierał systematyczne rozpoznanie i skanowanie wielu organizacji w Azji. Raport wspomina aktorów finansowych oraz podejrzewanych operatorów szpiegowskich powiązanych z Chinami.
Mechanika włamania pozostaje znajoma: skradzione poświadczenie, niezałatany system, zbyt szeroka rola, publiczny panel. AI zwiększa szybkość łączenia elementów. To ważne, bo organizacja nie musi kupować „AI firewalla”; musi skrócić czas, w którym znana słabość jest dostępna i użyteczna.
Patch gap staje się mierzalnym ryzykiem
Patch gap to okres od dostępności poprawki lub informacji o niej do wdrożenia na każdym realnym systemie. W dużej organizacji obejmuje kilka opóźnień: producent publikuje kod, dystrybutor buduje pakiet, zespół testuje, właściciel akceptuje zmianę, administrator wdraża, a środowisko awaryjne zostaje zaktualizowane później.
Automatyczna analiza diffu uderza właśnie w tę lukę czasową. Obrona powinna mierzyć:
- czas od advisory do inwentaryzacji ekspozycji;
- czas od wydania poprawki do pierwszego canary;
- czas do pokrycia 50, 90 i 100 procent instancji;
- liczbę niezarządzanych kopii i środowisk DR;
- czas potrzebny do uruchomienia mitygacji wirtualnej;
- różnicę między wersją zadeklarowaną i faktycznie uruchomioną;
- liczbę wyjątków bez właściciela i terminu.
Średni czas łatania może wyglądać dobrze, choć jeden publiczny system krytyczny pozostaje podatny przez miesiąc. Dlatego raportuj także najstarszą ekspozycję i percentyle, nie tylko średnią. Praktyczny model przedstawiamy w poradniku priorytetyzacji krytycznych podatności.
Co musi zmienić SOC
SOC nie wygra, próbując ręcznie analizować każdy wariant payloadu. Detekcja powinna łączyć sygnały na poziomie zachowania:
- serię rozpoznawczych żądań zakończonych szybką zmianą metody lub parametrów;
- próby wielu podatności wobec tego samego zasobu w krótkim czasie;
- przejście od błędów 4xx i 5xx do sukcesu 2xx;
- nietypowy User-Agent zmieniający się przy zachowaniu tej samej sekwencji;
- nowe procesy potomne serwera webowego;
- zapis pliku i późniejsze wywołanie w innym endpointcie;
- połączenie wychodzące bezpośrednio po nietypowym requestcie;
- użycie legalnego konta po wcześniejszym skanowaniu publicznego hosta;
- masową rotację źródeł przy stałym celu biznesowym.
AI może zmieniać składnię, ale musi uzyskać efekt. Korelacja request → zmiana procesu → połączenie → nowa tożsamość jest odporniejsza niż pojedyncza sygnatura. Dobrze zaprojektowany detection engineering z Sigma i SIEM powinien przechowywać takie relacje.
Oszustwo w telemetrii i pułapki dla agentów
Agent wykonujący kolejne kroki na podstawie odpowiedzi może zostać spowolniony lub ujawniony przez kontrolowane artefakty. Canary credentials, nieużywane endpointy, fałszywe sekrety i honey resources tworzą sygnał o wysokiej jakości, jeżeli żadna legalna automatyzacja nie powinna ich dotykać.
Nie chodzi o „hakowanie hakera” ani destrukcywną odpowiedź. Celem jest wczesna detekcja. Fałszywy klucz musi być bezpieczny, łatwy do unieważnienia i nie może otwierać prawdziwego zasobu. Każde użycie powinno alarmować niezależnym kanałem.
Można też oceniać rytm działania. Automatyczny framework często wykonuje powtarzalne sekwencje, reaguje w stałym czasie i eksploruje szerzej niż człowiek. Te cechy nie dowodzą użycia AI, ale pomagają priorytetyzować alerty o szybkim, adaptacyjnym przeciwniku.
Obrona repozytorium i procesu wydawniczego
Jeżeli patch ujawnia naturę luki, nie zawsze da się ukryć różnicę. Można jednak ograniczyć wyciek przed skoordynowanym wydaniem. Prywatne gałęzie bezpieczeństwa, minimalny dostęp, monitorowanie pobrań, podpisane artefakty i zsynchronizowana publikacja zmniejszają okno, w którym kod poprawki jest publiczny, ale pakiety nie są jeszcze dostępne.
Release musi obejmować cały łańcuch downstream. Projekt open source może opublikować łatę, lecz użytkownik dystrybucji, obrazu kontenera lub urządzenia nadal czeka. SBOM i VEX pomagają zidentyfikować, gdzie podatny komponent rzeczywiście działa. Bezpieczeństwo łańcucha dostaw oprogramowania nie kończy się na skanowaniu zależności.
W CI/CD należy chronić tokeny modeli i narzędzi. GTIG opisuje także zainteresowanie przeciwników poświadczeniami LLM oraz manipulowaniem konfiguracją asystentów programistycznych. Agent kodujący ma być traktowany jak uprzywilejowana automatyzacja: minimalne uprawnienia, izolowane sekrety, zatwierdzanie zmian i pełny audit trail.
Bezpieczne wykorzystanie agentów przez obrońców
Te same mechanizmy mogą skrócić czas naprawy. Agent może porównywać wersje, wskazać prawdopodobny obszar błędu, przygotować test regresji i znaleźć wystawione zasoby. Nie powinien jednak automatycznie wdrażać niezweryfikowanej poprawki na produkcję ani wykonywać ofensywnych testów poza zakresem upoważnienia.
Bezpieczny workflow ma granice:
- agent analizuje tylko zatwierdzone repozytoria i artefakty;
- tajne dane nie trafiają do niezatwierdzonego modelu;
- test wykonuje się w izolowanym środowisku;
- człowiek zatwierdza zmianę o wysokim wpływie;
- wynik zawiera dowód i możliwość odtworzenia;
- deployment ma canary i automatyczny rollback;
- niezależna telemetria obserwuje działanie agenta.
To właśnie zakres AI red teamingu i bezpiecznego wdrażania AI: ocena nie tylko odpowiedzi modelu, lecz także narzędzi, tożsamości, pamięci i skutków w systemie.
LLMJacking jako drugi wymiar ryzyka
GTIG opisuje, że kradzież zasobów modeli może generować w ciągu jednego dnia rachunki przekraczające 100 tysięcy dolarów, a w najcięższych przypadkach łączny koszt dochodził do miliona dolarów przed remediacją. Napastnicy przejmują poświadczenia, tworzą role i konta usługowe, uruchamiają GPU, zwiększają limity oraz odsprzedają dostęp przez tak zwane LLM Mixers.
To łączy ryzyko AI z klasycznym bezpieczeństwem chmury. Klucz modelu jest poświadczeniem finansowym i operacyjnym. Musi mieć limit, zakres, rotację, alert kosztowy oraz możliwość szybkiego unieważnienia. Szczegółowy łańcuch obrony opisuje nasza analiza LLMJacking i kradzieży dostępu do modeli.
Plan działania na najbliższy kwartał
Najpierw policz patch gap dla publicznych systemów i odseparuj wyjątki krytyczne. Następnie zbuduj telemetrię od reverse proxy do procesu, sieci i tożsamości. Dodaj alarmy na canary resources oraz sekwencje adaptacyjnych błędów.
W drugiej fazie zabezpiecz upstream i downstream procesu wydawniczego. Ustal sposób skoordynowanej publikacji, podpisuj artefakty, mapuj SBOM do instancji i ćwicz emergency patch. Zmierz, czy zespół potrafi ograniczyć ekspozycję w godzinach, nie tygodniach.
W trzeciej fazie przetestuj własne agentowe workflow. Sprawdź, czy agent może odczytać sekrety, rozszerzyć zakres, wykonać kod bez zatwierdzenia lub zmanipulować pull request. Celem nie jest zakaz AI, lecz kontrola skutku i rozliczalność.
Fakty źródłowe i wnioski Breachroad
GTIG potwierdza obserwację exploit_agent, jego funkcje automatycznej analizy, generowania i wykonania, artefakty post-compromise oraz użycie kilku frameworków agentowych w rzeczywistej aktywności. Raport potwierdza też rosnący koszt LLMJacking i automatyzację weaponizacji n-day.
Proponowane mierniki patch gap, reguły korelacyjne, canary resources i plan kwartalny są wnioskami Breachroad. Nie stanowią twierdzenia, że każdy nietypowo szybki atak używa AI. Atrybucja technologii wymaga dowodów, ale obrona przed szybkością nie musi czekać na etykietę.
Najważniejszy wniosek
Autonomiczna analiza poprawek skraca czas, w którym organizacja może traktować aktualizację jako zwykłe zadanie administracyjne. Publiczna poprawka staje się jednocześnie instrukcją różnicową dla obrońcy i napastnika.
Najlepszą odpowiedzią nie jest marketingowy „AI kontra AI”, lecz mierzalnie krótszy patch gap, telemetria skutku, kontrolowane tożsamości i bezpieczny proces wydawniczy. Agent może zwiększyć tempo po obu stronach. Wygrywa organizacja, która potrafi szybciej podjąć poprawną, odwracalną i udokumentowaną decyzję.


