Ofensywne AI: jak przestępcy już dziś wykorzystują sztuczną inteligencję

Przez dekady jedną z najlepszych linii obrony przed phishingiem była… kiepska polszczyzna napastnika. „Szanowny kliencie, Pana konto zostało zablokowane, kliknij tutaj natychmiast” — literówki, dziwna składnia i kalki językowe zdradzały oszustwo szybciej niż jakikolwiek filtr. Ta era się skończyła. Generatywna sztuczna inteligencja obniżyła próg wejścia dla atakujących tak drastycznie, że sygnały, na których uczyliśmy pracowników polegać, w dużej mierze przestały działać. Zobaczmy, jak przestępcy realnie wykorzystują AI — bez science fiction, na podstawie tego, co obserwujemy w atakach i testach.

AI nie tworzy nowych ataków — skaluje stare

Zacznijmy od kluczowego rozróżnienia, bo wokół „AI w rękach hakerów” narosło dużo mitów. Sztuczna inteligencja w większości nie wymyśla nowych kategorii ataków. To, co robi, jest groźniejsze w praktyce: skaluje i uwiarygadnia ataki, które znamy od lat. Zdejmuje z napastnika trzy tradycyjne ograniczenia:

Barierę językową — perfekcyjny tekst w dowolnym języku, w dowolnym tonie.
Barierę czasu — to, co zajmowało godziny (research ofiary, pisanie treści), zajmuje sekundy.
Barierę umiejętności — osoba bez wiedzy technicznej dostaje „asystenta”, który podpowiada kolejne kroki.

Efekt: więcej ataków, lepiej dopasowanych, tańszych do przeprowadzenia. To zmiana ilościowa, która staje się jakościowa.

Phishing i inżynieria społeczna bez błędów

Najbardziej bezpośredni skutek to koniec phishingu, który zdradzał się językiem. Model językowy napisze wiadomość w nienagannej polszczyźnie, w stylu korporacyjnym, dopasowanym do branży ofiary — a jeśli poda mu się kilka publicznych informacji o firmie, spersonalizuje treść tak, że trudno ją odróżnić od prawdziwej korespondencji.

Groźniejszy jest jednak spear phishing na skalę. Dotąd ukierunkowany, dopracowany atak na konkretną osobę był kosztowny, więc rezerwowano go dla wartościowych celów. AI sprawia, że każdy może dostać wiadomość „szytą na miarę”: powołującą się na jego stanowisko, ostatni projekt widoczny na LinkedIn czy imię przełożonego. To, co opisujemy w artykule dlaczego szkolenia antyphishingowe przestają wystarczać, AI tylko przyspiesza — bo znika ostatni tani sygnał ostrzegawczy.

Deepfake głosu i wideo: inżynieria społeczna w czasie rzeczywistym

Klonowanie głosu to dziś kwestia kilkudziesięciu sekund próbki audio — a tej dostarczają nagrania z webinarów, wywiady, podcasty czy poczta głosowa. Napastnik dzwoni do pracownika działu finansów „głosem prezesa” z pilną prośbą o przelew, albo dołącza do wideokonferencji jako sfabrykowany członek zarządu. To nie teoria: znane są przypadki, w których pracownicy autoryzowali wielomilionowe transakcje po rozmowie wideo z „kierownictwem”, które w całości było deepfakiem.

To ewolucja klasycznego oszustwa na prezesa (BEC) i vishingu: dochodzi warstwa audio-wideo, która pokonuje odruch „zadzwonię i sprawdzę”. Temat jest na tyle ważny, że poświęcamy mu osobny artykuł — deepfake głosu i wideo w atakach na firmy.

Złośliwe oprogramowanie wspierane przez AI

Wokół „malware pisanego przez AI” jest sporo szumu — urealnijmy go. Modele nie generują (jeszcze) przełomowo nowych, niewykrywalnych wirusów. Realny wpływ jest bardziej przyziemny, ale istotny:

Przyspieszenie tworzenia — napastnik szybciej składa działający kod, obfuskuje go i dostosowuje do środowiska ofiary.
Polimorfizm — AI ułatwia generowanie wielu wariantów tego samego szkodnika, co utrudnia wykrywanie oparte na sygnaturach (dlatego obrona przesuwa się w stronę analizy zachowania).
Wsparcie na każdym etapie — od pisania maili phishingowych dostarczających ładunek, po skrypty do lateral movement.

Nie chodzi więc o „AI tworzy broń doskonałą”, lecz o to, że mniej wykwalifikowany napastnik osiąga wynik, który wcześniej wymagał zespołu.

Automatyczny rekonesans i OSINT

Zanim padnie atak, jest rozpoznanie. AI radykalnie przyspiesza fazę zbierania informacji: streszcza profile pracowników, kojarzy dane z wielu źródeł, buduje mapę organizacji i wskazuje najbardziej podatne cele socjotechniczne — wszystko z publicznie dostępnych danych. To dokładnie ten cyfrowy ślad, który opisujemy w kontekście OSINT, tyle że przetworzony w minuty zamiast dni. Napastnik dostaje gotowy brief: kto, przez kogo i jakim pretekstem.

Podziemne modele i „jailbreaki”

Komercyjne modele mają zabezpieczenia (guardrails), które odmawiają pomocy w oczywiście szkodliwych zadaniach. Przestępcy obchodzą to na dwa sposoby. Pierwszy to jailbreaki — spreparowane polecenia, które nakłaniają model do złamania własnych zasad; to wyścig zbrojeń, w którym obrona i atak gonią się nawzajem. Drugi to modele podziemne (spod znaku „WormGPT”/„FraudGPT”) — reklamowane na forach narzędzia bez żadnych ograniczeń, sprzedawane w abonamencie jako „AI do przestępstw”. Ich jakość bywa przeceniana, ale sam fakt istnienia rynku pokazuje kierunek: przestępczość jako usługa dostaje warstwę AI.

Deception na skalę: fałszywe persony i treści

Generatywna AI to fabryka wiarygodnych fałszywek nie tylko w e-mailu. Fałszywe profile w mediach społecznościowych ze zdjęciami wygenerowanych „ludzi”, którzy nie istnieją; fałszywe recenzje; fałszywe strony rekrutacyjne; sklonowane witryny. Buduje to tło zaufania dla właściwego ataku — ofiara „sprawdza” napastnika i znajduje spójną, ale całkowicie zmyśloną tożsamość.

Co to oznacza dla obrony

Skoro AI unieważnia część dawnych sygnałów ostrzegawczych, obrona musi przesunąć ciężar z „rozpoznawania po wyglądzie” na procesy i weryfikację niezależnym kanałem:

Weryfikacja out-of-band dla operacji wrażliwych. Żaden przelew ani zmiana danych bankowych nie powinny zależeć od jednej wiadomości czy jednego telefonu — nawet jeśli „głos się zgadza”. Oddzwoń na znany numer, potwierdź drugim kanałem.
Silne uwierzytelnianie odporne na phishing. Skoro poświadczenia będą wyłudzane coraz skuteczniej, MFA (najlepiej passkeys) ogranicza skutki przejęcia hasła.
Aktualizacja szkoleń. Przestań uczyć „rozpoznawania po literówkach”. Ucz zasady ograniczonego zaufania i procedur weryfikacji, bo to one działają, gdy treść jest perfekcyjna.
Obrona oparta na zachowaniu, nie sygnaturach. Wobec polimorfizmu i personalizacji rośnie rola detekcji anomalii — o tym, jak AI wspiera obrońców, piszemy w AI po stronie obrony.
Testy socjotechniczne uwzględniające AI. Kontrolowane ćwiczenia (w tym z deepfake’ami) pokazują realną odporność organizacji, zanim zrobi to napastnik.

Podsumowanie

Ofensywne AI to nie futurystyczny straszak, lecz codzienność, która już zmieniła ekonomię ataku: perfekcyjny phishing, klonowanie głosu, szybszy rekonesans i przestępczość jako usługa z warstwą AI. Dobra wiadomość jest taka, że fundamenty obrony pozostają te same — silne uwierzytelnianie, weryfikacja niezależnym kanałem, kontrola uprawnień i detekcja zachowań. Zła: nie ma już taniego marginesu błędu, jaki dawały nam literówki oszustów.

Jeśli chcesz sprawdzić, jak Twoja organizacja wypada wobec ataków socjotechnicznych wspieranych przez AI — w tym testów z deepfake’ami i realistycznym phishingiem — porozmawiajmy. Testy bezpieczeństwa i wsparcie wdrożeń AI to jedna z naszych specjalizacji.

Najczęstsze pytania (FAQ)

Czy AI naprawdę tworzy „niewykrywalne” wirusy? Nie w takim stopniu, jak sugerują nagłówki. AI przyspiesza tworzenie i wariantowanie złośliwego kodu oraz obniża wymagane umiejętności, ale nie generuje magicznie broni omijającej wszystkie zabezpieczenia. Największy realny wpływ jest po stronie socjotechniki i skali, nie samego malware’u. Obrona oparta na analizie zachowania (a nie tylko sygnaturach) pozostaje skuteczna.

Skąd przestępcy biorą próbki głosu do klonowania? Z publicznie dostępnych nagrań: webinarów, wywiadów, podcastów, konferencji, filmów w mediach społecznościowych, a nawet powitań na poczcie głosowej. Do wiarygodnego sklonowania barwy głosu wystarcza dziś kilkadziesiąt sekund materiału. Dlatego kluczowa jest weryfikacja tożsamości procedurą, a nie „poznawaniem po głosie”.

Czy nasze szkolenia antyphishingowe jeszcze mają sens? Tak, ale trzeba zmienić ich treść. Uczenie „rozpoznawania po błędach językowych” straciło wartość, bo AI pisze bezbłędnie. Skuteczne szkolenie kładzie nacisk na zasadę ograniczonego zaufania, weryfikację wrażliwych żądań niezależnym kanałem i znajomość procedur (np. potwierdzania zmian danych bankowych) — bo to działa niezależnie od jakości treści.

Jak przygotować firmę na ataki wspierane przez AI? Przesuń obronę z sygnałów wizualnych na procesy: wprowadź weryfikację out-of-band dla operacji finansowych i zmian danych, wdroż uwierzytelnianie odporne na phishing, zaktualizuj szkolenia i rozważ kontrolowane testy socjotechniczne (w tym z deepfake’ami). Warto też wzmocnić detekcję opartą na zachowaniu w monitoringu bezpieczeństwa.