🤖 Atakujący nie używają już sztucznej inteligencji wyłącznie do prostych e-maili phishingowych czy podstawowych skryptów malware. Według nowych badań Google Threat Intelligence Group cyberprzestępcy eksperymentują teraz z AI w bardziej zaawansowanych obszarach operacji cybernetycznych, w tym w badaniu podatności, tworzeniu exploitów, automatyzacji ataków, a nawet orkiestracji w czasie rzeczywistym.
To ważna zmiana w krajobrazie zagrożeń. AI nie zastępuje wykwalifikowanych atakujących, ale pomaga im pracować szybciej, testować więcej pomysłów, automatyzować powtarzalne zadania i skalować operacje, które wcześniej wymagały więcej pracy ręcznej.
Dla obrońców oznacza to jedno: cyberataki zbliżają się do prędkości maszyn.
Od pomocy w phishingu do tworzenia exploitów
Gdy duże modele językowe stały się powszechnie dostępne, wiele wczesnych zastosowań przez atakujących było stosunkowo przewidywalnych. Cyberprzestępcy używali AI do pisania lepszych przynęt phishingowych, tłumaczenia wiadomości, generowania skryptów, streszczania treści technicznych i wspierania podstawowego rozpoznania. Teraz to się zmieniło.
Badania Google pokazują, że przeciwnicy coraz częściej używają narzędzi AI do wspierania badania podatności i tworzenia exploitów. W jednym szczególnie godnym uwagi przypadku Google zidentyfikowało aktora zagrożeń używającego exploita zero-day, który według firmy został prawdopodobnie opracowany z pomocą AI.
Exploit został zaimplementowany w skrypcie Pythona i zaprojektowano go tak, aby omijał uwierzytelnianie dwuskładnikowe w popularnym, otwartoźródłowym, webowym narzędziu do administrowania systemami. Podatność wymagała ważnych poświadczeń użytkownika, ale aktor podobno przygotowywał się do użycia jej na dużą skalę.
Google zgłosiło problem odpowiedniemu dostawcy, próbując zakłócić potencjalną złośliwą aktywność.
Skrypt wyróżniał się nie tylko tym, co robił, ale także sposobem, w jaki został napisany. Kod podobno zawierał niezwykle szczegółową dokumentację w stylu edukacyjnym, uporządkowane formatowanie, menu pomocnicze, a nawet zhalucynowany wynik CVSS — cechy sugerujące, że model AI prawdopodobnie pomagał w odkryciu lub uzbrojeniu exploita.
Rośnie wykorzystanie AI w badaniu podatności
Google Threat Intelligence Group zaobserwowało, że wielu aktorów powiązanych z państwami używa AI do wspierania badania podatności.
Podejrzewany aktor powiązany z Chinami, śledzony jako UNC2814, został przyłapany na tym, że prosił Gemini, aby wcielił się w badacza bezpieczeństwa sieci analizującego urządzenia wbudowane, w tym oprogramowanie sprzętowe TP-Link. Prompty koncentrowały się na audycie pod kątem podatności umożliwiających zdalne wykonanie kodu bez uwierzytelniania.
Północnokoreański aktor Silent Chollima, znany także jako APT45, był również obserwowany podczas używania tysięcy powtarzalnych promptów do analizy różnych CVE i weryfikacji exploitów proof-of-concept. Takie wielokrotne testowanie z pomocą AI może pomagać atakującym doskonalić proces tworzenia exploitów i zwiększać szanse powodzenia.
Cyberprzestępcy korzystają także ze specjalistycznych źródeł danych o podatnościach, w tym z historycznych repozytoriów, takich jak dane archiwalne WooYun, zawierające dziesiątki tysięcy rzeczywistych przypadków podatności zebranych w latach 2010–2016 przez chińską platformę bug bounty WooYun.
Pokazuje to, że atakujący nie zadają AI wyłącznie prostych pytań. Dostarczają jej uporządkowaną wiedzę o podatnościach i używają jej do wnioskowania na podstawie dużych ilości materiałów technicznych.
Narzędzia agentowej AI wchodzą do łańcucha ataku
Kolejnym ważnym zjawiskiem jest użycie narzędzi agentowej AI.
W przeciwieństwie do standardowych interakcji w stylu chatbota, narzędzia agentowe potrafią wykonywać wieloetapowe zadania, wchodzić w interakcje z systemami, weryfikować ustalenia i dalej dążyć do celu przy ograniczonym udziale człowieka. W rękach atakujących może to znacząco zwiększyć szybkość i skalę.
Raport Google opisał cyberprzestępców eksperymentujących z narzędziami takimi jak OpenClaw, OneClaw, Hextrike i Strix w celu wspierania badania podatności i operacji ofensywnych.
W jednym z przypadków aktor powiązany z Chinami podobno użył narzędzi agentowych podczas ataków na japońską firmę technologiczną i wschodnioazjatycką platformę cyberbezpieczeństwa. Narzędzia te pomogły utrzymać trwałość w całej powierzchni ataku i zautomatyzować weryfikację podatności.
Sugeruje to stopniowe przechodzenie w stronę frameworków ataku sterowanych przez AI, w których rozpoznanie, testowanie, weryfikacja i wykorzystanie podatności mogą być częściowo zautomatyzowane.
PromptSpy: AI używana do orkiestracji ataku
Jeden z najbardziej uderzających przykładów wspomnianych w raporcie dotyczy backdoora na Androida znanego jako PromptSpy.
Pierwotnie opisany przez ESET, PromptSpy nadużywa Gemini, aby złośliwa aplikacja pozostawała widoczna na liście ostatnio używanych aplikacji Androida. Analiza Google wykazała jednak, że wykorzystanie AI poszło dalej.
Backdoor używał AI do poruszania się po interfejsie użytkownika Androida i interpretowania aktywności użytkownika w czasie rzeczywistym. Mogło to pomagać malware’owi decydować, co zrobić dalej, na podstawie tego, co dzieje się na urządzeniu.
Jeszcze bardziej niepokojące jest to, że malware potrafił przechwytywać dane interakcji związane z biometrią i odtwarzać gesty uwierzytelniania, aby odzyskać dostęp do przejętego urządzenia.
Jest to istotne, ponieważ pokazuje, że atakujący eksperymentują z AI nie tylko jako asystentem programisty, ale jako częścią logiki operacyjnej samego malware’u.
Od „człowieka w pętli” do „człowieka nad pętlą”
Tradycyjnie operacje cybernetyczne były w dużym stopniu sterowane przez ludzi. Atakujący ręcznie prowadzili rozpoznanie, wybierali cele, testowali exploity, poruszali się bocznie i dostosowywali taktykę.
AI zaczyna zmieniać ten model.
Branża obserwuje już podobną zmianę po stronie obrony, gdzie zespoły bezpieczeństwa przechodzą od systemów human-in-the-loop (człowiek w pętli) do systemów human-on-the-loop (człowiek nad pętlą). W tym modelu agenci AI wykonują zadania na bieżąco, a ludzie nadzorują je i interweniują w razie potrzeby.
Cyberprzestępcy zmierzają w tym samym kierunku.
Narzędzia sterowane przez AI mogą coraz częściej zajmować się rozpoznaniem, weryfikacją podatności, analizą środowiska, personalizacją phishingu, wspieraniem ruchu bocznego i podejmowaniem decyzji operacyjnych. Operatorzy-ludzie mogą skupiać się bardziej na strategii, wyborze celów i ostatecznym zatwierdzeniu.
Sprawia to, że ataki są szybsze, łatwiejsze do skalowania i trudniejsze do zwalczania za pomocą tradycyjnych procesów ręcznych.
Ryzyko: ataki w czasie maszynowym przeciwko obronie w tempie człowieka
John Hultquist, główny analityk Google Threat Intelligence Group, ostrzegł, że obrońcom grozi zmierzenie się z „zagrożeniami w czasie maszynowym przy reakcji w tempie człowieka”.
To jest sedno wyzwania.
Atakujący używający AI mogą szybciej przechodzić przez badania, testowanie exploitów, przygotowanie phishingu i realizację operacji. Jeśli obrońcy polegają wyłącznie na ręcznym dochodzeniu, powolnych cyklach łatania i opóźnionej selekcji alertów, mogą szybko zostać w tyle.
Niebezpieczeństwo nie polega tylko na tym, że AI czyni ataki bardziej wyrafinowanymi. Czyni je również szybszymi.
Zespoły bezpieczeństwa mogą mierzyć się z:
- bardziej przekonującymi kampaniami phishingowymi i socjotechnicznymi
- szybszym odkrywaniem podatności i ich uzbrajaniem
- zautomatyzowaną weryfikacją exploitów
- większą ilością działań rozpoznawczych
- szybszym ruchem bocznym
- podejmowaniem decyzji przez malware z pomocą AI
- większą liczbą alertów i incydentów, niż analitycy są w stanie przetworzyć ręcznie
Tworzy to duży punkt nacisku dla organizacji, które już teraz zmagają się ze zmęczeniem alertami i zarządzaniem poprawkami.
Co organizacje powinny zrobić już teraz
Obrońcy muszą traktować ataki z użyciem AI jako nowo powstającą rzeczywistość operacyjną, a nie odległe zagrożenie przyszłości.
Kluczowe działania obejmują:
- stosowanie wykrywania i selekcji wspomaganych przez AI w celu skrócenia czasu reakcji
- nadawanie priorytetu łataniu systemów wystawionych do internetu i systemów o wysokiej wartości
- monitorowanie nietypowych zachowań, a nie tylko znanych wskaźników
- wzmocnienie kontroli tożsamości i wymaganie MFA odpornego na phishing
- poprawę widoczności punktów końcowych na serwerach, stacjach roboczych i urządzeniach mobilnych
- monitorowanie podejrzanej automatyzacji i nietypowej aktywności skryptów
- przegląd dostępu do narzędzi administracyjnych i webowych platform zarządzania
- testowanie procesów reagowania na incydenty w scenariuszach szybkich ataków
- zabezpieczenie środowisk CI/CD, chmurowych i programistycznych
- szkolenie zespołów w rozpoznawaniu socjotechniki wzmocnionej przez AI
Organizacje powinny też przeanalizować, jak weryfikują podatności, monitorują próby wykorzystania exploitów i wykrywają ruch boczny. Procesy obronne muszą stać się szybsze i bardziej zautomatyzowane, bez odbierania człowiekowi nadzoru nad krytycznymi decyzjami.
Podsumowanie
AI zmienia operacje cybernetyczne po obu stronach.
Dla atakujących obniża próg wejścia, zwiększa szybkość, pomaga w badaniu exploitów, wspiera socjotechnikę i umożliwia bardziej autonomiczne procesy. Dla obrońców stanowi zarówno wyzwanie, jak i szansę.
Organizacje, które polegają wyłącznie na tradycyjnej, ręcznej obronie, będą miały trudności, gdy atakujący coraz częściej działają z prędkością maszyn. Organizacje, które łączą solidne podstawy bezpieczeństwa z wykrywaniem, automatyzacją i reagowaniem wspomaganymi przez AI, będą lepiej przygotowane, by dotrzymać kroku.
Przekaz jest jasny: AI nie jest już tylko narzędziem zwiększającym produktywność. W cyberbezpieczeństwie staje się częścią łańcucha ataku.
