OpenAI ogłosiło usunięcie wielu kont ChatGPT powiązanych z chińskimi i północnokoreańskimi hakerami działającymi na zlecenie państw, którzy wykorzystywali platformę do udoskonalania złośliwego oprogramowania, tworzenia kampanii phishingowych i budowy narzędzi inwigilacji.
Ustalenia
W swoim raporcie o zagrożeniach z października 2025 r. OpenAI opisało, jak chińskojęzyczni cyberprzestępcy wykorzystywali możliwości ChatGPT do przyspieszania istniejących operacji w cyberprzestrzeni.
Wśród nich był klaster o nazwie „Cyber Operation Phish and Scripts”, zgodny z aktywnością grup śledzonych jako UNKDROPPITCH i UTA0388, które według przypuszczeń służą chińskiemu środowisku wywiadowczemu.
Ci aktorzy wykorzystywali ChatGPT do:
- Tworzenia złośliwego oprogramowania: Generowania i debugowania kodu dla rodzin malware, takich jak GOVERSHELL i HealthKick, przy jednoczesnym badaniu możliwości automatyzacji za pomocą innych systemów AI, takich jak DeepSeek.
- Kampanii phishingowych: Tworzenia wielojęzycznych wiadomości phishingowych (po chińsku, angielsku i japońsku) wymierzonych w tajwański przemysł półprzewodników, amerykańskie instytucje akademickie i krytyków chińskiego rządu.
Nadużywanie AI na poziomie państwowym
OpenAI zablokowało też konta powiązane z chińskimi agencjami rządowymi, które próbowały wykorzystać AI w projektach związanych z inwigilacją, w tym:
- „Uyghur Inflow Warning Model” — model analizujący dane o podróżach i dane policyjne.
- „Social Media Probe” — narzędzie przeznaczone do monitorowania treści politycznych lub religijnych na platformach takich jak X, Facebook i Reddit.
- Badania nad identyfikowaniem krytyków chińskiego rządu i śledzeniem źródeł ich finansowania.
Środki zaradcze
OpenAI:
- Wyłączyło wszystkie konta powiązane z tymi złośliwymi operacjami.
- Udostępniło wskaźniki zagrożeń globalnym partnerom z branży cyberbezpieczeństwa.
- Wzmocniło wewnętrzne mechanizmy wykrywania, aby identyfikować przyszłe próby nadużyć AI.
Mimo prób nadużyć OpenAI zauważyło, że wbudowane zabezpieczenia ChatGPT uniemożliwiły bezpośrednie generowanie złośliwego kodu lub exploitów, ograniczając atakujących do nieszkodliwych fragmentów kodu.
Szerszy kontekst
To element szerszych wysiłków na rzecz ochrony systemów AI przed wykorzystaniem przez reżimy autorytarne i cyberprzestępców. Od lutego 2024 r. OpenAI zakłóciło działanie ponad 40 złośliwych sieci.
Firma podkreśliła, że choć AI coraz częściej należy do zestawu narzędzi cyberprzestępców, jej wykorzystanie w operacjach w cyberprzestrzeni pozostaje uzupełniające — a nie rewolucyjne.
