Anthropic ujawnił serię przypadków, w których cyberprzestępcy próbowali nadużyć jego modeli AI Claude do działań od potencjalnych badań nad bronią biologiczną po cyberszpiegostwo wymierzone w Ukrainę.
Ujawnienia są częścią wrześniowego raportu Anthropic o zagrożeniach (Threat Intelligence Report) z września 2026 r., obejmującego złośliwą aktywność zidentyfikowaną w okresie od grudnia 2025 r. do sierpnia 2026 r. Anthropic twierdzi, że przerwał te operacje, zablokował powiązane konta, wzmocnił swoje zabezpieczenia i przekazał odpowiednie informacje wywiadowcze władzom i partnerom branżowym.
Co ważne, te przypadki nie oznaczają, że modele AI samodzielnie zdecydowały się opracować broń biologiczną lub prowadzić szpiegostwo. Za tymi działaniami stali ludzie-operatorzy, którzy próbowali wykorzystać AI jako mnożnik siły.
Próby wykorzystania AI do badań nad bronią biologiczną
Anthropic opisał pięć przypadków, w których użytkownicy próbowali wykorzystać jego modele w sposób, który mógłby wspierać rozwój broni biologicznej.
Przypadki obejmowały próby uzyskania pomocy AI przy badaniach dotyczących wirusa chikungunya, wysoce zjadliwej grypy ptaków, ortopoksywirusów oraz nowych toksyn lub jadów.
Anthropic podkreślił, że te przypadki dotyczyły wysoce technicznych badań naukowych o podwójnym zastosowaniu. Ta sama wiedza naukowa może czasem mieć uprawnione zastosowania medyczne lub badawcze, co utrudnia automatycznym systemom bezpieczeństwa ustalenie intencji na podstawie pojedynczej prośby.
W jednym z przypadków platforma odsprzedająca dostęp miała rzekomo próbować obejść regionalne ograniczenia Anthropic i kierować prośby o badania biologiczne przez systemy AI z innymi zabezpieczeniami. Anthropic poinformował, że ostatecznie zablokował powiązane konta i współpracował z partnerami, aby zakłócić infrastrukturę przekaźnikową.
W innym przypadku badacz z nieobsługiwanego regionu przez wiele tygodni korzystał z Claude podczas planowania badań dotyczących grypy ptaków. Anthropic poinformował, że jego klasyfikatory ograniczyły tę aktywność do mniej zaawansowanych modeli, zanim powiązane konta ostatecznie zablokowano.
Brak dowodów na stworzenie broni biologicznej
To rozróżnienie jest ważne.
Raport Anthropic opisuje próby wykorzystania AI do wsparcia prac związanych z bronią biologiczną, a nie dowody na to, że sprawcy z powodzeniem opracowali lub użyli broń biologiczną.
Firma twierdzi, że te przypadki pokazują rosnące wyzwanie w zakresie bezpieczeństwa, w miarę jak modele AI stają się coraz zdolniejsze we wspieraniu zaawansowanych badań naukowych.
Podejrzewana rosyjska kampania cyberszpiegowska wymierzona w Ukrainę
Raport opisuje również osobną operację, którą Anthropic przypisuje podejrzewanemu podmiotowi powiązanemu z rosyjskim państwem.
Anthropic oznaczył tę aktywność jako GTG-20006 i poinformował, że jego ocena jest zgodna z publicznymi doniesieniami łączącymi ten podmiot z Midnight Blizzard, grupą zagrożeń powszechnie kojarzoną z szpiegostwem sponsorowanym przez rosyjskie państwo.
Operator miał używać Claude w znacznych częściach operacji cybernetycznej, a nie tylko prosić model AI o okazjonalne porady techniczne.
Anthropic twierdzi, że aktywność była wymierzona w ukraiński personel rządowy, wojskowy i dyplomatyczny, a także w europejskie cele rządowe i związane z obronnością. Kampania koncentrowała się też mocno na ukraińskim ekosystemie wojskowych dronów.
Operatorzy mieli stosować przepływy pracy wspomagane przez AI do działań takich jak rozpoznanie, badania techniczne i przetwarzanie skradzionych informacji.
Anthropic twierdzi, że grupa skanowała infrastrukturę poczty e-mail i dostępu zdalnego w ponad dwóch tuzinach ukraińskich podmiotów rządowych.
Operacja była też wymierzona w firmy zajmujące się technologią dronów. Według Anthropic atakujący zdobyli skrzynki pocztowe co najmniej dwóch producentów komponentów do dronów i ukradli zastrzeżony zestaw narzędzi programistycznych (SDK) powiązany z systemem wizyjnym drona. Następnie atakujący użyli Claude, aby pomóc w analizie skradzionej technologii.
AI staje się czymś więcej niż chatbotem
Jednym z najważniejszych ustaleń raportu jest zmieniająca się rola AI w operacjach cybernetycznych.
Tradycyjne użycie asystenta AI mogło polegać na tym, że atakujący pytał: „Jak wykonać to zadanie?”
Nowszy model jest bliższy: „Wykonaj zadanie, przeanalizuj wyniki i ustal, co powinno się wydarzyć dalej”.
Anthropic twierdzi, że wiele zbadanych przez niego operacji polegało na wykorzystaniu AI do bezpośredniego wykonywania lub orkiestracji, w tym przepływów wieloagentowych realizujących rozpoznanie, wykorzystywanie luk i przetwarzanie danych. Ludzie pozostawali zaangażowani, wybierając cele i przeglądając wyniki.
To rozróżnienie ma znaczenie, ponieważ automatyzacja zmienia ekonomię cyberataków.
Atakujący nie musi już koniecznie dysponować dużym zespołem specjalistów, aby ręcznie wykonać każdy etap. AI może potencjalnie pomóc jednemu operatorowi przetworzyć znacznie więcej informacji, szybciej tworzyć narzędzia i działać przeciwko większej liczbie celów.
Dlaczego to ważne dla firm
Konsekwencje sięgają daleko poza firmy zajmujące się AI.
Firmy coraz częściej używają systemów AI do interakcji z:
- Sieciami korporacyjnymi
- Repozytoriami kodu źródłowego
- Środowiskami chmurowymi
- Narzędziami bezpieczeństwa
- Wewnętrznymi bazami danych
- Informacjami o klientach
- Aplikacjami biznesowymi
Przyznanie systemowi AI dostępu do tych środowisk rodzi nowe pytanie dotyczące bezpieczeństwa:
Co się stanie, jeśli osoba kontrolująca AI ma złośliwe zamiary?
Tradycyjne modele bezpieczeństwa zakładają zwykle, że operator-człowiek podejmuje pojedyncze decyzje. Agentowa AI zmienia to założenie, pozwalając oprogramowaniu automatycznie wykonywać wiele działań.
Przejęte konto AI, skradziony klucz API lub złośliwy użytkownik mogłyby potencjalnie zamienić asystenta AI w narzędzie operacyjne, a nie tylko źródło informacji.
Bezpieczeństwo AI wymaga czegoś więcej niż filtrowania treści
Raport Anthropic wskazuje też ważne ograniczenie polegania wyłącznie na klasyfikatorach bezpieczeństwa AI.
Klasyfikator potrafi wykryć podejrzane prośby i je zablokować. Ale zaawansowani użytkownicy mogą:
- Rozdzielać działania na wiele sesji
- Ukrywać swój rzeczywisty cel
- Korzystać z platform AI innych firm
- Kierować prośby przez odsprzedawców
- Zmieniać sformułowania lub kontekst próśb
- Łączyć kilka systemów AI na różnych etapach operacji
Anthropic twierdzi, że cyberprzestępcy próbowali kilku z tych podejść w badanych przez niego przypadkach.
Oznacza to, że bezpieczeństwo AI coraz częściej wymaga warstwowych mechanizmów kontroli, a nie polegania na jednym zabezpieczeniu na poziomie modelu.
Co firmy powinny rozważyć
Firmy wdrażające agentów AI powinny traktować je jako uprzywilejowane komponenty oprogramowania, a nie zwykłe aplikacje czatu.
Ważne mechanizmy kontroli obejmują:
✅ Zasadę najmniejszych uprawnień
Agenci AI powinni otrzymywać wyłącznie uprawnienia wymagane do ich konkretnego zadania.
✅ Silne kontrole tożsamości
Klucze API i tożsamości usługowe powinny być ściśle kontrolowane, monitorowane i rotowane.
✅ Izolację sieciową
Agenci nie powinni automatycznie mieć nieograniczonego dostępu do internetu ani systemów wewnętrznych.
✅ Zatwierdzanie przez człowieka działań wysokiego ryzyka
Działania dotyczące systemów produkcyjnych, danych wrażliwych, transakcji finansowych lub mechanizmów bezpieczeństwa powinny wymagać odpowiedniej autoryzacji człowieka.
✅ Szczegółowe monitorowanie
Firmy powinny rejestrować działania agentów, wywołania narzędzi, aktywność sieciową i dostęp do wrażliwych zasobów.
✅ Wykrywanie oparte na zachowaniu
Zespoły bezpieczeństwa powinny szukać nietypowych sekwencji aktywności, zamiast polegać wyłącznie na znanych złośliwych promptach lub sygnaturach.
✅ Oddzielenie eksperymentów od produkcji
Środowiska badawcze AI powinny być odizolowane od systemów zawierających prawdziwe dane klientów, pracowników lub firmy.
Szersza lekcja dla cyberbezpieczeństwa
Przypadki opisane przez Anthropic pokazują, że AI coraz częściej staje się częścią infrastruktury operacyjnej cyberataków.
Problemem nie jest tylko to, że AI potrafi wyjaśnić, jak coś działa. Bardziej znaczącą zmianą jest to, że AI może potencjalnie pomóc atakującemu badać, automatyzować, wykonywać i analizować wiele etapów operacji.
Jednocześnie przypadki biologiczne pokazują, dlaczego bezpieczeństwo AI jest szczególnie trudne w dziedzinach naukowych o podwójnym zastosowaniu. Prawomocne badania i szkodliwa działalność mogą czasem opierać się na podobnych pojęciach technicznych, co sprawia, że proste blokowanie oparte na słowach kluczowych jest niewystarczające.
Anthropic twierdzi, że włączył wnioski z dochodzeń do swoich zabezpieczeń i przekazał odpowiednie informacje wywiadowcze innym laboratoriom AI, władzom i partnerom branżowym.
Podsumowanie
Tych incydentów nie należy interpretować jako dowodu na to, że systemy AI samodzielnie decydują się opracowywać broń lub atakować rządy. Udokumentowane przypadki dotyczyły nadużycia coraz zdolniejszych narzędzi AI kierowanego przez ludzi.
Nie czyni to jednak zagrożenia nieistotnym.
W miarę jak systemy AI stają się zdolne do wykonywania dłuższych i bardziej złożonych sekwencji działań, granica bezpieczeństwa coraz bardziej przesuwa się z samego modelu na całe środowisko, w którym model działa.
Agentów AI należy traktować jako systemy wrażliwe z punktu widzenia bezpieczeństwa. Silne kontrole tożsamości, najmniejsze uprawnienia, izolacja sieciowa, nadzór człowieka i ciągłe monitorowanie są niezbędne, gdy AI otrzymuje dostęp do rzeczywistych narzędzi i danych.
