Agenci AI tworzeni w Microsoft Copilot Studio mają być łatwi w użyciu — tak łatwi, że osoby nietechniczne mogą wdrażać autonomiczne boty bez napisania ani jednej linijki kodu.
Według nowego raportu firmy Tenable ta prostota stwarza znaczące ryzyko dla bezpieczeństwa.
Co zademonstrowała firma Tenable
Badacze stworzyli prostego agenta Copilot Studio połączonego z danymi w SharePoint, zawierającymi fikcyjne nazwiska klientów i dane kart kredytowych. Agent otrzymał wyraźne polecenie — zapisane pogrubioną czcionką — by nigdy nie ujawniać danych innych klientów.
To zabezpieczenie nie zadziałało.
Za pomocą prostego prompt injection badacze byli w stanie:
- Odkryć wewnętrzne możliwości agenta
- Uzyskać dostęp do prywatnych danych innych klientów bez żadnej autoryzacji
- Modyfikować rekordy (w tym zmienić ceny rezerwacji na 0 USD)
- Przejąć przepływy pracy za pomocą jednozdaniowego polecenia
„To problem wbudowany w samą implementację, a nie problem konfiguracji”.
— Keren Katz, Senior Manager, AI Security Research, Tenable
Dlaczego jest to szczególnie niebezpieczne
W przeciwieństwie do tradycyjnych systemów agenci Copilot:
- Mają rzeczywisty dostęp do danych i narzędzi biznesowych
- Wykonują rzeczywiste działania, a nie tylko udzielają odpowiedzi
- Są często wdrażani przez użytkowników bez przeszkolenia z zakresu bezpieczeństwa
Polecenia dotyczące bezpieczeństwa nie są mechanizmami kontroli bezpieczeństwa — a agenci nie egzekwują ich w niezawodny sposób.
Shadow AI pogarsza sytuację
Ponieważ agentów tak łatwo się tworzy, organizacje często mają:
- Dziesiątki lub setki działających agentów AI
- Niewielką lub zerową widoczność dla zespołów bezpieczeństwa
- Stare agenty pozostawione po zmianach na platformie
Tenable opisuje przypadki, w których przedsiębiorstwa nie wiedziały, że całe floty agentów AI nadal działały i były połączone z wrażliwymi systemami.
Co powinny zrobić organizacje
✔ Traktuj agentów AI jak systemy uprzywilejowane
✔ Egzekwuj dostęp zgodny z zasadą najmniejszych uprawnień
✔ Prowadź scentralizowany spis agentów
✔ Monitoruj polecenia, działania i dostęp agentów do danych
✔ Uwzględniaj agentów AI w modelowaniu zagrożeń i przeglądach bezpieczeństwa
Microsoft odmówił komentarza na temat raportu.
Najważniejszy wniosek
Agenci AI to nie tylko chatboty — to autonomiczne podmioty z dostępem i uprawnieniami. Bez głębokiej obrony (defense-in-depth), ścisłych uprawnień i ciągłego monitorowania stają się powierzchnią ataku, a nie wsparciem dla produktywności.
