W ramach dużego kroku w stronę cyberbezpieczeństwa opartego na AI Google DeepMind zaprezentowało CodeMender — agenta sztucznej inteligencji (AI), który automatycznie wykrywa, łata i przepisuje podatny kod, aby zapobiegać przyszłym atakom.
Czym jest CodeMender?
Według badaczy DeepMind Raluki Ady Popy i Four Flynna agent AI CodeMender został zaprojektowany tak, by działać zarówno reaktywnie, jak i proaktywnie:
- Reaktywnie: Natychmiast łata nowo wykryte luki w zabezpieczeniach.
- Proaktywnie: Przepisuje istniejące bazy kodu, aby wyeliminować całe klasy błędów bezpieczeństwa.
„Automatycznie tworząc i stosując wysokiej jakości poprawki bezpieczeństwa, CodeMender pomaga programistom i opiekunom projektów skupić się na tym, co robią najlepiej — na tworzeniu dobrego oprogramowania” — przekazało DeepMind.
W zaledwie sześć miesięcy rozwoju do głównych projektów open source — w tym tych liczących miliony linii kodu — trafiło już 72 poprawek bezpieczeństwa.
Jak to działa
Pod maską CodeMender wykorzystuje modele Google Gemini Deep Think, aby:
- Wykrywać i debugować luki w kodzie.
- Identyfikować przyczynę źródłową każdego problemu.
- Automatycznie generować i stosować poprawki.
- Weryfikować poprawki za pomocą narzędzia krytyki opartego na dużym modelu językowym (LLM), które porównuje kod oryginalny i zmodyfikowany, aby zapobiegać regresjom.
AI potrafi nawet samodzielnie korygować swoje poprawki, gdy wykryje niespójności lub skutki uboczne.
Współpraca z programistami
Google planuje współpracować bezpośrednio z opiekunami projektów open source, oferując poprawki wygenerowane przez CodeMender i zbierając opinie, aby dopracować system pod kątem szerokiego zastosowania.
Ta inicjatywa uzupełnia bieżące działania Google w zakresie wykrywania luk w zabezpieczeniach z wykorzystaniem AI, w tym OSS-Fuzz i Big Sleep, a także jego Secure AI Framework (SAIF) — zbiór zasad zabezpieczania systemów AI.
Program nagród za luki w AI (AI VRP)
Google ogłosiło także AI Vulnerability Reward Program, który nagradza badaczy bezpieczeństwa za znajdowanie błędów specyficznych dla AI — takich jak prompt injection, jailbreaki i niedopasowanie modelu (model misalignment) — wypłatami sięgającymi 30 000 USD.
Szerszy kontekst
CodeMender to punkt zwrotny w sposobie wykorzystania AI do obrony, a nie tylko do ataków.
Dzięki automatycznej naprawie i przepisywaniu podatnego kodu narzędzia takie jak CodeMender mogą zmienić sposób utrzymania oprogramowania, dając obrońcom długo oczekiwaną przewagę nad cyberprzestępcami i atakującymi wspieranymi przez państwa.
