Frontier AI a zarządzanie ryzykiem. Co rekomenduje UKNF podmiotom rynku finansowego?

Sztuczna inteligencja nie wymyśliła phishingu, złośliwego oprogramowania ani ataków na nieaktualne systemy. Może jednak sprawić, że działania te będą prowadzone szybciej, taniej i na znacznie większą skalę. To najważniejszy wniosek z rekomendacji Urzędu Komisji Nadzoru Finansowego dotyczących wpływu modeli Frontier AI na cyberbezpieczeństwo. 

 Frontier AI zmienia tempo działania, ale nie przenosi odpowiedzialności z organizacji na technologię. Zarząd nadal odpowiada za właściwe zarządzanie ryzykiem, zapewnienie zasobów, nadzór nad dostawcami oraz skuteczność procesów bezpieczeństwa. Zmienia się natomiast czas, w którym organizacja musi wykryć zagrożenie, ocenić jego znaczenie i podjąć decyzję. 

Dotychczasowe harmonogramy aktualizacji, procedury eskalacji i modele oceny podatności mogą już nie odpowiadać dynamice zagrożeń wspieranych przez zaawansowaną sztuczną inteligencję.

Czym jest Frontier AI? 

Frontier AI to określenie najbardziej zaawansowanych modeli sztucznej inteligencji, których możliwości wykraczają poza standardowe zastosowania popularnych narzędzi generatywnych. 

Ich znaczenie dla cyberbezpieczeństwa nie wynika wyłącznie ze zdolności do tworzenia tekstu lub kodu. Kluczowe jest połączenie kilku funkcji: analizy dużych zbiorów danych, automatyzacji działań, przetwarzania informacji technicznych oraz dopasowywania komunikacji do konkretnego celu lub odbiorcy. 

 W praktyce modele te mogą wspierać: 

• wyszukiwanie podatności w kodzie i infrastrukturze, 

• analizę dokumentacji systemów i dostawców, 

• przygotowywanie przekonujących wiadomości phishingowych, 

• tworzenie fałszywych nagrań głosowych i materiałów wideo, 

• automatyzację kolejnych etapów cyberataku, 

• prowadzenie wielu działań ofensywnych jednocześnie. 

Same typy zagrożeń są znane od lat. Zmienia się jednak koszt i czas ich przygotowania. Czynności wymagające dotychczas specjalistycznej wiedzy mogą być częściowo wspierane lub automatyzowane. 

Czas reakcji jako element zarządzania ryzykiem  

Rozwój narzędzi analizujących kod i podatności może skracać czas pomiędzy wykryciem błędu a pierwszymi próbami jego wykorzystania. 

Dla instytucji finansowej oznacza to konieczność ponownej oceny dotychczasowego procesu aktualizacji. Nie wystarczy wiedzieć, że poprawka zostanie zainstalowana w najbliższym planowanym oknie serwisowym. 

 Organizacja powinna ustalić: 

• czy podatność jest już aktywnie wykorzystywana, 

• które systemy są na nią narażone, 

• czy dotyczy ona procesów krytycznych, 

• kto może zatwierdzić awaryjne wdrożenie poprawki, 

• jak szybko można ograniczyć ekspozycję, 

• jakie zabezpieczenie tymczasowe można zastosować. 

Zarządzanie podatnościami przestaje być wyłącznie zadaniem administracji technicznej. Staje się elementem zarządzania ryzykiem biznesowym. 

Frontier AI w kontekście DORA 

Rekomendacje UKNF dotyczące wpływu Frontier AI na zarządzanie ryzykiem zostały osadzone w kontekście rozporządzenia DORA, czyli przepisów dotyczących operacyjnej odporności cyfrowej sektora finansowego. 

DORA wymaga, aby podmioty finansowe nie tylko posiadały polityki bezpieczeństwa, ale potrafiły wykazać skuteczność mechanizmów: 

• zarządzania ryzykiem ICT, 

• reagowania na incydenty, 

• testowania odporności cyfrowej, 

• zarządzania dostawcami technologii, 

• zapewnienia ciągłości działania. 

Frontier AI nie zmienia tej zasady. Powoduje jednak, że część istniejących analiz, procedur i scenariuszy testowych powinna zostać ponownie oceniona. 

Zarządzanie ryzykiem ICT 

Analizy ryzyka powinny uwzględniać możliwość wykorzystania AI przez cyberprzestępców. Dotyczy to między innymi: 

• automatyzacji ataków, 

• phishingu dopasowanego do konkretnej osoby, 

• deepfake’ów wykorzystywanych do podszywania się pod pracowników i członków zarządu, 

• szybszego wyszukiwania i wykorzystywania podatności. 

Organizacja powinna sprawdzić, czy obecne mechanizmy monitorowania i reagowania poradzą sobie ze wzrostem liczby zdarzeń oraz skróceniem czasu dostępnego na reakcję. 

Testowanie odporności cyfrowej 

Sama aktualizacja polityki lub instrukcji nie wystarczy. Scenariusze wykorzystania AI powinny zostać uwzględnione w rzeczywistych testach. 

Instytucja powinna umieć wykazać, że potrafi: 

1. wykryć nietypową aktywność, 
2. rozpoznać próbę podszycia się pod pracownika, 
3. szybko zidentyfikować podatny system, 
4. uruchomić odpowiednią ścieżkę eskalacji, 
5. ograniczyć wpływ incydentu na procesy biznesowe, 
6. odtworzyć działanie usługi po zakłóceniu. 

Dowodem mogą być wyniki ćwiczeń, testów bezpieczeństwa, rejestry incydentów, raporty z usuwania podatności oraz dokumentacja działań naprawczych. 

Bartosz Leśniak, ekspert ds. cyberbezpieczeństwa, zwraca uwagę, że zmiana dotyczy nie tylko wykorzystywanych technologii, ale przede wszystkim sposobu i tempa zarządzania bezpieczeństwem:

„

Organizacje bardzo często wpadają w pułapkę, przypisując sztuczną
inteligencję wyłącznie do kategorii „nowych technologii IT”, podczas gdy
w rzeczywistości jest to kluczowy element, który całkowicie zmienia zasady
zarządzania bezpieczeństwem w firmie. AI nie jest jedynie narzędziem.
To czynnik, który drastycznie skraca czas między wykryciem luki a jej
masowym wykorzystaniem, sprawiając, że tradycyjne, cykliczne harmonogramy
aktualizacji stają się bezużyteczne. Z tego powodu testowanie odporności
cyfrowej nie może opierać się już na statycznych politykach, lecz musi
obejmować praktyczne scenariusze zautomatyzowanych, wielowątkowych ataków,
takich jak spersonalizowany phishing czy użycie deepfake’ów. Jeśli firmy
nie dostosują tempa swojego reagowania na incydenty i zarządzania
podatnościami do tempa działania zautomatyzowanych agentów, nawet najlepsze
technologicznie bariery ochronne zostaną po prostu wyprzedzone i ominięte.

Bartosz Leśniak

Ekspert ds. cyberbezpieczeństwa

Cztery pytania, które powinien zadać zarząd

Na podstawie rekomendacji UKNF można sformułować praktyczną listę pytań do osób odpowiedzialnych za zarządzanie ryzykiem. Odpowiedzi i przedstawione dowody mogą pomóc zarządowi ocenić, czy obecny system przeciwdziałania cyberatakom działa skutecznie. 

Obszar	Pytanie zarządcze	Oczekiwany dowód
Ekspozycja	Które systemy, aplikacje i interfejsy są dostępne z Internetu?	Aktualna inwentaryzacja aktywów, właściciele systemów i data ostatniej weryfikacji
Tempo reakcji	Ile czasu zajmuje ograniczenie krytycznej podatności?	Dane o czasie identyfikacji, decyzji, wdrożenia poprawki i zabezpieczenia tymczasowego
Dostawcy	Które procesy krytyczne zależą od jednego dostawcy ICT lub AI?	Mapa zależności, ocena ryzyka koncentracji, plan wyjścia i możliwość migracji danych
Gotowość	Kiedy ostatnio przetestowano reakcję na incydent wykorzystujący AI lub deepfake?	Raport z ćwiczenia, wykryte luki, właściciele działań naprawczych i terminy

Jeżeli organizacja nie potrafi odpowiedzieć na te pytania na podstawie aktualnych danych, oznacza to lukę zarządczą, a nie wyłącznie techniczną. 

Sam wskaźnik CVSS nie wystarczy 

Jednym z ważniejszych wniosków z rekomendacji UKNF jest potrzeba odejścia od mechanicznego ustalania priorytetów wyłącznie na podstawie technicznej punktacji podatności. 

CVSS (Common Vulnerability Scoring System) to system służący do określania technicznej istotności podatności w skali od 0 do 10. Im wyższy wynik, tym poważniejsza jest podatność z technicznego punktu widzenia. Sama punktacja nie pokazuje jednak, jakie zagrożenie dana podatność stwarza dla konkretnej organizacji. 

Wysoka wartość CVSS nie zawsze oznacza największe ryzyko biznesowe. Z kolei podatność oceniona jako średnia może wymagać natychmiastowej reakcji, jeżeli: 

• jest aktywnie wykorzystywana, 

• dotyczy systemu dostępnego publicznie, 

• umożliwia dostęp do danych chronionych, 

• wpływa na funkcję krytyczną, 

• występuje w wielu systemach, 

• znajduje się w produkcie kluczowego dostawcy, 

• może doprowadzić do przerwania świadczenia usług. 

Właściwa ocena powinna łączyć dane techniczne z kontekstem biznesowym, informacjami Threat Intelligence (gromadzenie i analizowanie informacji o cyberzagrożeniach), ekspozycją systemu oraz wpływem potencjalnego incydentu na klientów i ciągłość działania. 

Systemy dostępne z Internetu wymagają szczególnej uwagi 

Najbardziej narażone są rozwiązania znajdujące się na styku organizacji z siecią publiczną: 

• portale, 

• systemy zdalnego dostępu, 

• interfejsy API, 

• urządzenia perymetryczne, 

• aplikacje mobilne, 

• usługi udostępniane klientom i partnerom. 

Jeżeli system jest przestarzały, nieobsługiwany lub niewłaściwie skonfigurowany, automatyczna analiza może ułatwić jego identyfikację i wykorzystanie. 

Organizacja powinna wiedzieć, jakie usługi są widoczne z Internetu, kto za nie odpowiada i kiedy zostały ostatnio zaktualizowane. Brak aktualnej inwentaryzacji oznacza, że rzeczywista powierzchnia ataku może być większa, niż wynika to z raportów przekazywanych zarządowi. 

Bezpieczeństwo trzeba projektować, a nie dopisywać na końcu 

UKNF wskazuje również na potrzebę wzmacniania rozwiązań strukturalnych. Zarządzanie ryzykiem powinno być uwzględniane już na etapie projektowania systemu, procesu lub usługi. Domyślna konfiguracja powinna ograniczać dostęp i ekspozycję, zamiast wymagać późniejszego ręcznego „uszczelniania”. 

 Jednocześnie ochrona organizacji nie może zależeć od jednego rozwiązania. Potrzebne są uzupełniające się warstwy: 

• kontrola dostępu, 

• uwierzytelnianie wieloskładnikowe, 

• segmentacja sieci, 

• monitoring, 

• ochrona stacji roboczych i poczty, 

• kopie zapasowe, 

• zarządzanie aktualizacjami, 

• reagowanie na incydenty. 

Każde nieużywane konto, otwarty port, zbędna usługa lub przestarzały system zwiększają ekspozycję. Ograniczanie powierzchni ataku i modernizacja niewspieranych technologii powinny być więc stałym procesem, a nie jednorazowym projektem. 

Dostawcy ICT i AI: ocena nie kończy się na umowie 

Instytucje finansowe korzystają z rozbudowanych łańcuchów dostaw obejmujących chmurę, oprogramowanie, modele AI, biblioteki open source i podwykonawców. 

Dlatego należy ustalić: 

• gdzie dostawca wykorzystuje AI, 

• jakie dane trafiają do modelu, 

• kto ma do nich dostęp, 

• czy dane są wykorzystywane do dalszego trenowania, 

• z jakich podwykonawców korzysta dostawca, 

• jak zgłaszane są incydenty i podatności, 

• czy dane można przenieść do innego rozwiązania, 

• jak zostanie zapewniona ciągłość działania po awarii lub zakończeniu współpracy. 

Rozwój usług AI zwiększa także ryzyko koncentracji. Organizacja może stać się zależna od jednego dostawcy modelu, chmury lub systemu obsługującego kilka krytycznych procesów. 

Dlatego obok analizy korzyści potrzebne są plan wyjścia, możliwość migracji danych oraz scenariusz działania na wypadek niedostępności usługi. 

Zarządzanie ryzykiem – czy AI może wspierać cyberobronę? 

Tak. Sztuczna inteligencja może wspierać zarządzanie ryzykiem poprzez analizę zdarzeń, wykrywanie anomalii, identyfikację podatnych zasobów i ocenę ekspozycji na zagrożenia. 

Nie oznacza to jednak, że organizacja powinna bezrefleksyjnie przekazywać agentom AI uprawnienia do zarządzania infrastrukturą lub reagowania na incydenty. 

Każde takie wdrożenie wymaga oceny: 

• zakresu uprawnień, 

• rodzaju przetwarzanych danych, 

• ryzyka ujawnienia informacji chronionych, 

• sposobu przechowywania zapytań i odpowiedzi, 

• zależności od dostawcy, 

• skutków błędnej rekomendacji, 

• możliwości nadzoru i zatrzymania systemu. 

AI może wspierać specjalistę. Nie powinna jednak automatycznie przejmować odpowiedzialności za decyzje dotyczące ryzyka, dostępu do systemów czy obsługi incydentu. 

Co organizacja powinna zrobić teraz? 

Punktem wyjścia do skutecznego zarządzania ryzykiem powinien być przegląd rzeczywistej gotowości organizacji, a nie założenie, że dotychczasowe procedury nadal są wystarczające. Najpierw instytucja musi wiedzieć, gdzie znajduje się jej największa ekspozycja i jak szybko potrafi zareagować.

Przegląd gotowości powinien objąć: 

• aktualność rejestru aktywów, procesów krytycznych i dostawców; 

• wpływ Frontier AI na profil ryzyka ICT; 

• scenariusze ataków wykorzystujących automatyzację, deepfake i phishing generowany przez AI; 

• proces zarządzania podatnościami i aktualizacjami; 

• systemy i interfejsy dostępne z Internetu; 

• dostawców ICT, modeli AI i podwykonawców; 

• ryzyko koncentracji oraz możliwość migracji; 

• plany reagowania na incydenty i ciągłości działania; 

• kompetencje pracowników w zakresie rozpoznawania nowych form socjotechniki; 

• sposób raportowania ryzyka cybernetycznego do zarządu. 

Rezultatem powinien być plan działań z przypisanymi właścicielami, terminami i miernikami. Bez tego rekomendacje pozostaną zbiorem dobrych praktyk, a nie elementem rzeczywistego systemu zarządzania. 

Frontier AI sprawia, że czasu na reakcję jest mniej 

Rekomendacje UKNF nie oznaczają, że każda instytucja finansowa powinna natychmiast wdrażać nowe rozwiązania oparte na AI. Oznaczają natomiast, że dotychczasowe tempo zarządzania podatnościami, dostawcami i incydentami może już nie odpowiadać tempu rozwoju zagrożeń.  

Zarząd powinien więc sprawdzić nie tylko, czy organizacja posiada wymagane procedury, ale również czy potrafi działać wystarczająco szybko, gdy zagrożenie dotyczy krytycznego systemu, dostawcy lub usługi świadczonej klientom. 

Zamów przegląd gotowości Frontier 

Grupa WW GovTech realizuje przeglądy gotowości organizacji w zakresie wpływu Frontier AI na zarządzanie ryzykiem ICT i operacyjną odporność cyfrową. Niezależny przegląd zewnętrzny pozwala spojrzeć na poszczególne obszary poza perspektywą pojedynczego dostawcy systemu lub narzędzia i ocenić ich znaczenie w kontekście całego środowiska ICT oraz ciągłości działania organizacji. 

Przegląd może objąć: 

• zarządzanie podatnościami, 

• systemy dostępne z Internetu, 

• ryzyko dostawców ICT i AI, 

• scenariusze incydentów, 

• raportowanie ryzyka do zarządu, 

• zgodność działań z wymaganiami DORA. 

Rezultatem jest mapa najważniejszych luk, ich priorytetyzacja oraz plan działań z przypisaniem odpowiedzialności i rekomendowanych terminów.

Zapytaj o zakres przeglądu gotowości Frontier AI/DORA

 

Źródło 

Artykuł opracowano na podstawie materiałów Urzędu Komisji Nadzoru Finansowego opublikowanych 22 lipca 2026 r.: „Rekomendacje dla podmiotów rynku finansowego dotyczące wpływu modeli Frontier AI na cyberbezpieczeństwo” – komunikat UKNF