45 minut temu
Firmy coraz szybciej wdrażają agentów sztucznej inteligencji, którzy samodzielnie korzystają z aplikacji, przetwarzają dane i wykonują operacje w systemach biznesowych. Według Microsoft Work Trend Index 2026 liczba aktywnych rozwiązań tego typu w środowisku Microsoft 365 wzrosła w ciągu roku 15-krotnie, a w dużych przedsiębiorstwach choćby 18-krotnie. Tymczasem z badania Deloitte wynika, iż zaledwie 21% organizacji posiada dojrzały model zarządzania ryzykiem związanym z nimi. Dla działów cyberbezpieczeństwa oznacza to nowe wyzwanie: jak kontrolować cyfrowych „pracowników”, którzy mogą działać bez bezpośredniego nadzoru człowieka?
W przeciwieństwie do tradycyjnych chatbotów autonomiczne systemy AI nie ograniczają się do udzielania odpowiedzi czy przygotowywania podsumowań. Mogą samodzielnie realizować wieloetapowe zadania, korzystając z różnych firmowych narzędzi. Rosnąca samodzielność oznacza jednak również większe wymagania wobec mechanizmów bezpieczeństwa. Cyfrowy wykonawca, podobnie jak pracownik czy administrator, potrzebuje określonych uprawnień dostępu. jeżeli są one zbyt szerokie, błędne działanie algorytmu może przynieść konsekwencje wykraczające daleko poza pierwotny cel zadania.
Większe uprawnienia niż jest to potrzebne
Jednym z najważniejszych zagrożeń jest wykorzystywanie kont użytkowników lub integracji posiadających dostęp do wielu funkcji systemu. Narzędzie odpowiedzialne wyłącznie za sprawdzanie statusu faktur może wówczas uzyskać również możliwość zmiany danych płatniczych kontrahenta. Nie musi to oznaczać celowego nadużycia — wystarczy błędna interpretacja polecenia lub złośliwa instrukcja ukryta w przetwarzanym dokumencie.
Największym wyzwaniem nie jest sama autonomia agenta AI, ale zakres operacji, które może przeprowadzić. jeżeli potrzebuje jedynie odczytu danych, nie powinien mieć możliwości ich modyfikowania. W przypadku agentów należy stosować zasady znane z zarządzania dostępem uprzywilejowanym: ograniczać uprawnienia do niezbędnego minimum, kontrolować wykonywane działania i regularnie weryfikować przyznany dostęp – komentuje Jakub Wieczorek, Architekt Systemów AI w Fudo Security.
Dodatkową trudnością jest ustalenie odpowiedzialności za podejmowane operacje. Autonomiczny byt cyfrowy może zostać utworzony przez jeden dział, korzystać z narzędzi udostępnionych przez inny i działać na rzecz kolejnego. Dlatego każdy z nich powinien posiadać własną, możliwą do zidentyfikowania tożsamość oraz przypisanego właściciela. Firma musi dokładnie wiedzieć, jakie działania zostały podjęte, i zachować możliwość natychmiastowego odebrania dostępu.
Firmy tracą rachubę
Pracownicy mogą samodzielnie tworzyć agentów, łączyć ich z firmowymi aplikacjami i przyznawać im dostęp do danych bez angażowania działów IT i bezpieczeństwa. W rezultacie organizacja może stracić wiedzę o tym, ile takich rozwiązań działa w jej środowisku, jakie posiadają uprawnienia i kto odpowiada za ich funkcjonowanie. Szczególnie ryzykowni mogą być asystenci tworzeni na potrzeby krótkoterminowych projektów. jeżeli po ich zakończeniu konta i tokeny dostępowe pozostają aktywne, firma utrzymuje dostęp do infrastruktury dla rozwiązań, które nie są już wykorzystywane.
Wraz z rosnącą liczbą agentów AI firmy muszą mieć pełną wiedzę o tym, które z nich korzystają z firmowych systemów, kto odpowiada za ich działanie i jakie operacje wykonują. Bez takiej przejrzystości rozwój automatyzacji może gwałtownie wyprzedzić możliwości jej kontrolowania. Nie oznacza to konieczności tworzenia zupełnie nowych mechanizmów bezpieczeństwa. Agentów AI można objąć zasadami stosowanymi w zarządzaniu dostępem uprzywilejowanym, takimi jak przyznawanie dostępu wyłącznie na czas realizacji zadania, rejestrowanie sesji czy możliwość natychmiastowego odebrania uprawnień – podsumowuje Jakub Wieczorek.
Wyniki badań Microsoft i Deloitte dobitnie pokazują skalę zjawiska. W erze autonomicznych narzędzi AI zarządzanie cyfrowymi tożsamościami, higiena uprawnień oraz rzetelny audyt działań maszyn stają się fundamentem bezpieczeństwa korporacyjnego.
