1 godzina temu
NVIDIA ogłosiła wprowadzenie NVIDIA Open Agent Safety Platform, czyli otwartej platformy systemu oraz referencyjnej architektury systemowej stworzonej w celu zabezpieczania agentów sztucznej inteligencji od fazy testów do pełnego wdrożenia. Rozwiązanie zapewnia nadzór nad całym stosem technologicznym, obejmując oprogramowanie, zasoby obliczeniowe oraz systemy robotyczne wykonujące zadania w świecie rzeczywistym. Nowe narzędzia mają zapobiegać sytuacji, w której autonomiczne agenty AI omijają zabezpieczenia na poziomie aplikacji.
Nowa architektura wprowadza pełną kontrolę nad wykonaniem zadań
NVIDIA Open Agent Safety Platform odpowiada na wyzwania związane z bezpieczeństwem długotrwale pracujących agentów cyfrowych, które w dotychczasowych testach potrafiły wymykać się ze środowisk izolowanych i obchodzić tradycyjne ograniczenia aplikacyjne. W skład nowej architektury wchodzi otwarte oprogramowanie NVIDIA OpenShell, uruchamiane w środowisku wykonawczym z izolacją na poziomie jądra systemu na procesorach NVIDIA Vera, z możliwością rozszerzenia na platformy firm trzecich, takich jak Arm czy Intel. Z kolei w warstwie sprzętowej zastosowano moduł NVIDIA Sentry, działający na jednostkach DPU NVIDIA BlueField-4 jako zewnętrzny strażnik. Sentry w czasie rzeczywistym analizuje zachowanie agentów i w razie próby przekroczenia wyznaczonych uprawnień potrafi odizolować dany proces w ciągu milisekund.
Niezwykły potencjał sztucznej inteligencji dla społeczeństwa zostanie zrealizowany tylko wtedy, gdy rozwiążemy kwestię bezpieczeństwa AI. Mając na uwadze stałe odkrywanie granic możliwości AI, musimy przyspieszyć prace nad granicami jej bezpieczeństwa. Bezpieczeństwo i ochrona wymagają inżynierii pełnego stosu. NVIDIA Open Agent Safety Platform łączy branżę, badaczy i organizacje sektora publicznego w celu wymiany dobrych praktyk, ujednolicenia metod oceny i rozwijania współpracy międzynarodowej. Razem możemy podnieść poprzekną dla globalnego bezpieczeństwa agentów AI – powiedział Jensen Huang, dyrektor generalny firmy NVIDIA.
Szerokie wsparcie ze strony liderów rynku technologicznego i dostawców rozwiązań korporacyjnych
Nowe rozwiązania zyskały już uznanie i poparcie ze strony czołowych dostawców technologii oraz przedsiębiorstw rozwijających własne modele cyfrowe. Oprogramowanie OpenShell zintegrowano m.in. z platformą Slack, co umożliwia zespołom nadzorowanie aktywności agentów, przeglądanie zdarzeń audytowych oraz zatwierdzanie wniosków o dodatkowe uprawnienia bezpośrednio w komunikatorze. Z kolei firma Anthropic wykorzystuje platformę do wzmocnienia ochrony w rozwiązaniu Claude Managed Agents.
Firmy powierzają agentom AI coraz ważniejsze zadania i muszą kierować ich pracą oraz ją weryfikować, szczególnie w wrażliwych środowiskach. Claude Managed Agents daje przedsiębiorstwom jasny wgląd w to, co robi każdy agent, a platforma firmy NVIDIA dodaje kolejną warstwę zarządzania i kontroli w warstwie sprzętu i oprogramowania – powiedział Paul Smith, dyrektor handlowy w firmie Anthropic.
Na podobne aspekty zwracają uwagę przedstawiciele sektora rosnących zastosowań programistycznych i wyszukiwarkowych. W SpaceXAI rozwiązania NVIDII zabezpieczają narzędzia Cursor i modele Grok. Do grona partnerów wspierających nowy standard dołączyło ponad sto organizacji, w tym Salesforce, SAP, Scale AI, Microsoft, Red Hat, Dell Technologies, HPE oraz Cisco.
Dostępność kodu źródłowego oraz perspektywy wdrożeniowe w infrastrukturze B2B
Oprogramowanie NVIDIA OpenShell udostępniono na licencji open source Apache 2.0 poprzez zasoby deweloperskie producenta oraz serwis GitHub. Dla organizacji korzystających już z infrastruktury opartej na procesorach NVIDIA Vera oraz jednostkach DPU BlueField-4 aktywacja mechanizmów NVIDIA Sentry sprowadza się do aktualizacji oprogramowania. Projekt wspiera również rozwój otwartych standardów interoperacyjności w ramach organizacji Open Secure AI Alliance, zarządzanej przez Linux Foundation. Dzięki temu dystrybutorzy, integratorzy oraz działy IT mogą oferować klientom biznesowym kompletny stos technologiczny z wbudowaną izolacją, audytowalnością, niezależną weryfikacją tożsamości agentów oraz natychmiastowym egzekwowaniem polityk bezpieczeństwa w infrastrukturze hybrydowej.
