OASF nie OASF kolejnym dokumentem ramowym. Jest to ustrukturyzowana, oparta na dziedzinach architektura zarządzania, która określa granice kontroli potrzebne Twojej organizacji — oraz wyznacza kierunek działań Aegis w czasie wykonywania. Jest ona bezpośrednio dostosowana do unijnej ustawy o sztucznej inteligencji oraz RMF NIST RMF.
Każdy obszar dotyczy odrębnego aspektu zarządzania — od sposobu klasyfikacji i przetwarzania danych wykorzystywanych w sztucznej inteligencji, przez proces zatwierdzania i monitorowania modeli, aż po wykrywanie incydentów i reagowanie na nie. Kliknij dowolny obszar, aby zapoznać się z jego mechanizmami kontroli.
Określa sposób klasyfikacji, przetwarzania, ochrony i kontroli danych w trakcie interakcji z systemami sztucznej inteligencji. Ustanawia zasady minimalizacji danych, ograniczenia celu oraz ochrony danych, które Aegis Guard w czasie działania — gwarantując, że dane wrażliwe nigdy nie trafią do niezatwierdzonych modeli sztucznej inteligencji.
Aegis
Kontrolery OASF sterują regułamiGuard Aegis Guard — określają, które klasyfikacje danych powodują zamazanie, blokowanie lub routing do wyższego poziomu routing wykonywania.
Określa poziomy wrażliwości danych dla kontekstów sztucznej inteligencji — od publicznych po zastrzeżone. Określa, które kategorie danych mogą być przetwarzane przez poszczególne typy modeli sztucznej inteligencji.
Zasady regulujące wykorzystanie danych osobowych w poleceniach, procesie uczenia się i wynikach generowanych przez sztuczną inteligencję. Zapewniają przestrzeganie zasad minimalizacji danych i ograniczenia celu określonych w RODO w momencie interakcji z systemem opartym na sztucznej inteligencji.
Zakazuje przetwarzania danych należących do kategorii szczególnych, o których mowa w art. 9 RODO (dane dotyczące zdrowia, dane biometryczne, pochodzenie etniczne), za pomocą niezatwierdzonych systemów sztucznej inteligencji. Określa dopuszczalne wyjątki i środki kontroli.
Zasady regulujące przekazywanie danych dostawcom usług sztucznej inteligencji spoza UE/EOG. Określają one zatwierdzone mechanizmy przekazywania danych oraz routing w odniesieniu do poszczególnych kategorii danych wrażliwych.
Określa sposób oceny, zatwierdzania, katalogowania, monitorowania i wycofywania modeli sztucznej inteligencji. Tworzy rejestr zatwierdzonych modeli, z któregoRouting Aegis Routing w celu wyboru modeli i egzekwowania dostępu do nich — gwarantując, że pracownicy mają dostęp wyłącznie do sprawdzonych i zatwierdzonych modeli sztucznej inteligencji.
Aegis
Elementy sterujące OASF uzupełniająRouting Aegis — określając, które modele są zatwierdzone dla poszczególnych klasyfikacji danych i kontekstów biznesowych.
Określa proces oceny i zatwierdzania modeli sztucznej inteligencji przed ich wdrożeniem w przedsiębiorstwie. Obejmuje on przegląd bezpieczeństwa, ocenę stronniczości, ocenę wyjaśnialności oraz sprawdzenie zgodności z przepisami.
Prowadzi oficjalny rejestr zatwierdzonych modeli sztucznej inteligencji, dostawców oraz dozwolonych przypadków użycia. Określa zasady dopasowywania modeli do klasyfikacji danych oraz ograniczenia dostępu.
Bieżące monitorowanie wdrożonych modeli sztucznej inteligencji pod kątem odchyleń, stronniczości, spadku wydajności oraz manipulacji przeciwników. Określa progi eskalacji i procedury reagowania.
Mechanizmy służące do identyfikacji i zarządzania nieautoryzowanym wykorzystaniem narzędzi opartych na sztucznej inteligencji w całym przedsiębiorstwie. Określają metody wykrywania, risk oraz procedury naprawcze dotyczące „cieniowej sztucznej inteligencji”.
Określa sposób weryfikacji tożsamości, autoryzacji dostępu oraz egzekwowania ról w ramach interakcji z AI. Każda interakcja z AI musi być powiązana z konkretną tożsamością — co gwarantuje, że na podstawie audit można ustalić, kto uzyskał dostęp do jakich danych, kiedy i dlaczego.
Aegis
OASF zarządza powiązaniemGateway w Aegis Gateway — integracją SSO, egzekwowaniem uwierzytelniania wieloskładnikowego (MFA) oraz dostępem do zatwierdzonych modeli AI dostosowanym do ról.
Wymaga, aby wszystkie interakcje z AI były powiązane ze zweryfikowaną tożsamością korporacyjną. Uniemożliwia anonimowy dostęp do AI lub dostęp za pośrednictwem kont współdzielonych. Wymusza integrację SSO z korporacyjnym systemem zarządzania tożsamością i dostępem (IAM).
Określa oparte na rolach mechanizmy kontroli dostępu do modeli sztucznej inteligencji. Role biznesowe określają, do których modeli, klasyfikacji danych i funkcji sztucznej inteligencji użytkownicy mają dostęp — zasady te są egzekwowane na poziomie zarządzania.
Udoskonalone mechanizmy kontroli dostępu uprzywilejowanego do systemów sztucznej inteligencji — administratorów modeli, specjalistów ds. zarządzania oraz audit . Określa procedury zatwierdzania oraz procedury dostępu „just-in-time”.
Określa techniczne środki bezpieczeństwa chroniące systemy sztucznej inteligencji przed atakami przeciwników, manipulacją i nadużyciami. Obejmuje ochronę przed wstrzykiwaniem treści do poleceń, odporność na ataki przeciwników oraz modelowanie zagrożeń specyficznych dla sztucznej inteligencji — czyli środki bezpieczeństwa, do których narzędzia SIEM i tradycyjne systemy DLP nie zostały zaprojektowane.
Aegis
Kontrole OASF zapewniająGuard weryfikację w systemie Aegis Guard — wykrywając ataki typu injection, próby obejścia zabezpieczeń oraz policy , zanim dotrą one do modelu.
Mechanizmy wykrywania i blokowania ataków polegających na wstrzyknięciu poleceń — prób obejścia mechanizmów zarządzania sztuczną inteligencją poprzez złośliwe instrukcje osadzone w poleceniach lub danych wejściowych.
Mechanizmy monitorowania i wykrywania danych wejściowych o charakterze złośliwym, mających na celu manipulowanie wynikami modelu, pozyskiwanie danych szkoleniowych lub wywołanie nieprawidłowego działania modelu w środowiskach produkcyjnych.
Strukturalne modelowanie zagrożeń dla systemów sztucznej inteligencji — identyfikacja powierzchni ataku, podmiotów stanowiących zagrożenie oraz wektorów ataku charakterystycznych dla wdrożeń sztucznej inteligencji w regulowanych środowiskach korporacyjnych.
Środki kontroli bezpieczeństwa w łańcuchach dostaw modeli sztucznej inteligencji — weryfikacja dostawców modeli, sprawdzanie integralności modeli oraz zarządzanie risk związanym z komponentami sztucznej inteligencji pochodzącymi od podmiotów zewnętrznych.
Określa wymagania dotyczące rejestrowania, sprawozdawczości i tworzenia dowodów, dzięki którym zarządzanie sztuczną inteligencją można wykazać przed organami regulacyjnymi, zarządami i audytorami. Każda interakcja z wykorzystaniem sztucznej inteligencji musi dać się odtworzyć — kto, jakie dane, jaki model, jakie policy , jaki był wynik.
Aegis
Reguły OASF określają schematAudit Aegis — każde pole, każdą klasyfikację oraz każdą policy , które muszą zostać zarejestrowane i zachowane.
Obowiązkowe wymagania dotyczące rejestrowania wszystkich interakcji z systemami sztucznej inteligencji — sygnał czasowy, tożsamość użytkownika, wykryte klasyfikacje danych, zastosowane zasady, użyty model oraz policy . Wymagana jest integralność dziennika z zabezpieczeniem przed manipulacją.
Określa częstotliwość sporządzania sprawozdań dotyczących ładu korporacyjnego, formaty sprawozdań oraz wskaźniki wymagane do celów sprawozdawczości dla zarządu, kierownictwa i organów regulacyjnych. Obejmuje risk opartą na sztucznej inteligencji, wskaźnik policy oraz podsumowanie incydentów.
Narzędzia do generowania, prowadzenia i tworzenia dokumentacji regulacyjnej — rejestry przetwarzania danych zgodnie z RODO, dokumentacja potwierdzająca zgodność z unijną ustawą o sztucznej inteligencji, dokumentacja potwierdzająca stosowanie środków NIS2 oraz eksporty audit .
Określa, w jaki sposób wykrywane, klasyfikowane, ograniczane, badane i zgłaszane są incydenty bezpieczeństwa związane ze sztuczną inteligencją. Tradycyjne procedury reagowania na incydenty nie zostały opracowane z myślą o nadużyciach związanych ze sztuczną inteligencją, manipulacji modelami ani uchybieniach w zakresie zarządzania — niniejszy obszar wypełnia tę lukę.
Aegis
Reguły OASF określają progi Aegis — sytuacje, w których policy , nietypowe wzorce lub incydenty związane z danymi uwierzytelniającymi powodują automatyczną eskalację.
Określa taksonomię incydentów związanych ze sztuczną inteligencją — wyciek danych, manipulacja modelami, obejście mechanizmów zarządzania, naruszenie bezpieczeństwa danych uwierzytelniających, ataki przeciwników oraz naruszenie zgodności z przepisami. Odpowiada wymogom dotyczącym 72-godzinnego powiadomienia wynikającym z RODO oraz wymogom NIS2 .
Ustalone procedury reagowania dla każdej kategorii zdarzeń związanych z AI — działania ograniczające rozprzestrzenianie się, wymagania dotyczące dochodzenia, obowiązki w zakresie powiadamiania oraz ścieżki eskalacji do wyższych szczebli zarządzania.
Obowiązkowy proces przeglądu po zdarzeniu w przypadku incydentów związanych z bezpieczeństwem sztucznej inteligencji — analiza przyczyn źródłowych, identyfikacja luk w środkach kontroli, wymagania dotyczące aktualizacji OASF oraz dokumentacja dotycząca powiadomień regulacyjnych.
Każdy OASF jest powiązany z ramami regulacyjnymi, przed którymi Twoja organizacja już odpowiada. OASF nie OASF nowym językiem, którego trzeba się nauczyć — to praktyczne wdrożenie standardów, które już znasz.
Większość systemów zarządzania generuje dokumenty. OASF mechanizmy kontroli operacyjnej. Każda domena, każdy mechanizm kontroli i każdy policy w systemie stają się w Aegis regułą egzekwowaną w czasie rzeczywistym Aegis dzięki czemu zarządzanie staje się mierzalne, podlegające audytowi i możliwe do wykazania.
Wskazuje luki risk zarządzania — określa, czym OASF zająć się OASF
Określa architekturę sterowania — staje się policy dla Aegis
Wprowadza OASF w czasie wykonywania — generuje audit , które są wykorzystywane w procesie zarządzania
OASF architekturę zarządzania, którą Aegis w czasie wykonywania — zazwyczaj jest ona ustalana w ramach OASAT , która pozwala zidentyfikować luki w zarządzaniu oraz mechanizmy kontroli niezbędne w danej organizacji.