Dla kogo
Testerzy bezpieczeństwa pracujący w jawnie autoryzowanym zakresie.
Ścieżka specjalistyczna · S3 · Testowanie bezpieczeństwa AI
Testowanie bezpieczeństwa AI
Planuj autoryzowane kontrole i zachowuj ich dowody.
L0 i L1 są dostępne od razu na Gumroad. Pełniejsze poziomy i całe serie kupisz w naszym sklepie po zakończeniu przełączenia płatności.
Wspólne podstawy
- zakres i dane wejściowe
- dowody i niepewność
- prywatność i uprawnienia
- przegląd człowieka
- odzyskiwanie
Postęp zapisuje się tylko w tej przeglądarce. Konto ani e-mail nie są potrzebne.
01Wstępny przegląd granicy LLMDostępne w naszym sklepie i na Gumroad.
Rezultat umiejętności
Znajdź pierwsze pytania bezpieczeństwa, które warto zadać wokół autoryzowanej granicy LLM.
Wymagania wstępne
- Jasny brief i dozwolone dane wejściowe
Ćwiczenie
Pracuj na oczyszczonych danych w zadeklarowanej granicy. Zapisz wejścia, wynik i miejsca, w których potrzebny jest przegląd człowieka, korzystając z metody: Znajdź pierwsze pytania bezpieczeństwa, które warto zadać wokół autoryzowanej granicy LLM.
Oczekiwany artefakt
- mapa granicy
- lista autoryzowanych sprawdzeń
- zapis znaleziska lub luki
- następne działanie właściciela
Kryteria ukończenia
- Zapisz wymienione artefakty i odwołania do źródeł.
- Oddziel obserwacje, propozycje i brakujące dowody.
- Nie przechodź dalej, gdy brakuje danych, autoryzacji albo właściciela decyzji.
Otwórz stronę workflowu: Wstępny przegląd granicy LLM · Nasz sklep · Zobacz listing Gumroad
02Autoryzowany przegląd wstrzyknięć promptuDostępne w naszym sklepie i na Gumroad.
Rezultat umiejętności
Przeprowadź powtarzalny przegląd wstrzyknięć promptu z jawną autoryzacją i granicą dowodów.
Wymagania wstępne
- Poprzedni węzeł ścieżki: Wstępny przegląd granicy LLM
Ćwiczenie
Pracuj na oczyszczonych danych w zadeklarowanej granicy. Zapisz wejścia, wynik i miejsca, w których potrzebny jest przegląd człowieka, korzystając z metody: Przeprowadź powtarzalny przegląd wstrzyknięć promptu z jawną autoryzacją i granicą dowodów.
Oczekiwany artefakt
- zakres testu
- pakiet dowodów wstrzyknięcia
- raport znaleziska
- działanie właściciela
Kryteria ukończenia
- Zapisz wymienione artefakty i odwołania do źródeł.
- Oddziel obserwacje, propozycje i brakujące dowody.
- Nie przechodź dalej, gdy brakuje danych, autoryzacji albo właściciela decyzji.
Otwórz stronę workflowu: Autoryzowany przegląd wstrzyknięć promptu · Nasz sklep · Zobacz listing Gumroad
03Przegląd bezpieczeństwa LLMDostępne w naszym sklepie.
Rezultat umiejętności
Zamień model zagrożeń w autoryzowane kontrole bezpieczeństwa i ustalenia do przeglądu.
Wymagania wstępne
- Poprzedni węzeł ścieżki: Autoryzowany przegląd wstrzyknięć promptu
Ćwiczenie
Pracuj na oczyszczonych danych w zadeklarowanej granicy. Zapisz wejścia, wynik i miejsca, w których potrzebny jest przegląd człowieka, korzystając z metody: Zamień model zagrożeń w autoryzowane kontrole bezpieczeństwa i ustalenia do przeglądu.
Oczekiwany artefakt
- mapa zagrożeń
- plan autoryzowanych testów
- szkic znaleziska
- mapa remediacji
Kryteria ukończenia
- Zapisz wymienione artefakty i odwołania do źródeł.
- Oddziel obserwacje, propozycje i brakujące dowody.
- Nie przechodź dalej, gdy brakuje danych, autoryzacji albo właściciela decyzji.
Otwórz stronę workflowu: Przegląd bezpieczeństwa LLM · Nasz sklep
04Implementacja testów bezpieczeństwa AIDostępne w naszym sklepie.
Rezultat umiejętności
Połącz powtarzalne kontrole bezpieczeństwa ze ścieżką dostarczania bez ukrywania ograniczeń dowodów.
Wymagania wstępne
- Poprzedni węzeł ścieżki: Przegląd bezpieczeństwa LLM
Ćwiczenie
Pracuj na oczyszczonych danych w zadeklarowanej granicy. Zapisz wejścia, wynik i miejsca, w których potrzebny jest przegląd człowieka, korzystając z metody: Połącz powtarzalne kontrole bezpieczeństwa ze ścieżką dostarczania bez ukrywania ograniczeń dowodów.
Oczekiwany artefakt
- kontrakt kontroli bezpieczeństwa
- schemat dowodów
- propozycja integracji lub autoryzowany diff implementacji
- zapis wykonanej kontroli albo jasna informacja, że jej nie uruchomiono
- decyzja bramki
Kryteria ukończenia
- Zapisz wymienione artefakty i odwołania do źródeł.
- Oddziel obserwacje, propozycje i brakujące dowody.
- Nie przechodź dalej, gdy brakuje danych, autoryzacji albo właściciela decyzji.
Otwórz stronę workflowu: Implementacja testów bezpieczeństwa AI · Nasz sklep
05Blueprint bezpieczeństwa AI w skaliDostępne w naszym sklepie.
Rezultat umiejętności
Zbuduj model operacyjny testowania bezpieczeństwa AI z właścicielem i możliwością przeglądu.
Wymagania wstępne
- Poprzedni węzeł ścieżki: Implementacja testów bezpieczeństwa AI
Ćwiczenie
Pracuj na oczyszczonych danych w zadeklarowanej granicy. Zapisz wejścia, wynik i miejsca, w których potrzebny jest przegląd człowieka, korzystając z metody: Zbuduj model operacyjny testowania bezpieczeństwa AI z właścicielem i możliwością przeglądu.
Oczekiwany artefakt
- blueprint ram bezpieczeństwa
- biblioteka kontroli
- macierz odpowiedzialności
- plan adopcji
Kryteria ukończenia
- Zapisz wymienione artefakty i odwołania do źródeł.
- Oddziel obserwacje, propozycje i brakujące dowody.
- Nie przechodź dalej, gdy brakuje danych, autoryzacji albo właściciela decyzji.
Otwórz stronę workflowu: Blueprint bezpieczeństwa AI w skali · Nasz sklep
Gdzie kupić poziomy
Wszystkie poziomy kupisz w naszym sklepie; L0 i L1 są też na Gumroad.