Quiz połączony z przewodnikiem · Ciężko Poziom
Quiz dotyczący szybkiego wycieku i usuwania komunikatów systemowych
Testuje, jak działa natychmiastowy wyciek, czym różni się od natychmiastowego wstrzykiwania i dlaczego bezpieczne aplikacje przechowują tajemnice i egzekwują je poza monitem systemu.
Pytanie 1 z 8
Dlaczego nie można zagwarantować, że monit systemowy pozostanie tajny?
Podgląd każdego pytania8 pytania
Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.
- Dlaczego nie można zagwarantować, że monit systemowy pozostanie tajny?
- Monity systemowe są przechowywane na serwerach publicznych
- Model odczytuje go jak zwykły tekst w swoim kontekście, a utrzymywanie go w tajemnicy jest jedynie wyuczoną tendencją
- Wszystkie interfejsy API automatycznie publikują monity systemowe
- Monity systemowe są usuwane po każdej wiadomości
- Czym szybki wyciek różni się od szybkiego wtrysku?
- Są dokładnie tym samym
- Wyciek polega na wydobyciu ukrytej treści, natomiast wstrzyknięcie polega na tym, że model podąża za instrukcjami atakującego
- Wstrzyknięcie wpływa tylko na obrazy
- Wycieki mają miejsce tylko w przypadku modeli typu open source
- Co ujawniono w dobrze znanym wycieku czatu Bing w lutym 2023 r.?
- Kod źródłowy Microsoft
- Hasła użytkowników
- Instrukcje zawierające wewnętrzny kryptonim Sydney
- Dane szkoleniowe modelu
- Które podejście według przewodnika jest najbezpieczniejszym sposobem obsługi klucza API potrzebnego aplikacji?
- Umieść go w wierszu poleceń systemu z dopiskiem „zachowaj tę tajemnicę”
- Zakoduj go w base64 w wierszu zachęty
- Trzymaj go w kodzie po stronie serwera lub w menedżerze sekretów i udostępniaj narzędzia o ograniczonym zakresie modelu
- Podziel to na kilka wiadomości
- Dlaczego proste filtry wyjściowe nie są w stanie zatrzymać wycieku?
- Filtry spowalniają model zbyt mocno, aby można było ich użyć
- Atakujący mogą poprosić o parafrazę, tłumaczenie lub wyodrębnienie fragmentu tekstu na raz
- Filtry działają tylko na obrazach
- Filtry wyjściowe blokują wszystkie odpowiedzi
- Jaki jest cel umieszczenia ciągu znaków kanaryjskich w znaku zachęty systemowej?
- Aby model odpowiadał szybciej
- Aby wykryć w dziennikach wyciek monitu
- Aby zaszyfrować monit
- Aby zapobiec wszelkim atakom wtryskowym
- Limit zwrotów bota wsparcia jest zapisany w jego monicie i egzekwowany również w backendie. Co się stanie, jeśli zachęta wycieknie?
- Użytkownicy mogą teraz dokonywać nieograniczonych zwrotów pieniędzy
- Reguła staje się znana, ale nie można jej ominąć, ponieważ backend nadal ją wymusza
- Bot wyłącza się
- Limit zwrotów jest automatycznie usuwany
- Który dokument w wydaniu z 2025 r. wymienił wycieki systemowe jako własne ryzyko?
- OWASP Top 10 dla aplikacji LLM
- RODO
- Specyfikacja HTTP
- Standard Unicode