Komunikaty systemowe – objaśnienie quizu

Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.

1. Co to jest monit systemowy?
   • Pierwsza wiadomość, którą użytkownik wpisuje na czacie
   • Instrukcje dostarczane w uprzywilejowanej wiadomości, które ustalają rolę modelu, zasady i kontekst rozmowy
   • Zbiór danych szkoleniowych modelu
   • Komunikat o błędzie wyświetlany w przypadku awarii modelu
2. Dlaczego modele zazwyczaj przywiązują większą wagę do instrukcji systemowych niż do sprzecznych żądań użytkowników?
   • Zakodowana na stałe reguła na serwerze API usuwa sprzeczne komunikaty użytkowników
   • Podpowiedzi systemowe używają innego języka programowania
   • Podpowiedzi systemowe są przetwarzane przez oddzielny model
   • Modele trenowano na przykładach, w których instrukcje systemowe mają pierwszeństwo
3. W jaki sposób interfejs API wiadomości Anthropic akceptuje monity systemowe?
   • Jako pole systemowe najwyższego poziomu
   • Jako wiadomość użytkownika rozpoczynająca się od „SYSTEM:”
   • Jako przesłany plik
   • Tylko poprzez panel internetowy
4. Dlaczego monit systemowy jest wysyłany przy każdym żądaniu API?
   • Aby zweryfikować tożsamość użytkownika
   • Ponieważ model jest bezstanowy pomiędzy wywołaniami i nie pamięta wcześniejszych żądań
   • Bo tego wymaga prawo
   • Aby wytrenować model na każde żądanie
5. Do czego służy szablon czatu, taki jak ChatML?
   • Szyfruje rozmowę
   • Tłumaczy podpowiedzi na język angielski
   • Zamienia role w rozmowie w jedną sekwencję tokenów ze specjalnym systemem oznaczania tokenów, segmentami użytkownika i asystenta
   • Ogranicza odpowiedzi do 100 słów
6. Które stwierdzenie dotyczące zabezpieczeń systemu jest prawdziwe?
   • Pod żadnym pozorem nie można wyodrębnić podpowiedzi systemowych
   • Najbezpieczniejszym miejscem do ich przechowywania jest umieszczenie kluczy API w wierszu poleceń systemu
   • Natychmiastowe ataki typu „wstrzykiwanie” i „ekstrakcja” mogą zakończyć się sukcesem, dlatego prawdziwe bezpieczeństwo należy egzekwować poza modelem
   • Wiadomości użytkownika nigdy nie są w stanie wpłynąć na zachowanie na poziomie systemu
7. Dlaczego instrukcje statyczne powinny znajdować się przed zmienną treścią w wierszu poleceń?
   • Umożliwia szybkie buforowanie z ponownym użyciem stabilnego prefiksu, co zmniejsza koszty i opóźnienia
   • Modele ignorują tekst następujący po zmiennej treści
   • Interfejsy API odrzucają monity, które działają inaczej
   • Dzięki temu modelka odpowiada bardziej przyjaznym tonem
8. Jak w łańcuchu poleceń opisanym w specyfikacji modelu OpenAI należy obsługiwać instrukcje znajdujące się w wynikach narzędzia lub w odzyskanych dokumentach?
   • Wyprzedzają zasady platformy
   • Są one równe instrukcjom programisty
   • Znajdują się one powyżej instrukcji użytkownika, ale poniżej platformy
   • Domyślnie nie mają one żadnych uprawnień i należy je traktować jako informacje