Co jest Ucieczka z więzienia?

Praca nad zapewnieniem, aby systemy AI zachowywały się zgodnie z ludzkimi intencjami, wartościami i ograniczeniami bezpieczeństwa.

Dziedzina skupiająca się na ograniczaniu szkodliwych zachowań, awarii i ryzyka niewłaściwego użycia w systemach AI.

Zdolność modelu do podążania za wzorcami z przykładów podanych bezpośrednio w monicie.

Dokumentacja opisująca zamierzone zastosowanie modelu, metryki, ograniczenia i ryzyko.

Instrukcje wejściowe i kontekst dostarczony do modelu generatywnego.

Projektowanie podpowiedzi poprawiających jakość wydruku, niezawodność i sterowalność.