Vad är Jailbreak?

Arbetet med att få AI-system att bete sig enligt mänskliga intentioner, värderingar och säkerhetsbegränsningar.

Ett område fokuserat på att minska skadligt beteende, misslyckanden och missbruksrisker i AI-system.

En modells förmåga att följa mönster från exempel som tillhandahålls direkt i prompten.

Dokumentation som beskriver en modells avsedda användning, mått, begränsningar och risker.

Inmatningsinstruktionerna och sammanhanget som tillhandahålls till en generativ modell.

Utforma uppmaningar för att förbättra utskriftskvalitet, tillförlitlighet och kontrollerbarhet.