Istilah Glosarium AI

Apa itu pembobolan penjara?

Definisi

Teknik cepat yang dimaksudkan untuk melewati batasan keamanan model.

Jelajahi Glosarium AI selengkapnyaJelajahi semua panduan AI gratis

Istilah terkait

Penyelarasan AIPekerjaan membuat sistem AI berperilaku sesuai dengan niat manusia, nilai-nilai, dan batasan keselamatan.Keamanan AIBidang yang berfokus pada pengurangan perilaku berbahaya, kegagalan, dan risiko penyalahgunaan dalam sistem AI.Pembelajaran Dalam KonteksKemampuan model untuk mengikuti pola dari contoh yang diberikan langsung di prompt.Kartu ModelDokumentasi yang menjelaskan tujuan penggunaan model, metrik, batasan, dan risiko.CepatInstruksi masukan dan konteks diberikan ke model generatif.Prompt EngineeringMerancang petunjuk untuk meningkatkan kualitas keluaran, keandalan, dan kemampuan pengendalian.

Pelajari lebih lanjut di panduan gratis kami

Jailbreaking and Red-Teaming

Lihat juga

Intent ClassificationKnowledge CutoffInstruction TuningKnowledge DistillationInference-Time ComputeKnowledge GraphInferenceLabel Smoothing