Istilah Glosari AI

Apakah Pecah penjara?

Definisi

Teknik segera bertujuan untuk memintas kekangan keselamatan model.

Semak imbas Glosari AI penuhTerokai semua panduan AI percuma

Istilah berkaitan

Penjajaran AIKerja membuat sistem AI berkelakuan mengikut niat, nilai dan kekangan keselamatan manusia.Keselamatan AIBidang yang memfokuskan pada mengurangkan tingkah laku berbahaya, kegagalan dan risiko penyalahgunaan dalam sistem AI.Pembelajaran Dalam KonteksKeupayaan model untuk mengikuti corak daripada contoh yang diberikan secara langsung dalam gesaan.Kad ModelDokumentasi yang menerangkan tujuan penggunaan model, metrik, had dan risiko.ArahanArahan input dan konteks yang diberikan kepada model generatif.Prompt EngineeringMereka bentuk gesaan untuk meningkatkan kualiti output, kebolehpercayaan dan kebolehkawalan.

Ketahui lebih lanjut dalam panduan percuma kami

Jailbreaking and Red-Teaming

Lihat juga

Intent ClassificationKnowledge CutoffInstruction TuningKnowledge DistillationInference-Time ComputeKnowledge GraphInferenceLabel Smoothing