Термин от речника на AI

Какво е Бягство от затвора?

Определение

Бърза техника, предназначена да заобиколи ограниченията за безопасност на модела.

Разгледайте пълния AI речникРазгледайте всички безплатни ръководства за AI

Свързани термини

AI подравняванеРаботата по карането на AI системите да се държат според човешките намерения, ценности и ограничения за безопасност.AI БезопасностОбласт, фокусирана върху намаляването на вредното поведение, отказите и рисковете от злоупотреба в системите с изкуствен интелект.Обучение в контекстСпособността на модела да следва модели от примери, предоставени директно в подканата.Модел картаДокументация, описваща предвидената употреба на модела, показателите, ограниченията и рисковете.подканаИнструкциите за въвеждане и контекстът, предоставени на генериращ модел.Prompt EngineeringПроектиране на подкани за подобряване на качеството на изхода, надеждността и контролируемостта.

Научете повече в нашите безплатни ръководства

Jailbreaking and Red-Teaming

Вижте също

Intent ClassificationKnowledge CutoffInstruction TuningKnowledge DistillationInference-Time ComputeKnowledge GraphInferenceLabel Smoothing