What is Prompt Injection? Definition | AI Understanding

Definiție

Un model de atac în care instrucțiuni rău intenționate sunt inserate în intrările modelului sau conținutul preluat.

Termeni înrudiți

Un model de prompt reutilizabil cu variabile, reguli de formatare și instrucțiuni specifice sarcinii.

Instrucțiunile de intrare și contextul furnizate unui model generativ.

Lanțul-Gândirii

Un stil de raționament în care un model AI descompune o problemă în pași intermediari.

Un model în care mulți parametri sunt zero sau inactivi pentru a reduce calculul.

AI constituțional

O abordare de formare și formare a comportamentului în care rezultatele modelului sunt ghidate de un set fix de principii scrise.

Un spațiu de reprezentare comprimat în care concepte similare sunt poziționate unul lângă celălalt ca vectori.

Aflați mai multe în ghidurile noastre gratuite

Prompt Engineering AI Prompt Security Plan-and-Solve Prompting IP-Adapter for Image Prompts

Vezi și

Prompt Engineering Pruning Quantization Pretraining RAG (Retrieval-Augmented Generation)Precision Recall Pipeline

Răsfoiți întregul glosar AI Explorați toate ghidurile AI gratuite