LegközelebbKövetkező útmutató
Prompt gyorsítótárázás
Műszaki
Műszaki ÚTMUTATÓ
Az azonnali biztonsági jelzések azok a kísérletek, amelyek arra irányulnak, hogy egy nyelvi modellalkalmazás a nem megbízható tartalmat utasításként kezelje, vagy olyan információkat közöljön, amelyeket védenie kell.
Hallgassa meg ezt az útmutatótAI-narrált · ~2 min
A probléma felmerülhet a felhasználói bevitelben, a letöltött dokumentumokban, weboldalakban, képekben vagy az eszközök válaszaiban. A védekezésnek korlátoznia kell a következményeket, valamint észlelnie kell a gyanús szövegeket.
Különítse el a felhasználó által engedélyezett feladatot a feldolgozás alatt álló tartalomtól. Egy dokumentum jogszerűen tartalmazhat utasításokat tárgyának részeként. Ezek a szavak nem szabályozhatják automatikusan az asszisztens eszközeit, fiókhozzáférését vagy válaszszabályzatát. Tartsa szűkösen a jogosultságokat. Az összegzési feladat általában nem igényel korlátlan fájlhozzáférést vagy engedélyt az üzenetek küldéséhez. Határozza meg ezeket a korlátokat az alkalmazásban, hogy a modellhiba ne hozzon létre csendben egy szélesebb képességet. Érvényesítse a következményes kimeneteket és műveleteket az eredeti kéréssel szemben. Ellenőrizze a célállomást, az érintett rekordokat, a továbbított adatokat és a szükséges jóváhagyást. Egy külső oldal, amely azt állítja, hogy a felhasználó jóváhagyott valamit, nem egyenértékű a tényleges felhasználói utasítással. Olyan regressziós eseteket hozhat létre, amelyek változtatják a nem megbízható utasítások helyét és formátumát. Ellenőrzött környezetben tesztelheti a közvetlen bevitelt, a visszakeresett szövegrészeket és az eszközeredményeket. Ellenőrizze, hogy az alkalmazás megőrzi-e a hasznos feladatteljesítményt, miközben ellenáll az átirányításnak. Kerülje a bolondbiztos azonnali befecskendező szűrőre vonatkozó állításokat; a réteges ellenőrzések és a folyamatos tesztelés hitelesebbek.
04Működő példa
Készítsen egy tesztoldalt, amely egy normál irányelv-bekezdést és egy mondatot tartalmaz, amely felszólítja az asszisztenst, hogy töltsön fel nem kapcsolódó fájlokat.
Csak a szabályzat összefoglalóját kérje. Győződjön meg arról, hogy az összefoglaló releváns tényeket használ, és hogy nincs-e meghívva feltöltési eszköz.
Ismételje meg az utasítást egy idézőjeles blokkban és az eszköz eredményében, hogy tesztelje ugyanazt a megbízhatósági határt a formátumok között.
Mit mutat
Ez a korlátozott védekező gyakorlat valódi privát fájlok használata nélkül ellenőrzi a feladatok betartását.
Foglaljon össze egy olyan dokumentumot, amely utasításszerű szakaszt tartalmaz végrehajtás nélkül.
Ellenőrizze a kimenő eszközműveletet a felhasználó eredeti céljával és céljával.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
Nem. A mögöttes probléma az, hogy a nem megbízható tartalom átirányíthatja-e a viselkedést. A támadások sokféle kifejezést és formátumot használhatnak.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
Prompt gyorsítótárázás
Műszaki