የጥበቃ መንገዶች እና የውጤት ልከኝነት

Output moderation is the layer that inspects what the model produced before it ever reaches the user.

የጥሬ ቋንቋ ሞዴል ማንኛውንም ጥያቄ በደስታ ይሞክራል፣ ስለዚህ የምርት ስርዓቶች እንደ የተለየ የቁጥጥር ንብርብር መከላከያ መንገዶችን ይጨምራሉ። እነዚህ ፍተሻዎች የሚሄዱት በመንገዱ ላይ ነው (ተንኮል አዘል ጥያቄዎችን በማጣራት ፣ በአፋጣኝ የመወጋት ሙከራዎች ፣ ወይም ከርዕስ ውጭ የሚጠየቁ ጥያቄዎች) እና መውጫው ላይ (የመነጨውን የጥላቻ ንግግር ፣ ራስን የመጉዳት ይዘት ፣ የወጡ ምስጢሮች ፣ ወይም ከስርአቱ ወሰን ውጭ ያሉ የይገባኛል ጥያቄዎችን በመቃኘት ላይ)። ትግበራዎች ከፈጣን ቁልፍ ቃል እና ሬጌክስ ማጣሪያዎች እስከ የደህንነት ምድቦች የሰለጠኑ የወሰኑ የክላሲፋየር ሞዴሎች፣ የመጀመሪያውን ረቂቅ የሚገመግም ሁለተኛ ኤል ኤም ኤል ይደርሳል። የጥበቃ መስመሮች የቅርጽ እና የርዕስ ወሰኖችን ያስገድዳሉ፣ ለምሳሌ የባንክ ረዳት የህክምና ምክር እንዳይሰጥ ማድረግ። የምህንድስና ግቡ ህጋዊ ተጠቃሚዎችን የሚያደናቅፉ የውሸት አወንታዊ ውጤቶችን በመቀነስ፣ ቀጣይ ማስተካከያ እና ግልጽ፣ ኦዲት ሊደረጉ የሚችሉ ፖሊሲዎችን የሚጠይቅ ሚዛን እውነተኛ ጎጂ ውጤቶችን ማግኘት ነው።