คู่มือแอปพลิเคชัน

ทำให้ Chatbots อยู่ในหัวข้อ

การรักษาแชทบอทให้ตรงประเด็นต้องใช้การควบคุมหลายอย่าง เนื่องจากโมเดลสามารถปฏิบัติตามคำขอที่ไม่คาดคิด ดึงข้อมูลที่ไม่เกี่ยวข้อง หรือสร้างคำตอบที่เกินกว่าหลักฐานได้

ฟังคำแนะนำนี้บรรยายโดย AI · ~3 min

บนหน้านี้อ่าน 3 นาที
  1. ภาพรวม
  2. เจาะลึก
  3. การใช้งานจริงในโลกแห่งความเป็นจริง
  4. อนาคตของการรักษา Chatbots ไว้ในหัวข้อ
  5. การนำไปปฏิบัติ
  6. สำรวจต่อไป
  7. คำถามที่พบบ่อย

ภาพรวม

ทีมสามารถกำหนดขอบเขต จำกัดข้อมูลและเครื่องมือ และเพิ่มการตรวจสอบที่ขั้นตอนการป้อนข้อมูล การดึงข้อมูล การดำเนินการ และเอาต์พุต จากนั้นทดสอบว่าแอปพลิเคชันทั้งหมดทำงานอย่างไร

เจาะลึก

“อยู่ในหัวข้อ” ไม่ใช่การตั้งค่ารูปแบบเดียว คำชี้แจงขอบเขตที่เป็นประโยชน์จะระบุหัวข้อเรื่อง แหล่งที่มาที่ผู้ช่วยอาจใช้ งานที่สามารถทำได้ และกรณีที่จำเป็นต้องปฏิเสธหรือมอบหมายงาน พรอมต์สามารถสื่อสารขอบเขตเหล่านั้นได้ แต่ไม่สามารถรับประกันได้ว่าทุกการตอบสนองจะเป็นไปตามขอบเขตเหล่านั้น แอปพลิเคชันควรจำกัดคลังข้อมูลการดึงข้อมูล แหล่งที่มาของป้ายกำกับ และจำกัดเครื่องมือที่มีอยู่ให้กับงานที่บอทได้รับอนุญาตให้ทำ หากคำตอบไม่ได้รับการสนับสนุนจากเนื้อหาที่ได้รับอนุญาต ระบบควรพูดเช่นนั้นหรือกำหนดเส้นทางผู้ใช้ไปข้างหน้า แทนที่จะเติมช่องว่างด้วยการคาดเดาที่น่าเชื่อถือ การควบคุมอยู่ที่หลายจุด การตรวจสอบอินพุตสามารถระบุคำขอที่อยู่นอกการส่งเงินของบริการได้ การตรวจสอบการดึงข้อมูลสามารถปฏิเสธส่วนที่ไม่เกี่ยวข้องหรือไม่น่าเชื่อถือก่อนที่จะเข้าสู่บริบท กฎกระแสการสนทนาสามารถคงการโต้ตอบแบบหลายรอบไว้ภายในกระบวนการที่ได้รับอนุมัติ การควบคุมเครื่องมือควรตรวจสอบแต่ละการกระทำและข้อโต้แย้งของมัน การตรวจสอบผลลัพธ์สามารถตั้งค่าสถานะคำตอบที่ขัดแย้งกับขอบเขตที่ระบุหรือขาดการสนับสนุนที่จำเป็น NVIDIA NeMo Guardrails จัดทำเอกสารเหล่านี้เป็นประเภทรางอินพุต การดึงข้อมูล กล่องโต้ตอบ การดำเนินการ และเอาต์พุตแยกกัน หลักการออกแบบเดียวกันนี้สามารถนำไปใช้กับเฟรมเวิร์กอื่นหรือโค้ดแอปพลิเคชันทั่วไปได้ การควบคุมเหล่านี้อาจขัดแย้งกับประโยชน์ใช้สอย: ตัวแยกประเภทที่แคบอาจปฏิเสธกรณี Edge ที่ถูกต้องตามกฎหมาย ในขณะที่ขอบเขตที่กว้างสามารถเชิญชวนคำตอบที่องค์กรไม่สามารถรองรับได้ ออกแบบทางเลือกที่ชัดเจน เปิดเผยแหล่งที่มาหรือข้อจำกัดที่เกี่ยวข้อง และกำหนดเส้นทางการตัดสินใจที่ละเอียดอ่อนไปยังบุคคลที่มีอำนาจ ประเมินด้วยคำถามทั่วไปในขอบเขต กรณีขอบเขต คำถามที่ไม่ได้รับการสนับสนุน ความพยายามของฝ่ายตรงข้าม และการหยุดให้บริการ ติดตามทั้งการตอบสนองที่ไม่เหมาะสมและการปฏิเสธที่ไม่จำเป็น การควบคุมหัวข้อจะลดช่วงของความล้มเหลวที่อาจเกิดขึ้น แต่ไม่ได้พิสูจน์ว่าคำตอบนั้นถูกต้องตามความเป็นจริงหรืออนุญาตให้ดำเนินการกับเครื่องมือได้

การใช้งานจริงในโลกแห่งความเป็นจริง

แชทบอตเพื่อประโยชน์ระบุว่าเอกสารแผนใดครอบคลุม และกำหนดเส้นทางคำถามเกี่ยวกับสิทธิ์ส่วนบุคคลไปยังช่องทางที่ได้รับอนุญาตของมนุษย์

ผู้ช่วยฝ่ายสนับสนุนผลิตภัณฑ์ค้นหาเฉพาะคู่มือที่ได้รับอนุมัติ อ้างอิงส่วนที่ดึงมา และแจ้งเมื่อคลังข้อมูลไม่ตอบคำถาม

บอทฝ่ายบริการลูกค้ารับรู้คำขอที่อยู่นอกเหนือบริการที่ได้รับมอบหมาย และเสนอแฮนด์ออฟเฉพาะ แทนที่จะคิดค้นคำตอบ

ทีมงานทดสอบความพยายามทั้งทางตรงและทางอ้อมในการเปลี่ยนหัวข้อ ส่วนที่ดึงข้อมูลที่ไม่เกี่ยวข้อง และคำขอเครื่องมือที่มีรูปแบบไม่ถูกต้องก่อนที่จะเผยแพร่

อนาคตของการรักษา Chatbots ไว้ในหัวข้อ

เมื่อผู้ช่วยสามารถเข้าถึงเครื่องมือและองค์กรที่ใหญ่ขึ้น การจัดการขอบเขตจะต้องครอบคลุมไม่เพียงแต่หัวข้อเท่านั้น แต่ยังรวมถึงการดำเนินการ การอนุญาตข้อมูล และคุณภาพของหลักฐานที่ดึงมาด้วย การกำหนดเส้นทางและเวิร์กโฟลว์ที่มีโครงสร้างที่ดีขึ้นสามารถทำให้แฮนด์ออฟมีประโยชน์มากขึ้น แต่กรณีขอบและการเปลี่ยนแปลงเนื้อหายังคงต้องมีการตรวจสอบ ทีมควรแก้ไขกฎขอบเขตเมื่อบริการเปลี่ยนแปลง และใช้รายงานความล้มเหลวจริงเพื่อปรับปรุงความครอบคลุมของการทดสอบ ความเป็นเจ้าของที่ชัดเจนช่วยให้การปฏิเสธและการบานปลายเป็นปัจจุบัน การตรวจสอบเป็นระยะสามารถตรวจจับคำสั่งขอบเขตที่ล้าสมัยได้หลังจากการเปลี่ยนแปลงบริการ

การนำไปปฏิบัติ

ทำไมมันถึงสำคัญ

  • สร้างทางเลือก. การออกแบบระดับแอปพลิเคชันจะกำหนดว่า AI จะปรับปรุงผลลัพธ์ที่แท้จริงหรือไม่
  • ทีมงานและขั้นตอนการทำงาน. การบูรณาการขั้นตอนการทำงานที่ดีจะช่วยเพิ่มผลผลิตที่ผู้ใช้ไว้วางใจได้
  • ความเสี่ยงและความปลอดภัย. กรณีการใช้งานที่มีขอบเขตดีจะช่วยลดความเหนื่อยล้าของการเปลี่ยนแปลงและความเสี่ยงในการดำเนินการ

ระวัง

  • การทำให้กระบวนการที่เสียหายเป็นอัตโนมัติสามารถขยายปัญหาที่มีอยู่ได้
  • ทีมอาจดำเนินการอัตโนมัติมากเกินไปและลบวิจารณญาณของมนุษย์ที่จำเป็นออก
  • คุณภาพอาจคลาดเคลื่อนได้หากไม่ได้รับการประเมินผลลัพธ์อย่างต่อเนื่อง

ขั้นตอนต่อไป

  1. แมปขั้นตอนการทำงานปัจจุบันและระบุขั้นตอนที่มีแรงเสียดทานสูงสุด
  2. กำหนดจุดตรวจของมนุษย์ก่อนระบบอัตโนมัติเต็มรูปแบบ
  3. ฝึกอบรมผู้ใช้เกี่ยวกับการแจ้งเตือน เส้นทางการยกระดับ และมาตรฐานคุณภาพ
  4. ติดตามผลลัพธ์ระดับงานเพื่อยืนยันคุณค่าที่ยั่งยืน

สำรวจต่อไป

จดหมายข่าวฟรี

รับสรุป AI รายวัน

เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา

อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ

ทดสอบตัวเอง

Take the Keeping Chatbots On Topic quiz

ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร

เริ่มแบบทดสอบ

สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค

คำถามที่พบบ่อย

การรักษา Chatbots ไว้ในหัวข้อคืออะไร?

การรักษาแชทบอทให้ตรงประเด็นต้องใช้การควบคุมหลายอย่าง เนื่องจากโมเดลสามารถปฏิบัติตามคำขอที่ไม่คาดคิด ดึงข้อมูลที่ไม่เกี่ยวข้อง หรือสร้างคำตอบที่เกินกว่าหลักฐานได้ ทีมสามารถกำหนดขอบเขต จำกัดข้อมูลและเครื่องมือ และเพิ่มการตรวจสอบที่ขั้นตอนการป้อนข้อมูล การดึงข้อมูล การดำเนินการ และเอาต์พุต จากนั้นทดสอบว่าแอปพลิเคชันทั้งหมดทำงานอย่างไร

คำชี้แจงขอบเขตแชทบอทที่มีประโยชน์ควรมีความชัดเจนอย่างไร

คู่มือนี้แนะนำให้กำหนดหัวข้อเรื่อง แหล่งที่มาที่ได้รับอนุญาต งาน และกรณีที่จำเป็นต้องปฏิเสธหรือส่งต่อ

ทีมจะลดคำตอบที่ไม่ได้รับการสนับสนุนได้อย่างไร ในเมื่อคลังข้อมูลที่ได้รับอนุมัติไม่มีเนื้อหาที่เกี่ยวข้อง

คู่มือแนะนำให้ระบุเมื่อสื่อที่ได้รับอนุญาตไม่รองรับคำตอบหรือกำหนดเส้นทางไปยังบุคคลที่เหมาะสม

การควบคุมใดที่ดำเนินการกับชิ้นเอกสารที่ดึงข้อมูลก่อนที่จะเข้าสู่บริบทของโมเดล

ตัวกรองการควบคุมการดึงข้อมูลหรือตรวจสอบวัสดุที่ดึงมาก่อนที่จะกลายเป็นบริบทสำหรับการสร้าง

เหตุใดข้อความแจ้งว่า "อยู่ในหัวข้อ" จึงไม่เพียงพอในตัวเอง

คู่มือระบุว่าแจ้งให้สื่อสารขอบเขตแต่ไม่รับประกันการปฏิบัติตาม การควบคุมอื่นๆ จำเป็นต้องจำกัดการเข้าถึงคลังข้อมูลและเครื่องมือ

จะเกิดอะไรขึ้นก่อนที่แชทบอทจะดำเนินการภายนอก

การควบคุมเครื่องมือควรอนุญาตแต่ละการกระทำและตรวจสอบอาร์กิวเมนต์ในโค้ดของแอปพลิเคชัน

เรียนรู้ต่อไป

คำแนะนำที่เกี่ยวข้อง

คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้

รับใบรับรอง AI ฟรีหลักสูตรและการสอบสั้น ๆ ฟรี ไม่มีค่าใช้จ่าย ไม่มีบัตรเครดิต ประมาณ 2.5 ชั่วโมงเริ่มต้นฟรี →