คู่มือทางเทคนิค

สิทธิพิเศษน้อยที่สุดสำหรับตัวแทน LLM

สิทธิ์ขั้นต่ำทำให้ตัวแทน AI มีเฉพาะข้อมูลระบุตัวตน การเข้าถึงข้อมูล เครื่องมือ และขอบเขตการดำเนินการที่จำเป็นสำหรับงานที่กำหนดไว้

ฟังคำแนะนำนี้บรรยายโดย AI · ~3 min

บนหน้านี้อ่าน 3 นาที
  1. ภาพรวม
  2. เจาะลึก
  3. การใช้งานจริงในโลกแห่งความเป็นจริง
  4. อนาคตของสิทธิพิเศษน้อยที่สุดสำหรับตัวแทน LLM
  5. การนำไปปฏิบัติ
  6. สำรวจต่อไป
  7. คำถามที่พบบ่อย

ภาพรวม

โดยจะจำกัดผลกระทบของข้อผิดพลาดหรือการฉีดทันที แต่จะต้องบังคับใช้โดยแอปพลิเคชันและบริการดาวน์สตรีม แทนที่จะสันนิษฐานจากพร้อมท์ของระบบ

เจาะลึก

สิทธิ์ขั้นต่ำคือหลักการของการให้เฉพาะสิทธิ์ที่จำเป็นสำหรับงาน แก่ข้อมูลประจำตัวที่ดำเนินการตามระยะเวลาที่ต้องการ สำหรับตัวแทน AI ขอบเขตสิทธิ์ควรครอบคลุมมากกว่ารายการเครื่องมือของโมเดล: ซึ่งรวมถึงข้อมูลประจำตัว การรวบรวมข้อมูล บริการภายนอก ทรัพยากรที่เขียนได้ และการดำเนินการที่มีให้ผ่านตัวเชื่อมต่อแต่ละตัว ข้อความแจ้งว่า “อย่าลบไฟล์” ไม่ได้ป้องกันการเรียกใช้เครื่องมือจากการลบไฟล์เหล่านั้น หากข้อมูลประจำตัวยังคงมีสิทธิ์นั้นอยู่ คำแนะนำปัจจุบันของ Microsoft สำหรับตัวแทน AI จะแนะนำข้อมูลประจำตัวที่ไม่ซ้ำกัน วัตถุประสงค์ที่จัดทำเป็นเอกสารและการเข้าถึงข้อมูล การตรวจสอบสิทธิ์โดยรวมที่มีประสิทธิภาพ เครื่องมือในการอนุญาตรายการ และการดำเนินการของตัวแทนการตรวจสอบ โดยจะอธิบายบทบาทการอ่านที่กำหนดขอบเขตสำหรับการสรุปเอกสาร บทบาทการอ่านและเขียนแยกกันสำหรับเวิร์กโฟลว์ตั๋ว และการยกระดับหรือประตูอนุมัติแบบจำกัดเวลาสำหรับการแก้ไข นี่เป็นคำแนะนำในการใช้งาน Microsoft แต่หลักการพื้นฐานนำไปใช้กับระบบต่างๆ: บังคับใช้การอนุญาตที่เครื่องมือและบริการดาวน์สตรีม ไม่เพียงแต่ในพร้อมต์การจัดประสานเท่านั้น เริ่มต้นด้วยชุดเครื่องมือและขอบเขตทรัพยากรที่มีประโยชน์น้อยที่สุด แยกฟังก์ชันการอ่านและเขียนเมื่อเป็นไปได้ ต้องได้รับการอนุมัติอย่างชัดเจนสำหรับการดำเนินการเชิงทำลาย ทางการเงิน หรือในวงกว้าง ใช้ข้อมูลประจำตัวที่มีอายุสั้นสำหรับงานระดับสูง รักษาวิธีการเพิกถอนการเข้าถึงอย่างรวดเร็ว และตรวจสอบสิทธิ์เมื่อข้อมูล เครื่องมือ หรือเวิร์กโฟลว์เปลี่ยนแปลง บันทึกว่าผู้หลักคนใดดำเนินการและสิ่งที่ระบบดาวน์สตรีมอนุญาต สิทธิ์ขั้นต่ำจะลดรัศมีการระเบิด ไม่ได้พิสูจน์ว่าการตัดสินของตัวแทนนั้นถูกต้องหรือหยุดการเปิดเผยข้อมูลทุกรูปแบบ รวมเข้ากับการจัดการอินพุต การตรวจสอบเอาต์พุต การทดสอบ การตรวจสอบ และการยืนยันโดยมนุษย์สำหรับการดำเนินการที่มีความละเอียดอ่อน

การใช้งานจริงในโลกแห่งความเป็นจริง

ตัวสรุปเอกสารได้รับการเข้าถึงแบบอ่านอย่างเดียวในคอลเลกชันที่ได้รับการอนุมัติหนึ่งรายการ แทนที่จะเข้าถึงไฟล์ของผู้เช่าในวงกว้าง

ผู้ช่วยจองตั๋วสามารถสร้างหรืออัปเดตกรณีและปัญหาได้ แต่ไม่สามารถลบเรกคอร์ดหรือเปลี่ยนบทบาทของผู้ดูแลระบบได้

ตัวแทนที่ดำเนินการแก้ไขจะได้รับสิทธิ์เข้าถึงกลุ่มทรัพยากรที่มีชื่อชั่วคราวและได้รับการอนุมัติ แทนที่จะได้รับสิทธิ์ทั่วทั้งการสมัครใช้งาน

ทีมบันทึกข้อมูลประจำตัวของตัวแทน ขอบเขตที่มีประสิทธิภาพ เครื่องมือ การดำเนินการ ทรัพยากรเป้าหมาย และบริบทการอนุมัติสำหรับการดำเนินการที่เป็นผลสืบเนื่องแต่ละรายการ

อนาคตของสิทธิพิเศษน้อยที่สุดสำหรับตัวแทน LLM

เมื่อองค์กรปรับใช้เอเจนต์มากขึ้น การกำกับดูแลข้อมูลประจำตัวและการอนุญาตจะต้องครอบคลุมเจ้าของ วงจรชีวิต ข้อมูลประจำตัว เครื่องมือ และการดำเนินการดาวน์สตรีม การตรวจสอบสินค้าคงคลังและการเข้าถึงอัตโนมัติสามารถช่วยค้นหาการคืบคลานของสิทธิ์ได้ แต่ทีมยังต้องตัดสินใจว่างานใดต้องใช้ความสามารถใด คาดว่าการควบคุมที่ได้รับสิทธิพิเศษน้อยที่สุดจะเป็นส่วนหนึ่งของการปรับใช้ตัวแทนตามปกติและการตอบสนองต่อเหตุการณ์ เส้นทางการเพิกถอนและการตรวจสอบที่รวดเร็วจะมีความสำคัญเนื่องจากตัวแทนใช้ตัวเชื่อมต่อมากขึ้นและดำเนินการข้ามระบบ ควรทบทวนสิทธิ์เมื่องานหรือแหล่งข้อมูลเปลี่ยนแปลง

การนำไปปฏิบัติ

ทำไมมันถึงสำคัญ

  • ต้นทุนและงบประมาณ. การตัดสินใจด้านสถาปัตยกรรมขับเคลื่อนประสิทธิภาพและต้นทุนการดำเนินงานเป็นเวลาหลายปี
  • การตัดสินใจที่ชัดเจนยิ่งขึ้น. การศึกษาด้านเทคนิคช่วยให้ทีมเลือกกลุ่มที่เหมาะสม ไม่ใช่แค่กลุ่มใหม่ล่าสุด
  • การควบคุมคุณภาพ. ตัวเลือกทางวิศวกรรมที่ดีกว่าจะช่วยลดเหตุการณ์ด้านความน่าเชื่อถือในการผลิต

ระวัง

  • การเพิ่มประสิทธิภาพเกณฑ์มาตรฐานหนึ่งรายการสามารถซ่อนจุดอ่อนของระบบในวงกว้างได้
  • ต้นทุนโครงสร้างพื้นฐานและการบำรุงรักษามักถูกประเมินต่ำไป
  • ช่องว่างด้านความปลอดภัยและความสามารถในการสังเกตสามารถเพิ่มขึ้นได้เมื่อระบบมีความซับซ้อนมากขึ้น

ขั้นตอนต่อไป

  1. กำหนดเป้าหมายเวลาแฝง คุณภาพ และต้นทุนก่อนนำไปใช้งาน
  2. เกณฑ์มาตรฐานภายใต้สภาวะโหลดและข้อมูลจริง
  3. การตรวจสอบเครื่องมือเพื่อหาข้อผิดพลาด การเบี่ยงเบน และผลกระทบต่อผู้ใช้
  4. เตรียมเส้นทางการย้อนกลับและการตอบสนองต่อเหตุการณ์ก่อนปรับขนาด

สำรวจต่อไป

จดหมายข่าวฟรี

รับสรุป AI รายวัน

เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา

อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ

ทดสอบตัวเอง

ทำแบบทดสอบสิทธิพิเศษขั้นต่ำสำหรับตัวแทน LLM

ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร

เริ่มแบบทดสอบ

สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค

คำถามที่พบบ่อย

สิทธิพิเศษน้อยที่สุดสำหรับตัวแทน LLM คืออะไร

สิทธิ์ขั้นต่ำทำให้ตัวแทน AI มีเฉพาะข้อมูลระบุตัวตน การเข้าถึงข้อมูล เครื่องมือ และขอบเขตการดำเนินการที่จำเป็นสำหรับงานที่กำหนดไว้ โดยจะจำกัดผลกระทบของข้อผิดพลาดหรือการฉีดทันที แต่จะต้องบังคับใช้โดยแอปพลิเคชันและบริการดาวน์สตรีม แทนที่จะสันนิษฐานจากพร้อมท์ของระบบ

สิทธิพิเศษขั้นต่ำมีความหมายอย่างไรสำหรับตัวแทน AI

คู่มือนี้จะกำหนดสิทธิ์ขั้นต่ำสำหรับข้อมูลประจำตัว การเข้าถึงข้อมูล เครื่องมือ การดำเนินการ และระยะเวลา

เหตุใดระบบแจ้งว่า "อย่าลบไฟล์" ไม่เพียงพอในตัวเอง

คู่มือนี้ระบุว่าการอนุญาตจะต้องบังคับใช้โดยแอปพลิเคชันและบริการดาวน์สตรีม ไม่ถือว่ามาจากข้อความแจ้ง

ชุดสิทธิ์ใดที่เหมาะกับตัวสรุปเอกสาร

คำแนะนำของ Microsoft ให้บทบาทการรวบรวมในขอบเขตงานและอ่านอย่างเดียวเป็นตัวอย่างสำหรับการสรุปเอกสาร

เอเจนต์จะดำเนินการเขียนที่ละเอียดอ่อนโดยมีสิทธิ์ลดสถานะได้อย่างไร

คู่มือแนะนำให้ได้รับการอนุมัติหรือระดับความสูงระยะสั้นสำหรับการดำเนินการที่มีผลกระทบสูง

เหตุใดจึงต้องตรวจสอบสิทธิ์โดยรวมระหว่างบทบาทและบริการ

Microsoft เตือนว่าการอนุญาตหลายรายการสามารถเพิ่มขอบเขตที่มีประสิทธิผลกว้างกว่าที่คาดไว้ได้

เรียนรู้ต่อไป

คำแนะนำที่เกี่ยวข้อง

คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้

รับใบรับรอง AI ฟรีหลักสูตรและการสอบสั้น ๆ ฟรี ไม่มีค่าใช้จ่าย ไม่มีบัตรเครดิต ประมาณ 2.5 ชั่วโมงเริ่มต้นฟรี →