คู่มือทางเทคนิค
สิทธิพิเศษน้อยที่สุดสำหรับตัวแทน LLM
สิทธิ์ขั้นต่ำทำให้ตัวแทน AI มีเฉพาะข้อมูลระบุตัวตน การเข้าถึงข้อมูล เครื่องมือ และขอบเขตการดำเนินการที่จำเป็นสำหรับงานที่กำหนดไว้
ฟังคำแนะนำนี้บรรยายโดย AI · ~3 min
บนหน้านี้อ่าน 3 นาที
ภาพรวม
โดยจะจำกัดผลกระทบของข้อผิดพลาดหรือการฉีดทันที แต่จะต้องบังคับใช้โดยแอปพลิเคชันและบริการดาวน์สตรีม แทนที่จะสันนิษฐานจากพร้อมท์ของระบบ
เจาะลึก
สิทธิ์ขั้นต่ำคือหลักการของการให้เฉพาะสิทธิ์ที่จำเป็นสำหรับงาน แก่ข้อมูลประจำตัวที่ดำเนินการตามระยะเวลาที่ต้องการ สำหรับตัวแทน AI ขอบเขตสิทธิ์ควรครอบคลุมมากกว่ารายการเครื่องมือของโมเดล: ซึ่งรวมถึงข้อมูลประจำตัว การรวบรวมข้อมูล บริการภายนอก ทรัพยากรที่เขียนได้ และการดำเนินการที่มีให้ผ่านตัวเชื่อมต่อแต่ละตัว ข้อความแจ้งว่า “อย่าลบไฟล์” ไม่ได้ป้องกันการเรียกใช้เครื่องมือจากการลบไฟล์เหล่านั้น หากข้อมูลประจำตัวยังคงมีสิทธิ์นั้นอยู่ คำแนะนำปัจจุบันของ Microsoft สำหรับตัวแทน AI จะแนะนำข้อมูลประจำตัวที่ไม่ซ้ำกัน วัตถุประสงค์ที่จัดทำเป็นเอกสารและการเข้าถึงข้อมูล การตรวจสอบสิทธิ์โดยรวมที่มีประสิทธิภาพ เครื่องมือในการอนุญาตรายการ และการดำเนินการของตัวแทนการตรวจสอบ โดยจะอธิบายบทบาทการอ่านที่กำหนดขอบเขตสำหรับการสรุปเอกสาร บทบาทการอ่านและเขียนแยกกันสำหรับเวิร์กโฟลว์ตั๋ว และการยกระดับหรือประตูอนุมัติแบบจำกัดเวลาสำหรับการแก้ไข นี่เป็นคำแนะนำในการใช้งาน Microsoft แต่หลักการพื้นฐานนำไปใช้กับระบบต่างๆ: บังคับใช้การอนุญาตที่เครื่องมือและบริการดาวน์สตรีม ไม่เพียงแต่ในพร้อมต์การจัดประสานเท่านั้น เริ่มต้นด้วยชุดเครื่องมือและขอบเขตทรัพยากรที่มีประโยชน์น้อยที่สุด แยกฟังก์ชันการอ่านและเขียนเมื่อเป็นไปได้ ต้องได้รับการอนุมัติอย่างชัดเจนสำหรับการดำเนินการเชิงทำลาย ทางการเงิน หรือในวงกว้าง ใช้ข้อมูลประจำตัวที่มีอายุสั้นสำหรับงานระดับสูง รักษาวิธีการเพิกถอนการเข้าถึงอย่างรวดเร็ว และตรวจสอบสิทธิ์เมื่อข้อมูล เครื่องมือ หรือเวิร์กโฟลว์เปลี่ยนแปลง บันทึกว่าผู้หลักคนใดดำเนินการและสิ่งที่ระบบดาวน์สตรีมอนุญาต สิทธิ์ขั้นต่ำจะลดรัศมีการระเบิด ไม่ได้พิสูจน์ว่าการตัดสินของตัวแทนนั้นถูกต้องหรือหยุดการเปิดเผยข้อมูลทุกรูปแบบ รวมเข้ากับการจัดการอินพุต การตรวจสอบเอาต์พุต การทดสอบ การตรวจสอบ และการยืนยันโดยมนุษย์สำหรับการดำเนินการที่มีความละเอียดอ่อน
การใช้งานจริงในโลกแห่งความเป็นจริง
ตัวสรุปเอกสารได้รับการเข้าถึงแบบอ่านอย่างเดียวในคอลเลกชันที่ได้รับการอนุมัติหนึ่งรายการ แทนที่จะเข้าถึงไฟล์ของผู้เช่าในวงกว้าง
ผู้ช่วยจองตั๋วสามารถสร้างหรืออัปเดตกรณีและปัญหาได้ แต่ไม่สามารถลบเรกคอร์ดหรือเปลี่ยนบทบาทของผู้ดูแลระบบได้
ตัวแทนที่ดำเนินการแก้ไขจะได้รับสิทธิ์เข้าถึงกลุ่มทรัพยากรที่มีชื่อชั่วคราวและได้รับการอนุมัติ แทนที่จะได้รับสิทธิ์ทั่วทั้งการสมัครใช้งาน
ทีมบันทึกข้อมูลประจำตัวของตัวแทน ขอบเขตที่มีประสิทธิภาพ เครื่องมือ การดำเนินการ ทรัพยากรเป้าหมาย และบริบทการอนุมัติสำหรับการดำเนินการที่เป็นผลสืบเนื่องแต่ละรายการ
อนาคตของสิทธิพิเศษน้อยที่สุดสำหรับตัวแทน LLM
เมื่อองค์กรปรับใช้เอเจนต์มากขึ้น การกำกับดูแลข้อมูลประจำตัวและการอนุญาตจะต้องครอบคลุมเจ้าของ วงจรชีวิต ข้อมูลประจำตัว เครื่องมือ และการดำเนินการดาวน์สตรีม การตรวจสอบสินค้าคงคลังและการเข้าถึงอัตโนมัติสามารถช่วยค้นหาการคืบคลานของสิทธิ์ได้ แต่ทีมยังต้องตัดสินใจว่างานใดต้องใช้ความสามารถใด คาดว่าการควบคุมที่ได้รับสิทธิพิเศษน้อยที่สุดจะเป็นส่วนหนึ่งของการปรับใช้ตัวแทนตามปกติและการตอบสนองต่อเหตุการณ์ เส้นทางการเพิกถอนและการตรวจสอบที่รวดเร็วจะมีความสำคัญเนื่องจากตัวแทนใช้ตัวเชื่อมต่อมากขึ้นและดำเนินการข้ามระบบ ควรทบทวนสิทธิ์เมื่องานหรือแหล่งข้อมูลเปลี่ยนแปลง
การนำไปปฏิบัติ
ทำไมมันถึงสำคัญ
- ต้นทุนและงบประมาณ. การตัดสินใจด้านสถาปัตยกรรมขับเคลื่อนประสิทธิภาพและต้นทุนการดำเนินงานเป็นเวลาหลายปี
- การตัดสินใจที่ชัดเจนยิ่งขึ้น. การศึกษาด้านเทคนิคช่วยให้ทีมเลือกกลุ่มที่เหมาะสม ไม่ใช่แค่กลุ่มใหม่ล่าสุด
- การควบคุมคุณภาพ. ตัวเลือกทางวิศวกรรมที่ดีกว่าจะช่วยลดเหตุการณ์ด้านความน่าเชื่อถือในการผลิต
ระวัง
- การเพิ่มประสิทธิภาพเกณฑ์มาตรฐานหนึ่งรายการสามารถซ่อนจุดอ่อนของระบบในวงกว้างได้
- ต้นทุนโครงสร้างพื้นฐานและการบำรุงรักษามักถูกประเมินต่ำไป
- ช่องว่างด้านความปลอดภัยและความสามารถในการสังเกตสามารถเพิ่มขึ้นได้เมื่อระบบมีความซับซ้อนมากขึ้น
ขั้นตอนต่อไป
- กำหนดเป้าหมายเวลาแฝง คุณภาพ และต้นทุนก่อนนำไปใช้งาน
- เกณฑ์มาตรฐานภายใต้สภาวะโหลดและข้อมูลจริง
- การตรวจสอบเครื่องมือเพื่อหาข้อผิดพลาด การเบี่ยงเบน และผลกระทบต่อผู้ใช้
- เตรียมเส้นทางการย้อนกลับและการตอบสนองต่อเหตุการณ์ก่อนปรับขนาด
สำรวจต่อไป
จดหมายข่าวฟรี
รับสรุป AI รายวัน
เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา
อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ
ทดสอบตัวเอง
ทำแบบทดสอบสิทธิพิเศษขั้นต่ำสำหรับตัวแทน LLM
ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร
สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค
คำถามที่พบบ่อย
สิทธิพิเศษน้อยที่สุดสำหรับตัวแทน LLM คืออะไร
สิทธิ์ขั้นต่ำทำให้ตัวแทน AI มีเฉพาะข้อมูลระบุตัวตน การเข้าถึงข้อมูล เครื่องมือ และขอบเขตการดำเนินการที่จำเป็นสำหรับงานที่กำหนดไว้ โดยจะจำกัดผลกระทบของข้อผิดพลาดหรือการฉีดทันที แต่จะต้องบังคับใช้โดยแอปพลิเคชันและบริการดาวน์สตรีม แทนที่จะสันนิษฐานจากพร้อมท์ของระบบ
สิทธิพิเศษขั้นต่ำมีความหมายอย่างไรสำหรับตัวแทน AI
คู่มือนี้จะกำหนดสิทธิ์ขั้นต่ำสำหรับข้อมูลประจำตัว การเข้าถึงข้อมูล เครื่องมือ การดำเนินการ และระยะเวลา
เหตุใดระบบแจ้งว่า "อย่าลบไฟล์" ไม่เพียงพอในตัวเอง
คู่มือนี้ระบุว่าการอนุญาตจะต้องบังคับใช้โดยแอปพลิเคชันและบริการดาวน์สตรีม ไม่ถือว่ามาจากข้อความแจ้ง
ชุดสิทธิ์ใดที่เหมาะกับตัวสรุปเอกสาร
คำแนะนำของ Microsoft ให้บทบาทการรวบรวมในขอบเขตงานและอ่านอย่างเดียวเป็นตัวอย่างสำหรับการสรุปเอกสาร
เอเจนต์จะดำเนินการเขียนที่ละเอียดอ่อนโดยมีสิทธิ์ลดสถานะได้อย่างไร
คู่มือแนะนำให้ได้รับการอนุมัติหรือระดับความสูงระยะสั้นสำหรับการดำเนินการที่มีผลกระทบสูง
เหตุใดจึงต้องตรวจสอบสิทธิ์โดยรวมระหว่างบทบาทและบริการ
Microsoft เตือนว่าการอนุญาตหลายรายการสามารถเพิ่มขอบเขตที่มีประสิทธิผลกว้างกว่าที่คาดไว้ได้
เรียนรู้ต่อไป
คำแนะนำที่เกี่ยวข้อง
คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้