Preprint เสนอแบบจำลองภาษา Credal เพื่อเปิดเผยความไม่แน่นอนและตรวจจับภาพหลอน

เกิดอะไรขึ้น

การพิมพ์ล่วงหน้าที่ส่งไปยัง arXiv เมื่อวันที่ 24 สิงหาคม จะแนะนำ Credal Large Language Models หรือ CLLM ซึ่งใช้ชุดอะแดปเตอร์ LoRA เพื่อแสดงช่วงของการคาดคะเนที่เป็นไปได้ แทนที่จะใช้การกระจายความน่าจะเป็นเพียงครั้งเดียว ผู้เขียนได้รับคะแนนความมุ่งมั่นระดับโทเค็นและระดับความหมาย และประเมินคะแนนสำหรับการตอบคำถาม การสอบเทียบ การทำนายแบบเลือก การตรวจจับภาพหลอน และการใช้เหตุผล

บทความนี้อธิบายถึงข้อจำกัดในรูปแบบปกติของภาษาที่แสดงถึงความไม่แน่นอน กล่าวคือ แบบจำลองมาตรฐานทำให้เกิดการแจกแจงแบบคาดการณ์เพียงครั้งเดียว ซึ่งผู้เขียนกล่าวว่าสามารถผสมผสานความไม่รู้เข้ากับความกำกวมอย่างแท้จริงได้ CLLM ที่เสนอของพวกเขาใช้ชุดอะแดปเตอร์ LoRA แทนเพื่อสร้างสิ่งที่กระดาษเรียกว่าชุด credal ในทางปฏิบัติ วิธีการนี้มีจุดมุ่งหมายเพื่อรักษาความขัดแย้งหรือการแพร่กระจายระหว่างการแจกแจงแบบคาดการณ์ที่เป็นไปได้ แทนที่จะบีบอัดความไม่แน่นอนทั้งหมดให้เป็นเอาท์พุตซอฟต์แม็กซ์อันเดียว แหล่งที่มาไม่ได้อ้างว่าการนำเสนอนี้ทำให้แบบจำลองถูกต้อง โดยอ้างว่าสามารถทำให้ระดับความมุ่งมั่นของโมเดลมีข้อมูลมากขึ้น

ผู้เขียนแนะนำมาตรการที่เกี่ยวข้องสองประการ Credal Token Commitment หรือ CTC ทำงานในพื้นที่โทเค็นและรวมการสนับสนุนขอบเขตล่าง ความกว้างของ Credal และเอนโทรปีของจุดตัด บทคัดย่อกล่าวว่า CTC สามารถคำนวณได้โดยไม่ต้องสร้างเพิ่มเติม ซึ่งอาจมีความสำคัญสำหรับระบบที่การสุ่มตัวอย่างซ้ำจะเพิ่มเวลาแฝงหรือต้นทุน Semantic Commitment Consistency หรือ SCC ขยายแนวคิดไปสู่สเปซความหมายโดยใช้การเติมตัวอย่างให้สมบูรณ์ เอกสารนี้ยังกำหนด SCC-Gap เพื่อวัดความไม่ตรงกันระหว่างการสนับสนุนระดับโทเค็นและการสนับสนุนระดับความหมาย คะแนนเหล่านี้นำเสนอเป็นเครื่องมือในการระบุว่าเมื่อใดที่ความเชื่อมั่นระดับพื้นผิวของแบบจำลองอาจไม่สอดคล้องกับช่วงความหมายที่แสดงโดยคำตอบที่เป็นไปได้

การประเมินครอบคลุม Gemma-2-9B, Llama-3.1-8B และ Qwen2.5-7B บน OpenBookQA, CoQA, TriviaQA และ ARC-Challenge ตามบทคัดย่อ CLLM เป็นวิธีที่มีประสิทธิภาพดีที่สุดในด้านความแม่นยำในการตอบคำถาม ขณะเดียวกันก็รักษาข้อผิดพลาดในการสอบเทียบที่คาดหวังไว้ในการแข่งขันไว้ได้ ผู้เขียนยังรายงานด้วยว่า CTC มาภายใน 1.5 เปอร์เซ็นต์ของพื้นที่การตรวจจับอาการประสาทหลอนที่ดีที่สุดภายใต้กราฟลักษณะการทำงานของเครื่องรับในการตั้งค่าส่วนใหญ่ โดยไม่มีการสร้างเพิ่มเติม ในการคาดการณ์แบบเลือกสรรที่มีความครอบคลุม 80% บทคัดย่อจะรายงานความแม่นยำ 99.0% บน OpenBookQA สำหรับ CLLM ด้วย SCC เริ่มระบุผลลัพธ์ ARC-Challenge สำหรับ CLLM ด้วยความเชื่อมั่นของ Csem แต่ถูกตัดทอนก่อนที่จะให้ผลลัพธ์ ดังนั้นจึงไม่สามารถประเมินการอ้างสิทธิ์จากแหล่งที่มาที่ให้มาได้

รายละเอียดที่มา: arxiv.org ↗

ทำไมมันถึงสำคัญ

โมเดลภาษาสามารถสร้างคำตอบได้อย่างคล่องแคล่วและมั่นใจอย่างไม่สมเหตุสมผล หากผลลัพธ์ที่รายงานยังคงอยู่ การวัดความไม่แน่นอนของการแจกแจงแบบคาดการณ์ที่เป็นไปได้หลายรายการสามารถช่วยให้ระบบระบุคำตอบที่จำเป็นต้องมีการตรวจสอบ การงดออกเสียง หรือการตรวจสอบโดยมนุษย์ โดยไม่ต้องมีการสร้างเพิ่มเติมในหลายกรณี

ประเด็นสำคัญในทางปฏิบัติไม่ใช่แค่ว่าแบบจำลองภาษาสามารถตอบคำถามได้หรือไม่ แต่จะสามารถแยกแยะความรู้จากความไม่แน่นอนได้หรือไม่ คำตอบที่คล่องแต่ไม่ถูกต้องอาจเป็นอันตรายได้มากกว่าการปฏิเสธอย่างชัดเจน เมื่อผู้ใช้ถือว่าความเชื่อมั่นเป็นหลักฐาน การนำเสนอความน่าเชื่อถือของเอกสารนี้ช่วยแก้ไขปัญหาดังกล่าวโดยการรักษาความขัดแย้งระหว่างการคาดการณ์ตามอะแดปเตอร์ หากวิธีการนี้เป็นลักษณะทั่วไป ก็สามารถให้สัญญาณแก่นักพัฒนาในการตัดสินใจว่าจะตอบโดยตรงเมื่อใด ขอการตรวจสอบ กำหนดเส้นทางคำถามไปยังระบบอื่น หรือเกี่ยวข้องกับบุคคล

ผลลัพธ์การทำนายแบบเลือกสรรที่รายงานมีความเกี่ยวข้องอย่างยิ่งกับการปรับใช้ เนื่องจากระบบแบบเลือกสรรไม่จำเป็นต้องตอบทุกคำถาม ระบบที่สามารถรักษาความแม่นยำสูงโดยครอบคลุมเฉพาะกรณีที่พิจารณาว่าได้รับการสนับสนุนอย่างเพียงพออาจมีประโยชน์มากกว่าในการตั้งค่าที่ข้อผิดพลาดก่อให้เกิดค่าใช้จ่ายที่สำคัญ ความถูกต้องที่รายงาน 99.0% และความครอบคลุม 80% บน OpenBookQA นั้นสนับสนุนภายในชุดข้อมูลและการกำหนดค่านั้น แต่ควรเข้าใจว่าเป็นผลลัพธ์ในกระดาษแทนที่จะเป็นหลักฐานว่าระบบที่ใช้งานจะบรรลุประสิทธิภาพเดียวกัน บทคัดย่อไม่ได้ระบุจำนวนตัวอย่าง วิธีการเปรียบเทียบ หรือคำจำกัดความการดำเนินงานของความครอบคลุม

การอ้างสิทธิ์ที่ไม่มีการสร้างเพิ่มเติมสำหรับ CTC อาจมีความสำคัญต่อการออกแบบการอนุมาน เทคนิคความไม่แน่นอนหลายอย่างอาศัยการสร้างความสำเร็จหลายครั้ง ซึ่งอาจเพิ่มการคำนวณและความล่าช้า แหล่งข่าวกล่าวว่า CTC รวมปริมาณที่เกี่ยวข้องกับความไม่แน่นอนหลายรายการเข้าด้วยกันโดยไม่ต้องสร้างเพิ่มเติม ในขณะที่ SCC ใช้การสุ่มตัวอย่างอย่างชัดเจน ความแตกต่างดังกล่าวทำให้กระดาษมีมุมทางวิศวกรรมที่เป็นรูปธรรม: คะแนนหนึ่งอาจมีราคาถูกกว่า ในขณะที่อีกคะแนนอาจระบุความขัดแย้งทางความหมายได้โดยตรงมากกว่า อย่างไรก็ตาม บทคัดย่อไม่ได้ระบุปริมาณต้นทุนของชุด LoRA เอง ดังนั้นจึงไม่ทราบข้อดีข้อเสียของการให้บริการทั้งหมด

จะดูอะไรต่อไป.

ปัจจุบันผลลัพธ์เป็นการประเมินก่อนการพิมพ์ที่ผู้เขียนรายงาน ไม่ใช่การค้นพบประสิทธิภาพที่กำหนดโดยอิสระ รายละเอียดที่สำคัญยังคงไม่มีอยู่ในบทคัดย่อที่ให้มา รวมถึงผลลัพธ์ ARC-Challenge ฉบับเต็ม เส้นพื้นฐานที่แน่นอน ค่าใช้จ่ายในการคำนวณ และวิธีการถ่ายโอนที่เหนือกว่าแบบจำลองและชุดข้อมูลที่ทดสอบได้ดีเพียงใด

คำถามแรกคือผลกำไรที่รายงานรอดพ้นจากการจำลองแบบอิสระหรือไม่ แหล่งที่มาคือการพิมพ์ล่วงหน้า arXiv ที่ส่งเมื่อวันที่ 24 สิงหาคม 2026 และเนื้อหาที่ให้มามีเพียงบทคัดย่อเท่านั้น ผลลัพธ์จึงเป็นการกล่าวอ้างโดยผู้เขียน ไม่ใช่ข้อเท็จจริงที่ได้รับการตรวจสอบโดยอิสระ การตรวจสอบติดตามผลควรตรวจสอบตารางทั้งหมด เส้นพื้นฐาน คำจำกัดความความเชื่อมั่น ความแปรผันทางสถิติ และดูว่าข้อดีที่รายงานมีความสอดคล้องกันในชุดข้อมูลทั้งสี่ชุดและตระกูลแบบจำลองทั้งสามหรือไม่

ประโยค ARC-Challenge ของบทคัดย่อไม่สมบูรณ์: ข้อความระบุว่า CLLM ที่มีความมั่นใจ Csem บรรลุผลสำเร็จแต่ไม่ได้ให้คุณค่า ข้อมูลที่ขาดหายไปจะจำกัดการเปรียบเทียบกับการอ้างสิทธิ์ OpenBookQA ที่สมบูรณ์ และป้องกันการประเมินประสิทธิภาพการใช้เหตุผลของวิธีการอย่างเต็มรูปแบบ นอกจากนี้ รายงานยังรายงานผลการตรวจจับอาการประสาทหลอนว่าอยู่ในรัศมี 1.5 เปอร์เซ็นต์ของ AUROC ที่ดีที่สุดในสภาพแวดล้อมส่วนใหญ่ แต่แหล่งข้อมูลที่ให้มาไม่ได้ระบุคะแนนสัมบูรณ์ วิธีการแข่งขันที่ดีที่สุด หรือข้อยกเว้น

คำถามเกี่ยวกับการปรับใช้มีความสำคัญไม่แพ้กัน บทความนี้ใช้ชุดอะแดปเตอร์ LoRA จำนวนมาก และบทคัดย่อไม่ได้ระบุว่าต้องใช้อะแดปเตอร์กี่ตัว วิธีการฝึกฝน หรือจำนวนหน่วยความจำและเวลาในการอนุมานที่เพิ่ม นอกจากนี้ยังประเมินโมเดลภาษาที่กำหนดชื่อเพียงสามโมเดลและชุดข้อมูลตอบคำถามสี่ชุด ยังไม่ทราบว่าคะแนนใช้ได้กับการสนทนาที่ยาวนานขึ้น การสร้างปลายเปิด การป้อนข้อมูลหลายภาษา งานเฉพาะโดเมน หรือโมเดลที่อยู่นอกช่วงขนาดและสถาปัตยกรรมที่ทดสอบ จนกว่าจะตอบคำถามเหล่านั้น CLLM จะได้รับการปฏิบัติอย่างดีที่สุดในฐานะวิธีการวิจัยที่มีแนวโน้มสำหรับการวัดความไม่แน่นอน แทนที่จะเป็นการป้องกันที่ผ่านการตรวจสอบแล้วสำหรับการใช้งานที่มีเดิมพันสูง

คำแนะนำและแบบทดสอบที่เกี่ยวข้อง