คู่มือ AI ภาษา
การใช้เหตุผลและการคิดงบประมาณ
ความพยายามในการใช้เหตุผลและงบประมาณในการคิดคือการตั้งค่าโมเดลการให้เหตุผลซึ่งควบคุมจำนวนงานภายในแบบทีละขั้นตอนที่โมเดลทำก่อนที่จะตอบ
ฟังคำแนะนำนี้บรรยายโดย AI · ~3 min
บนหน้านี้อ่าน 4 นาที
ภาพรวม
การคิดมากขึ้นมักจะปรับปรุงผลลัพธ์ของปัญหายากๆ เช่น คณิตศาสตร์ การเขียนโค้ด และการวิเคราะห์หลายขั้นตอน แต่จะเพิ่มต้นทุนและความล่าช้า และเมื่อผ่านจุดไปแล้วก็หยุดช่วย การเลือกระดับที่เหมาะสมต่องานเป็นวิธีที่ง่ายที่สุดวิธีหนึ่งในการสร้างสมดุลระหว่างคุณภาพ ความเร็ว และราคา
เจาะลึก
โมเดลการใช้เหตุผลได้รับการฝึกฝนเพื่อสร้างห่วงโซ่ของการให้เหตุผลขั้นกลางก่อนคำตอบสุดท้าย การให้เหตุผลนั้นทำจากโทเค็น เช่นเดียวกับคำตอบ และการสร้างมันต้องใช้เวลาและเงิน ผู้ให้บริการให้คุณควบคุมได้ว่าจะเกิดขึ้นมากน้อยเพียงใด OpenAI เปิดเผยพารามิเตอร์ Reasoning_effort บนโมเดลการให้เหตุผลด้วยระดับต่างๆ เช่น ต่ำ ปานกลาง และสูง รุ่นใหม่บางรุ่นจะเพิ่มระดับขั้นต่ำ การคิดแบบขยายของ Anthropic เกี่ยวกับโมเดล Claude ที่รองรับจะใช้ค่า Budget_tokens ที่กำหนดจำนวนโทเค็นสูงสุดที่ Claude อาจใช้ในการคิด งบประมาณมีโทเค็นขั้นต่ำ 1,024 และต้องน้อยกว่า max_tokens รุ่น Gemini 2.5 ของ Google ยอมรับงบประมาณในการคิด และบางรุ่นอาจมีการปฏิเสธหรือปิดการคิด ชื่อต่างกัน แต่แนวคิดก็เหมือนกัน นั่นคือการหมุนระหว่างความรวดเร็วและความละเอียดถี่ถ้วน การตั้งค่าเหล่านี้เป็นเพียงแนวทาง ไม่ใช่จำนวนที่แน่นอน แบบจำลองที่มีงบประมาณจำนวนมากอาจใช้เพียงบางส่วนในคำถามง่ายๆ และระดับความพยายามจะเปลี่ยนพฤติกรรมแทนที่จะแก้ไขตัวเลข ต้นทุนคือส่วนที่คนมักพลาด โดยทั่วไปโทเค็นเหตุผลจะถูกเรียกเก็บเงินเป็นโทเค็นเอาต์พุตแม้ว่าคุณจะมองไม่เห็นก็ตาม และโทเค็นเอาต์พุตมักจะมีราคาสูงกว่าโทเค็นอินพุต คำตอบที่มองเห็นได้สั้นๆ อาจมีบิลที่ซ่อนอยู่มากมาย เวลาแฝงก็เพิ่มขึ้นเช่นกัน เนื่องจากโทเค็นการให้เหตุผลทุกรายการถูกสร้างขึ้นตามลำดับ การคิดมากขึ้นย่อมได้รับผลตอบแทนน้อยลง สำหรับคำถามค้นหาที่ง่ายหรือเป็นข้อเท็จจริง การใช้เหตุผลเพิ่มเติมไม่ค่อยช่วยปรับปรุงความแม่นยำ และบางครั้งอาจทำให้แบบจำลองซับซ้อนเกินไปหรือเดาคำตอบที่ถูกต้องเป็นครั้งที่สอง กำไรจะมากที่สุดจากปัญหาที่ต้องใช้หลายขั้นตอนอย่างแท้จริง ความเข้าใจผิดที่พบบ่อยคือการตั้งค่าสูงสุดจะดีที่สุดเสมอ แนวทางการปฏิบัติคือการทดสอบงานของคุณเองในหลายระดับ และเลือกระดับต่ำสุดที่ตรงกับแถบคุณภาพของคุณ
การใช้งานจริงในโลกแห่งความเป็นจริง
บอทสนับสนุนลูกค้าที่ตอบคำถามเกี่ยวกับคำสั่งซื้อง่ายๆ ต้องใช้ความพยายามในการให้เหตุผลต่ำ ซึ่งช่วยให้ตอบกลับได้อย่างรวดเร็วและประหยัดโดยไม่กระทบต่อความแม่นยำ
นักพัฒนาที่กำลังแก้ไขจุดบกพร่องที่เกิดขึ้นพร้อมกันที่ซับซ้อนจะเปลี่ยนไปใช้ความพยายามสูงสำหรับคำขอนั้น และได้รับการวินิจฉัยที่ถูกต้องโดยที่การตั้งค่าต่ำพลาดไป
ทีมที่ใช้การคิดแบบขยายของ Anthropic จะกำหนดงบประมาณจำนวนสองสามพันโทเค็นสำหรับการตรวจสอบเอกสารตามปกติ และงบประมาณที่ใหญ่กว่ามากเฉพาะสำหรับส่วนคำสั่งของสัญญาที่ถูกทำเครื่องหมายว่าผิดปกติ
นักวิเคราะห์ใช้ชุดคำถามทดสอบ 50 ข้อชุดเดียวกันโดยใช้ความพยายามต่ำ ปานกลาง และสูง และพบว่าการจับคู่ระดับปานกลางมีความแม่นยำสูงสำหรับงานของตนด้วยต้นทุนที่ต่ำกว่า ดังนั้นจึงสร้างมาตรฐานบนสื่อ
อนาคตของความพยายามในการใช้เหตุผลและงบประมาณในการคิด
ผู้ให้บริการกำลังมุ่งสู่โมเดลที่ตัดสินใจด้วยตนเองว่าจะใช้เวลาคิดนานเท่าใด โดยการตั้งค่าความพยายามทำหน้าที่เป็นขอบเขตแทนที่จะเป็นคำสั่งตายตัว ตัวอย่างเช่น โมเดลใหม่ของ Anthropic นำเสนอการคิดแบบปรับตัว และผลิตภัณฑ์บางอย่างจะสลับระหว่างโหมดรวดเร็วและโหมดการใช้เหตุผลโดยอัตโนมัติอยู่แล้ว การวิจัยยังคงทำให้การให้เหตุผลมีประสิทธิภาพมากขึ้น ดังนั้นความแม่นยำที่คล้ายคลึงกันจึงต้องการโทเค็นน้อยลง ชื่อพารามิเตอร์ ค่าที่อนุญาต และราคามีการเปลี่ยนแปลงหลายครั้งและมีแนวโน้มที่จะเปลี่ยนแปลงต่อไป ดังนั้นให้ถือว่าการตั้งค่าปัจจุบันเป็นรายละเอียดเฉพาะของผู้ให้บริการ และดำเนินการประเมินของคุณเองอีกครั้งเมื่อคุณอัปเกรดโมเดล
การนำไปปฏิบัติ
ทำไมมันถึงสำคัญ
- ความเร็วและขนาด. ขั้นตอนการทำงานของภาษาสามารถดำเนินไปได้เร็วขึ้นโดยไม่กระทบต่อความสม่ำเสมอ
- เข้าถึงและเข้าถึง. ขยายการเข้าถึงภาษาและรูปแบบการสื่อสาร
- การตัดสินใจที่ชัดเจนยิ่งขึ้น. ทีมสามารถใช้เวลามากขึ้นในการตัดสิน ในขณะที่ระบบอัตโนมัติจัดการกับการทำซ้ำ
ระวัง
- ข้อเท็จจริงที่หลอนประสาทสามารถเข้าสู่รายงาน กระแสสนับสนุน หรือผลการวิจัยได้อย่างเงียบๆ
- ความละเอียดอ่อนของการแจ้งเตือนสามารถสร้างผลลัพธ์ที่ไม่สอดคล้องกันในคำขอที่คล้ายกัน
- ข้อมูลข้อความที่ละเอียดอ่อนอาจถูกเปิดเผยหากการควบคุมการเข้าถึงอ่อนแอ
ขั้นตอนต่อไป
- กำหนดรูปแบบเอาต์พุต โทนเสียง และมาตรฐานคุณภาพก่อนเปิดตัว
- การตอบสนองภาคพื้นดินกับแหล่งข้อมูลที่เชื่อถือได้เมื่อใดก็ตามที่ความแม่นยำมีความสำคัญ
- รักษาจุดตรวจสอบการตรวจสอบโดยมนุษย์สำหรับผลลัพธ์ที่มีเดิมพันสูง
- ติดตามรูปแบบความล้มเหลวและฝึกอบรมพร้อมท์หรือเวิร์กโฟลว์เป็นประจำ
สำรวจต่อไป
จดหมายข่าวฟรี
รับสรุป AI รายวัน
เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา
อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ
ทดสอบตัวเอง
Take the Reasoning Effort and Thinking Budgets quiz
ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร
สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค
คำถามที่พบบ่อย
ความพยายามในการใช้เหตุผลและการคิดงบประมาณคืออะไร?
ความพยายามในการใช้เหตุผลและงบประมาณในการคิดคือการตั้งค่าโมเดลการให้เหตุผลซึ่งควบคุมจำนวนงานภายในแบบทีละขั้นตอนที่โมเดลทำก่อนที่จะตอบ การคิดมากขึ้นมักจะปรับปรุงผลลัพธ์ของปัญหายากๆ เช่น คณิตศาสตร์ การเขียนโค้ด และการวิเคราะห์หลายขั้นตอน แต่จะเพิ่มต้นทุนและความล่าช้า และเมื่อผ่านจุดไปแล้วก็หยุดช่วย การเลือกระดับที่เหมาะสมต่องานเป็นวิธีที่ง่ายที่สุดวิธีหนึ่งในการสร้างสมดุลระหว่างคุณภาพ ความเร็ว และราคา
ความพยายามในการใช้เหตุผลและการคิดงบประมาณควบคุมอะไร?
การตั้งค่าเหล่านี้จะปรับจำนวนการให้เหตุผลระดับกลางที่แบบจำลองการให้เหตุผลสร้างขึ้นก่อนคำตอบสุดท้าย
โดยทั่วไปแล้วโทเค็นการให้เหตุผลที่ซ่อนอยู่จะถูกเรียกเก็บเงินอย่างไร
โดยทั่วไปโทเค็นเหตุผลจะถูกเรียกเก็บเงินเป็นโทเค็นเอาต์พุต ซึ่งโดยปกติจะมีราคาสูงกว่าอินพุต แม้ว่าจะไม่แสดงก็ตาม
สำหรับการคิดแบบขยายของ Anthropic กฎข้อใดเกี่ยวกับ Budget_tokens ระบุไว้ในคำแนะนำ
งบประมาณมีโทเค็นขั้นต่ำ 1,024 และต้องต่ำกว่า max_tokens ดังนั้นจึงมีที่ว่างสำหรับคำตอบ
แบบจำลองได้รับงบประมาณในการคิดจำนวนมากสำหรับคำถามง่ายๆ ปกติแล้วจะเกิดอะไรขึ้น?
งบประมาณเป็นขีดจำกัดบนและเป็นแนวทาง สำหรับคำถามง่ายๆ โมเดลมักจะใช้น้อยกว่ามาก
การตั้งค่าการใช้เหตุผลที่ใหญ่ขึ้นช่วยได้มากที่สุดที่ไหน?
กำไรจะมากที่สุดจากปัญหาหลายขั้นตอน งานง่ายๆ ไม่ค่อยได้ประโยชน์และอาจต้องทนทุกข์ทรมานจากการคิดมาก
เรียนรู้ต่อไป
คำแนะนำที่เกี่ยวข้อง
คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้