คู่มือ AI ภาษา

การใช้เหตุผลและการคิดงบประมาณ

ความพยายามในการใช้เหตุผลและงบประมาณในการคิดคือการตั้งค่าโมเดลการให้เหตุผลซึ่งควบคุมจำนวนงานภายในแบบทีละขั้นตอนที่โมเดลทำก่อนที่จะตอบ

ฟังคำแนะนำนี้บรรยายโดย AI · ~3 min

บนหน้านี้อ่าน 4 นาที
  1. ภาพรวม
  2. เจาะลึก
  3. การใช้งานจริงในโลกแห่งความเป็นจริง
  4. อนาคตของความพยายามในการใช้เหตุผลและงบประมาณในการคิด
  5. การนำไปปฏิบัติ
  6. สำรวจต่อไป
  7. คำถามที่พบบ่อย

ภาพรวม

การคิดมากขึ้นมักจะปรับปรุงผลลัพธ์ของปัญหายากๆ เช่น คณิตศาสตร์ การเขียนโค้ด และการวิเคราะห์หลายขั้นตอน แต่จะเพิ่มต้นทุนและความล่าช้า และเมื่อผ่านจุดไปแล้วก็หยุดช่วย การเลือกระดับที่เหมาะสมต่องานเป็นวิธีที่ง่ายที่สุดวิธีหนึ่งในการสร้างสมดุลระหว่างคุณภาพ ความเร็ว และราคา

เจาะลึก

โมเดลการใช้เหตุผลได้รับการฝึกฝนเพื่อสร้างห่วงโซ่ของการให้เหตุผลขั้นกลางก่อนคำตอบสุดท้าย การให้เหตุผลนั้นทำจากโทเค็น เช่นเดียวกับคำตอบ และการสร้างมันต้องใช้เวลาและเงิน ผู้ให้บริการให้คุณควบคุมได้ว่าจะเกิดขึ้นมากน้อยเพียงใด OpenAI เปิดเผยพารามิเตอร์ Reasoning_effort บนโมเดลการให้เหตุผลด้วยระดับต่างๆ เช่น ต่ำ ปานกลาง และสูง รุ่นใหม่บางรุ่นจะเพิ่มระดับขั้นต่ำ การคิดแบบขยายของ Anthropic เกี่ยวกับโมเดล Claude ที่รองรับจะใช้ค่า Budget_tokens ที่กำหนดจำนวนโทเค็นสูงสุดที่ Claude อาจใช้ในการคิด งบประมาณมีโทเค็นขั้นต่ำ 1,024 และต้องน้อยกว่า max_tokens รุ่น Gemini 2.5 ของ Google ยอมรับงบประมาณในการคิด และบางรุ่นอาจมีการปฏิเสธหรือปิดการคิด ชื่อต่างกัน แต่แนวคิดก็เหมือนกัน นั่นคือการหมุนระหว่างความรวดเร็วและความละเอียดถี่ถ้วน การตั้งค่าเหล่านี้เป็นเพียงแนวทาง ไม่ใช่จำนวนที่แน่นอน แบบจำลองที่มีงบประมาณจำนวนมากอาจใช้เพียงบางส่วนในคำถามง่ายๆ และระดับความพยายามจะเปลี่ยนพฤติกรรมแทนที่จะแก้ไขตัวเลข ต้นทุนคือส่วนที่คนมักพลาด โดยทั่วไปโทเค็นเหตุผลจะถูกเรียกเก็บเงินเป็นโทเค็นเอาต์พุตแม้ว่าคุณจะมองไม่เห็นก็ตาม และโทเค็นเอาต์พุตมักจะมีราคาสูงกว่าโทเค็นอินพุต คำตอบที่มองเห็นได้สั้นๆ อาจมีบิลที่ซ่อนอยู่มากมาย เวลาแฝงก็เพิ่มขึ้นเช่นกัน เนื่องจากโทเค็นการให้เหตุผลทุกรายการถูกสร้างขึ้นตามลำดับ การคิดมากขึ้นย่อมได้รับผลตอบแทนน้อยลง สำหรับคำถามค้นหาที่ง่ายหรือเป็นข้อเท็จจริง การใช้เหตุผลเพิ่มเติมไม่ค่อยช่วยปรับปรุงความแม่นยำ และบางครั้งอาจทำให้แบบจำลองซับซ้อนเกินไปหรือเดาคำตอบที่ถูกต้องเป็นครั้งที่สอง กำไรจะมากที่สุดจากปัญหาที่ต้องใช้หลายขั้นตอนอย่างแท้จริง ความเข้าใจผิดที่พบบ่อยคือการตั้งค่าสูงสุดจะดีที่สุดเสมอ แนวทางการปฏิบัติคือการทดสอบงานของคุณเองในหลายระดับ และเลือกระดับต่ำสุดที่ตรงกับแถบคุณภาพของคุณ

การใช้งานจริงในโลกแห่งความเป็นจริง

บอทสนับสนุนลูกค้าที่ตอบคำถามเกี่ยวกับคำสั่งซื้อง่ายๆ ต้องใช้ความพยายามในการให้เหตุผลต่ำ ซึ่งช่วยให้ตอบกลับได้อย่างรวดเร็วและประหยัดโดยไม่กระทบต่อความแม่นยำ

นักพัฒนาที่กำลังแก้ไขจุดบกพร่องที่เกิดขึ้นพร้อมกันที่ซับซ้อนจะเปลี่ยนไปใช้ความพยายามสูงสำหรับคำขอนั้น และได้รับการวินิจฉัยที่ถูกต้องโดยที่การตั้งค่าต่ำพลาดไป

ทีมที่ใช้การคิดแบบขยายของ Anthropic จะกำหนดงบประมาณจำนวนสองสามพันโทเค็นสำหรับการตรวจสอบเอกสารตามปกติ และงบประมาณที่ใหญ่กว่ามากเฉพาะสำหรับส่วนคำสั่งของสัญญาที่ถูกทำเครื่องหมายว่าผิดปกติ

นักวิเคราะห์ใช้ชุดคำถามทดสอบ 50 ข้อชุดเดียวกันโดยใช้ความพยายามต่ำ ปานกลาง และสูง และพบว่าการจับคู่ระดับปานกลางมีความแม่นยำสูงสำหรับงานของตนด้วยต้นทุนที่ต่ำกว่า ดังนั้นจึงสร้างมาตรฐานบนสื่อ

อนาคตของความพยายามในการใช้เหตุผลและงบประมาณในการคิด

ผู้ให้บริการกำลังมุ่งสู่โมเดลที่ตัดสินใจด้วยตนเองว่าจะใช้เวลาคิดนานเท่าใด โดยการตั้งค่าความพยายามทำหน้าที่เป็นขอบเขตแทนที่จะเป็นคำสั่งตายตัว ตัวอย่างเช่น โมเดลใหม่ของ Anthropic นำเสนอการคิดแบบปรับตัว และผลิตภัณฑ์บางอย่างจะสลับระหว่างโหมดรวดเร็วและโหมดการใช้เหตุผลโดยอัตโนมัติอยู่แล้ว การวิจัยยังคงทำให้การให้เหตุผลมีประสิทธิภาพมากขึ้น ดังนั้นความแม่นยำที่คล้ายคลึงกันจึงต้องการโทเค็นน้อยลง ชื่อพารามิเตอร์ ค่าที่อนุญาต และราคามีการเปลี่ยนแปลงหลายครั้งและมีแนวโน้มที่จะเปลี่ยนแปลงต่อไป ดังนั้นให้ถือว่าการตั้งค่าปัจจุบันเป็นรายละเอียดเฉพาะของผู้ให้บริการ และดำเนินการประเมินของคุณเองอีกครั้งเมื่อคุณอัปเกรดโมเดล

การนำไปปฏิบัติ

ทำไมมันถึงสำคัญ

  • ความเร็วและขนาด. ขั้นตอนการทำงานของภาษาสามารถดำเนินไปได้เร็วขึ้นโดยไม่กระทบต่อความสม่ำเสมอ
  • เข้าถึงและเข้าถึง. ขยายการเข้าถึงภาษาและรูปแบบการสื่อสาร
  • การตัดสินใจที่ชัดเจนยิ่งขึ้น. ทีมสามารถใช้เวลามากขึ้นในการตัดสิน ในขณะที่ระบบอัตโนมัติจัดการกับการทำซ้ำ

ระวัง

  • ข้อเท็จจริงที่หลอนประสาทสามารถเข้าสู่รายงาน กระแสสนับสนุน หรือผลการวิจัยได้อย่างเงียบๆ
  • ความละเอียดอ่อนของการแจ้งเตือนสามารถสร้างผลลัพธ์ที่ไม่สอดคล้องกันในคำขอที่คล้ายกัน
  • ข้อมูลข้อความที่ละเอียดอ่อนอาจถูกเปิดเผยหากการควบคุมการเข้าถึงอ่อนแอ

ขั้นตอนต่อไป

  1. กำหนดรูปแบบเอาต์พุต โทนเสียง และมาตรฐานคุณภาพก่อนเปิดตัว
  2. การตอบสนองภาคพื้นดินกับแหล่งข้อมูลที่เชื่อถือได้เมื่อใดก็ตามที่ความแม่นยำมีความสำคัญ
  3. รักษาจุดตรวจสอบการตรวจสอบโดยมนุษย์สำหรับผลลัพธ์ที่มีเดิมพันสูง
  4. ติดตามรูปแบบความล้มเหลวและฝึกอบรมพร้อมท์หรือเวิร์กโฟลว์เป็นประจำ

สำรวจต่อไป

จดหมายข่าวฟรี

รับสรุป AI รายวัน

เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา

อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ

ทดสอบตัวเอง

Take the Reasoning Effort and Thinking Budgets quiz

ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร

เริ่มแบบทดสอบ

สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค

คำถามที่พบบ่อย

ความพยายามในการใช้เหตุผลและการคิดงบประมาณคืออะไร?

ความพยายามในการใช้เหตุผลและงบประมาณในการคิดคือการตั้งค่าโมเดลการให้เหตุผลซึ่งควบคุมจำนวนงานภายในแบบทีละขั้นตอนที่โมเดลทำก่อนที่จะตอบ การคิดมากขึ้นมักจะปรับปรุงผลลัพธ์ของปัญหายากๆ เช่น คณิตศาสตร์ การเขียนโค้ด และการวิเคราะห์หลายขั้นตอน แต่จะเพิ่มต้นทุนและความล่าช้า และเมื่อผ่านจุดไปแล้วก็หยุดช่วย การเลือกระดับที่เหมาะสมต่องานเป็นวิธีที่ง่ายที่สุดวิธีหนึ่งในการสร้างสมดุลระหว่างคุณภาพ ความเร็ว และราคา

ความพยายามในการใช้เหตุผลและการคิดงบประมาณควบคุมอะไร?

การตั้งค่าเหล่านี้จะปรับจำนวนการให้เหตุผลระดับกลางที่แบบจำลองการให้เหตุผลสร้างขึ้นก่อนคำตอบสุดท้าย

โดยทั่วไปแล้วโทเค็นการให้เหตุผลที่ซ่อนอยู่จะถูกเรียกเก็บเงินอย่างไร

โดยทั่วไปโทเค็นเหตุผลจะถูกเรียกเก็บเงินเป็นโทเค็นเอาต์พุต ซึ่งโดยปกติจะมีราคาสูงกว่าอินพุต แม้ว่าจะไม่แสดงก็ตาม

สำหรับการคิดแบบขยายของ Anthropic กฎข้อใดเกี่ยวกับ Budget_tokens ระบุไว้ในคำแนะนำ

งบประมาณมีโทเค็นขั้นต่ำ 1,024 และต้องต่ำกว่า max_tokens ดังนั้นจึงมีที่ว่างสำหรับคำตอบ

แบบจำลองได้รับงบประมาณในการคิดจำนวนมากสำหรับคำถามง่ายๆ ปกติแล้วจะเกิดอะไรขึ้น?

งบประมาณเป็นขีดจำกัดบนและเป็นแนวทาง สำหรับคำถามง่ายๆ โมเดลมักจะใช้น้อยกว่ามาก

การตั้งค่าการใช้เหตุผลที่ใหญ่ขึ้นช่วยได้มากที่สุดที่ไหน?

กำไรจะมากที่สุดจากปัญหาหลายขั้นตอน งานง่ายๆ ไม่ค่อยได้ประโยชน์และอาจต้องทนทุกข์ทรมานจากการคิดมาก

เรียนรู้ต่อไป

คำแนะนำที่เกี่ยวข้อง

คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้

รับใบรับรอง AI ฟรีหลักสูตรและการสอบสั้น ๆ ฟรี ไม่มีค่าใช้จ่าย ไม่มีบัตรเครดิต ประมาณ 2.5 ชั่วโมงเริ่มต้นฟรี →