คู่มือ AI ภาษา

การเรียนรู้ในบริบท

การเรียนรู้ในบริบทใช้ข้อมูลหรือการสาธิตในทันทีเพื่อปรับการตอบสนองของโมเดลภาษาโดยไม่ต้องอัปเดตน้ำหนัก

ฟังคำแนะนำนี้บรรยายโดย AI · ~3 min

บนหน้านี้อ่าน 3 นาที
  1. ภาพรวม
  2. เจาะลึก
  3. การใช้งานจริงในโลกแห่งความเป็นจริง
  4. อนาคตของการเรียนรู้ในบริบท
  5. การนำไปปฏิบัติ
  6. สำรวจต่อไป
  7. คำถามที่พบบ่อย

ภาพรวม

It provides a flexible way to show a task or format, while results depend on the model and prompt rather than a guaranteed learning threshold.

เจาะลึก

Ordinary fine-tuning updates a model's parameters through training. In-context learning instead puts information and demonstrations into the input supplied at inference. The model's weights remain fixed while its internal activations and predictions depend on that input. A zero-shot prompt gives no task demonstrations, a one-shot prompt gives one, and a few-shot prompt gives several. For example, demonstrations can show support messages paired with the labels refund and billing; a new message can then be presented using the same structure. The examples suggest the desired pattern without guaranteeing a correct classification. The GPT-3 paper evaluated task demonstrations supplied through text without gradient updates and reported improvements with scale across many tasks. That evidence does not establish a universal one-hundred-billion-parameter threshold below which in-context learning is impossible. Prompt design also matters. Lu and colleagues demonstrated sensitivity to the order of few-shot examples in their evaluated classification settings, so reordering identical examples can change results without changing model weights. Demonstrations can illustrate a format or task relationship, but they are still input tokens that must be processed. Adding more examples uses more of the supported context budget and can increase per-request work; it is not automatically a quality improvement. For a stable application, compare prompting and fine-tuning using task quality, training effort, request costs, and maintenance needs instead of assuming one method is always cheaper.

การใช้งานจริงในโลกแห่งความเป็นจริง

ให้ตั๋วสนับสนุนสามตัวอย่างแก่แชทบอตพร้อมหมวดหมู่ จากนั้นให้จัดประเภทตั๋วใหม่ในลักษณะเดียวกัน

การแสดงโมเดลสองก่อน/หลังคู่ข้อความยุ่งๆ ที่ฟอร์แมตใหม่เป็น JSON ที่สะอาด เพื่อแปลงส่วนที่เหลือ

วางคำอธิบายผลิตภัณฑ์ตัวอย่างสองสามรายการในโทนสีของแบรนด์ของคุณ เพื่อให้คำอธิบายใหม่ตรงกับสไตล์

การสาธิตปัญหาคำศัพท์ทางคณิตศาสตร์ที่ซับซ้อนนั้นทำงานทีละขั้นตอน ดังนั้นแบบจำลองจึงแก้ปัญหาที่คล้ายกันด้วยรูปแบบการใช้เหตุผลเดียวกัน

อนาคตของการเรียนรู้ในบริบท

Larger supported contexts make it possible to supply more examples, but they also create choices about relevance and request cost. Retrieval can help select examples appropriate to the current task. Evaluate the same representative requests under different prompt designs and compare those results with a fine-tuned alternative when relevant. A useful report states the model, examples, ordering, and evaluation task. Greater prompt length is a resource choice rather than a guarantee of learning, and few-shot behavior still needs checks on held-out inputs.

การนำไปปฏิบัติ

ทำไมมันถึงสำคัญ

  • ความเร็วและขนาด. ขั้นตอนการทำงานของภาษาสามารถดำเนินไปได้เร็วขึ้นโดยไม่กระทบต่อความสม่ำเสมอ
  • เข้าถึงและเข้าถึง. ขยายการเข้าถึงภาษาและรูปแบบการสื่อสาร
  • การตัดสินใจที่ชัดเจนยิ่งขึ้น. ทีมสามารถใช้เวลามากขึ้นในการตัดสิน ในขณะที่ระบบอัตโนมัติจัดการกับการทำซ้ำ

ระวัง

  • ข้อเท็จจริงที่หลอนประสาทสามารถเข้าสู่รายงาน กระแสสนับสนุน หรือผลการวิจัยได้อย่างเงียบๆ
  • ความละเอียดอ่อนของการแจ้งเตือนสามารถสร้างผลลัพธ์ที่ไม่สอดคล้องกันในคำขอที่คล้ายกัน
  • ข้อมูลข้อความที่ละเอียดอ่อนอาจถูกเปิดเผยหากการควบคุมการเข้าถึงอ่อนแอ

ขั้นตอนต่อไป

  1. กำหนดรูปแบบเอาต์พุต โทนเสียง และมาตรฐานคุณภาพก่อนเปิดตัว
  2. การตอบสนองภาคพื้นดินกับแหล่งข้อมูลที่เชื่อถือได้เมื่อใดก็ตามที่ความแม่นยำมีความสำคัญ
  3. รักษาจุดตรวจสอบการตรวจสอบโดยมนุษย์สำหรับผลลัพธ์ที่มีเดิมพันสูง
  4. ติดตามรูปแบบความล้มเหลวและฝึกอบรมพร้อมท์หรือเวิร์กโฟลว์เป็นประจำ

สำรวจต่อไป

จดหมายข่าวฟรี

รับสรุป AI รายวัน

เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา

อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ

ทดสอบตัวเอง

Take the In-Context Learning quiz

ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร

เริ่มแบบทดสอบ

สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค

คำถามที่พบบ่อย

What is In-Context Learning?

In-context learning uses information or demonstrations in a prompt to adapt a language model's response without updating its weights. It provides a flexible way to show a task or format, while results depend on the model and prompt rather than a guaranteed learning threshold.

การเปลี่ยนแปลงพื้นฐานอะไรภายในโมเดลระหว่างการเรียนรู้ในบริบท

การเรียนรู้ในบริบทเกิดขึ้นโดยสิ้นเชิงจากการอนุมาน ตัวอย่างในพรอมต์จะกำหนดการเปิดใช้งานของโมเดลและการคาดการณ์โทเค็นถัดไป แต่ไม่มีการอัปเดตน้ำหนัก

What does GPT-3's reported improvement in few-shot performance with scale establish?

The study reports task and model results, not a universal parameter threshold for in-context behavior.

How should induction-head research be related to broad in-context learning?

The cited work distinguishes stronger findings in small attention-only models from preliminary or indirect broader evidence.

How should an application compare repeated few-shot prompting with fine-tuning?

Stable high-volume use can motivate comparison, but costs and quality depend on the actual setup.

A few-shot ticket prompt demonstrates only refund and billing labels. What do those examples provide for the next ticket?

Demonstrations show a desired input-output pattern, while correctness still needs evaluation.

เรียนรู้ต่อไป

คำแนะนำที่เกี่ยวข้อง

คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้

รับใบรับรอง AI ฟรีหลักสูตรและการสอบสั้น ๆ ฟรี ไม่มีค่าใช้จ่าย ไม่มีบัตรเครดิต ประมาณ 2.5 ชั่วโมงเริ่มต้นฟรี →