คำศัพท์อภิธานศัพท์ AI

แคช KV คืออะไร?

คำนิยาม

เทนเซอร์คีย์และค่าที่จัดเก็บไว้จากโทเค็นก่อนหน้าซึ่งช่วยให้หม้อแปลงสร้างโทเค็นใหม่โดยไม่ต้องคำนวณความสนใจในอดีตใหม่

การเรียนรู้อย่างต่อเนื่องแนวทางการฝึกอบรมที่ช่วยให้โมเดลสามารถเรียนรู้จากข้อมูลใหม่โดยไม่ลืมความรู้เดิมการสุ่มตัวอย่าง Top-kกลยุทธ์การถอดรหัสที่สุ่มตัวอย่างจากโทเค็นที่น่าจะถัดไปมากที่สุดเท่านั้นการเรียนรู้แบบไม่มีผู้ดูแลรูปแบบการเรียนรู้จากข้อมูลที่ไม่มีป้ายกำกับโดยไม่มีเอาต์พุตเป้าหมายที่ชัดเจนหน้าต่างบานเลื่อนความสนใจรูปแบบความสนใจที่แต่ละโทเค็นเข้าร่วมเฉพาะหน้าต่างขนาดคงที่ของโทเค็นใกล้เคียงเพื่อลดการประมวลผลประโยคชิ้นโทเค็นที่ไม่เชื่อเรื่องภาษาที่เรียนรู้หน่วยคำย่อยโดยตรงจากข้อความดิบโดยไม่ต้องแยกช่องว่างล่วงหน้าการลงโทษการแสดงตนการตั้งค่าการถอดรหัสที่ลดความน่าจะเป็นของโทเค็นที่ปรากฏเลย กระตุ้นให้เกิดหัวข้อใหม่

เรียนรู้เพิ่มเติมในคำแนะนำฟรีของเรา

ดูเพิ่มเติม