คำศัพท์อภิธานศัพท์ AI

คืออะไร BPE (การเข้ารหัสคู่ไบต์)?

คำนิยาม

อัลกอริธึมโทเค็นคำย่อยที่รวมคู่อักขระที่พบบ่อยที่สุดเข้ากับโทเค็นที่นำมาใช้ซ้ำได้

ข้อกำหนดที่เกี่ยวข้อง

โทเค็น
กระบวนการแยกข้อความออกเป็นโทเค็นสำหรับการป้อนโมเดล
OCR (การรู้จำอักขระด้วยแสง)
เทคโนโลยีที่แปลงข้อความในภาพหรือสแกนให้เป็นข้อความที่เครื่องอ่านได้
การสุ่มตัวอย่าง Top-k
กลยุทธ์การถอดรหัสที่สุ่มตัวอย่างจากโทเค็นที่น่าจะถัดไปมากที่สุดเท่านั้น
การขยายพันธุ์กลับ
อัลกอริธึมการฝึกอบรมหลักที่อัปเดตน้ำหนักโมเดลโดยเผยแพร่ข้อผิดพลาดในการคาดการณ์แบบย้อนกลับผ่านเครือข่าย
Bi-Encoder
โมเดลที่เข้ารหัสการสืบค้นและเอกสารเป็นเวกเตอร์แยกกัน เพื่อให้สามารถเปรียบเทียบได้อย่างรวดเร็วในวงกว้าง
ค้นหาบีม
อัลกอริธึมการถอดรหัสที่เก็บลำดับตัวเลือกอันดับต้นๆ ในแต่ละขั้นตอนเพื่อค้นหาเอาต์พุตที่มีความน่าจะเป็นสูงกว่า

เรียนรู้เพิ่มเติมในคำแนะนำฟรีของเรา

ดูเพิ่มเติม