Thuật ngữ thuật ngữ AI

BPE (Mã hóa cặp byte) là gì?

Định nghĩa

Thuật toán mã thông báo từ phụ hợp nhất các cặp ký tự thường gặp nhất thành các mã thông báo có thể sử dụng lại.

Duyệt qua Bảng thuật ngữ AI đầy đủKhám phá tất cả hướng dẫn AI miễn phí

Điều khoản liên quan

Mã thông báoQuá trình tách văn bản thành các token để nhập vào mô hình.OCR (Nhận dạng ký tự quang học)Công nghệ chuyển đổi văn bản trong hình ảnh hoặc quét thành văn bản có thể đọc được bằng máy.Lấy mẫu Top-kChiến lược giải mã chỉ lấy mẫu từ k mã thông báo tiếp theo có khả năng xảy ra nhất.Lan truyền ngượcThuật toán đào tạo cốt lõi cập nhật trọng số mô hình bằng cách truyền ngược các lỗi dự đoán qua mạng.Bộ mã hóa képMột mô hình mã hóa các truy vấn và tài liệu thành các vectơ riêng biệt để có thể so sánh chúng nhanh chóng trên quy mô lớn.Tìm kiếm tiaThuật toán giải mã giữ lại một số chuỗi ứng cử viên hàng đầu ở mỗi bước để tìm kết quả đầu ra có xác suất cao hơn.

Tìm hiểu thêm trong hướng dẫn miễn phí của chúng tôi

ByteDance DoubaoCycleGAN Unpaired TranslationTokenizer-Free Byte-Level ModelsInstant-NGP Hash Encoding

Xem thêm

Sliding Window AttentionSentencePieceALiBiANN (Approximate Nearest Neighbor)RoPE (Rotary Positional Embeddings)HNSWPositional EncodingReranker