Bài kiểm tra có liên kết hướng dẫn · Trung bình Cấp độ
Bài kiểm tra về quản lý lịch sử hội thoại và nén ngữ cảnh
Kiểm tra tính năng cắt ngắn so với tóm tắt cuộn, cách hoạt động của quá trình nén tác nhân và xóa kết quả công cụ cũng như lý do tại sao các ngưỡng dựa trên mã thông báo lại quan trọng.
Câu hỏi 1 của 8
Tại sao các phiên trò chuyện dài ngày càng trở nên đắt đỏ hơn?
Xem trước mọi câu hỏi8 câu hỏi
Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.
- Tại sao các phiên trò chuyện dài ngày càng trở nên đắt đỏ hơn?
- Mô hình lưu trữ một bản sao của cuộc trò chuyện trên mọi máy chủ
- Nhà cung cấp lập hóa đơn theo số ngày trò chuyện vẫn mở
- Hầu hết các API trò chuyện đều không có trạng thái, vì vậy mọi yêu cầu đều gửi lại toàn bộ cuộc trò chuyện cho đến nay
- Mô hình tự đào tạo lại trên mỗi tin nhắn mới
- Điểm yếu chính của việc cắt bớt cửa sổ trượt là gì?
- Nó quên các sự kiện ban đầu, chẳng hạn như các ràng buộc mà người dùng đã nêu lúc đầu
- Đó là chiến lược đắt giá nhất
- Nó đòi hỏi một mô hình thứ hai để chạy
- Nó viết lại lời nhắc hệ thống
- Rủi ro nào cụ thể đối với việc tóm tắt luân phiên?
- Không thể tạo tóm tắt bằng mô hình ngôn ngữ
- Nó tăng số lượng mã thông báo cho mỗi yêu cầu
- Nó chỉ hoạt động với đầu vào hình ảnh
- Bản tóm tắt bị mất chi tiết và lỗi có thể phức tạp hơn khi bản tóm tắt được tóm tắt lại
- Quá trình nén thường tạo ra những gì trong các công cụ đại lý?
- Một lịch sử trống rỗng không có thông tin nào được chuyển tiếp
- Sự chuyển giao có cấu trúc về mục tiêu, tiến độ, quyết định và các vấn đề mở nhằm tạo ra một bối cảnh mới
- Bản sao đầy đủ của mọi tập tin mà đại lý đã mở
- Một mô hình mới được tinh chỉnh
- Tại sao việc xóa kết quả công cụ cũ lại hiệu quả trong các phiên đại lý?
- Kết quả đầu ra lớn từ tìm kiếm, đọc tệp và lệnh thường là những nguồn sử dụng mã thông báo lớn nhất và hiếm khi cần thiết nữa
- Kết quả của công cụ luôn không chính xác
- API cấm kết quả công cụ sau lượt đầu tiên
- Nó làm cho tokenizer chạy nhanh hơn
- Tại sao các ngưỡng phải dựa trên số lượng mã thông báo thay vì số lượng tin nhắn?
- Không thể đếm tin nhắn theo chương trình
- Token là miễn phí, còn tin nhắn thì bị tính phí
- Kết quả của một công cụ duy nhất có thể lớn hơn nhiều lượt trò chuyện
- Nhà cung cấp chỉ lập hóa đơn theo số lượng tin nhắn
- Khi xóa kết quả công cụ, tại sao lại thay thế nội dung của nó thay vì xóa tin nhắn?
- Để làm cho lịch sử dài hơn
- Nhiều API từ chối lịch sử trong đó lệnh gọi công cụ không có kết quả trùng khớp
- Phần giữ chỗ làm cho mô hình trở nên sáng tạo hơn
- Việc thay thế nội dung sẽ mã hóa nội dung đó
- Theo hướng dẫn, tính liên tục trong một phiên dài thực sự đến từ đâu?
- Bộ nhớ vĩnh viễn của mô hình về tất cả các cuộc trò chuyện trong quá khứ
- Bộ đệm trong của GPU
- Trình duyệt web của người dùng
- Những gì ứng dụng chọn để gửi lại hoặc truy xuất