Câu đố về hệ thống SambaNova

Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.

1. SambaNova sử dụng kiến ​​trúc cốt lõi nào cho chip của mình?
   • Thiết kế luồng dữ liệu có thể cấu hình lại
   • Bộ xử lý điện thoại thông minh tiêu chuẩn
   • Một máy tính cơ học thuần túy
   • Bộ xử lý chỉ lượng tử
2. SambaNova mô tả việc di chuyển dữ liệu trong kiến trúc luồng dữ liệu RDU của mình như thế nào?
   • Mỗi thao tác phải được chuyển đổi thủ công thành một truy vấn cơ sở dữ liệu
   • Các thao tác của mô hình được ánh xạ thành một biểu đồ và dữ liệu chảy từ thao tác này sang thao tác tiếp theo dưới dạng một đường ống (pipeline)
   • Thiết kế loại bỏ mọi truy cập bộ nhớ
   • Một phép loại suy về CPU chứng minh tất cả các khối lượng công việc chạy nhanh hơn
3. Sản phẩm SambaStack của SambaNova kết hợp những gì?
   • Chỉ có gói đăng ký chatbot dành cho người tiêu dùng
   • Cơ sở dữ liệu truy xuất nguồn gốc thực phẩm và máy ảnh
   • Phần cứng và phần mềm dưới dạng một nền tảng tích hợp dành cho việc suy luận AI
   • Hệ điều hành máy tính xách tay đa năng
4. Hệ thống phân cấp bộ nhớ SN50 được tài liệu ghi lại sắp xếp dữ liệu mô hình như thế nào?
   • Tất cả trọng số mô hình nằm trên SRAM trên chip, do đó mọi mô hình đều luôn thường trực
   • DDR thay thế HBM cho tất cả các trọng số hoạt động và bộ nhớ đệm KV hoạt động (hot KV cache)
   • Phân tầng loại bỏ mọi việc di chuyển dữ liệu và đảm bảo suy luận nhanh hơn cho mọi khối lượng công việc
   • Thiết lập SN50 được tài liệu ghi lại sử dụng HBM cho các trọng số hoạt động và bộ nhớ đệm KV hoạt động (hot KV cache), còn DDR cho các nhóm mô hình lớn hơn hoặc bộ nhớ đệm KV ít hoạt động hơn (colder KV cache), tùy thuộc vào cấu hình
5. Việc triển khai SambaStack tại chỗ (on-premises) có thể mang lại điều gì cho một tổ chức?
   • Một tùy chọn vận hành nền tảng trong môi trường riêng của tổ chức, tùy thuộc vào các điều khoản triển khai và hợp đồng của tổ chức đó
   • Cam kết rằng không bao giờ có dữ liệu nào có thể rời khỏi môi trường
   • Tuân thủ tự động với mọi luật về quyền riêng tư
   • Lời hứa rằng các mô hình không thể tạo ra đầu ra không an toàn
6. SambaNova xác định người nào là đồng sáng lập kiêm giám đốc công nghệ?
   • Geoffrey Hinton
   • Kunle Olukotun
   • Fei Fei Li
   • Demis Hassabis
7. SambaNova liệt kê những tầng bộ nhớ nào cho nền tảng SN40L của mình?
   • Chỉ bộ nhớ đệm CPU và ổ cứng
   • GDDR và bộ nhớ flash không có bộ nhớ trên chip
   • SRAM trên chip, HBM và DDR
   • Một tầng bộ nhớ bền vững duy nhất
8. Nền tảng nào mà SambaNova mô tả cho quy trình làm việc đa mô hình?
   • Nó đảm bảo mọi mô hình đều vừa trên một chip
   • Nó loại bỏ nhu cầu đánh giá tính tương thích của mô hình
   • Nó biến mọi mô hình thành một bộ dữ liệu đào tạo
   • Việc gộp mô hình có thể hỗ trợ nhiều mô hình trong quy trình suy luận hoặc tác vụ