Google Gemma
Gemma là dòng mô hình AI nhẹ, có trọng lượng mở của Google được xây dựng từ cùng nghiên cứu và công nghệ như Gemini.
Tổng quan
It lets developers download, fine-tune, and run capable models on their own hardware, even a single laptop or GPU.
Lặn sâu
Được công bố vào tháng 2 năm 2024, Gemma cho Google một suất tham gia cuộc đua người mẫu hạng cân mở cùng với Llama và Mistral của Meta. Các mô hình này có kích thước nhỏ, bản phát hành đầu tiên có phiên bản tham số 2B và 7B, với trọng lượng bạn có thể tải xuống và chạy cục bộ, không giống như Gemini đóng, chỉ có API. Google phân phối cả biến thể cơ bản (đã được huấn luyện trước) và biến thể được điều chỉnh theo hướng dẫn theo giấy phép cho phép cho phép sử dụng thương mại. Dòng này nhanh chóng mở rộng: CodeGemma cho lập trình, PaliGemma cho các tác vụ ngôn ngữ thị giác, RecurrentGemma cho các chuỗi dài hiệu quả và Gemma 2 (và phiên bản mới hơn) với hiệu suất mạnh hơn ở các kích cỡ như 9B và 27B. Gemma được thiết kế để hoạt động tốt với các công cụ phổ biến như Hugging Face, Keras, PyTorch, JAX và Ollama, khiến nó trở thành lựa chọn thiết thực cho việc triển khai tại chỗ, nhạy cảm về quyền riêng tư hoặc tiết kiệm chi phí.
Hiểu biết kỹ thuật
Gemma sử dụng kiến trúc Transformer chỉ có bộ giải mã và sử dụng lại các kỹ thuật từ nghiên cứu Gemini, bao gồm mã thông báo từ vựng lớn (khoảng 256 nghìn mã thông báo) và chương trình đào tạo được chắt lọc từ các mô hình giáo viên lớn hơn trong thế hệ Gemma 2. Chắt lọc kiến thức cho phép một mô hình học sinh nhỏ bắt chước một mô hình lớn hơn nhiều, đạt được chất lượng cao ở quy mô khiêm tốn. 'Trọng lượng mở' có nghĩa là các tham số đã đào tạo có thể tải xuống để bạn có thể tinh chỉnh và tự lưu trữ, mặc dù dữ liệu đào tạo và quy trình đầy đủ không có nguồn mở hoàn toàn.
Tác động chiến lược
Chiến lược nhà cung cấp
Lộ trình của nhà cung cấp ảnh hưởng đến những tính năng mà nhóm của bạn có thể xây dựng tiếp theo.
Chi phí và ngân sách
Các điều khoản thương mại và các lựa chọn triển khai ảnh hưởng đến chi phí và rủi ro dài hạn.
Rủi ro và an toàn
Các biện pháp khuyến khích của công ty định hình các tình trạng vỡ nợ của sản phẩm, trạng thái an toàn và tính cởi mở.
Tương lai của Google Gemma
Mong đợi Google tiếp tục phát hành các biến thể Gemma được điều chỉnh cho các phương thức và nhiệm vụ cụ thể, tầm nhìn, mã, toán học và cách sử dụng trên thiết bị, đồng thời thu nhỏ dung lượng cần thiết để chạy chúng. Khi các mô hình trọng lượng mở thu hẹp khoảng cách với các hệ thống biên giới, Gemma đặt Google để giành được sự chia sẻ tư duy và lợi thế quyền lực của nhà phát triển cũng như các hoạt động triển khai riêng tư nơi dữ liệu không thể rời khỏi tòa nhà. Tích hợp chặt chẽ hơn với Android, Chrome và các công cụ như Ollama và Vertex AI sẽ khiến việc tinh chỉnh và suy luận cục bộ ngày càng trở nên chìa khóa trao tay.
Triển khai trong thế giới thực
Chạy chatbot hoàn toàn ngoại tuyến trên máy tính xách tay hoặc GPU đơn cho dữ liệu nhạy cảm về quyền riêng tư
Tinh chỉnh mô hình Gemma nhỏ trên tài liệu nội bộ của công ty cho trợ lý hỗ trợ tùy chỉnh
Sử dụng CodeGemma làm trợ lý tạo và hoàn thiện mã cục bộ bên trong IDE
Xây dựng chú thích hình ảnh hoặc ứng dụng Hỏi đáp trực quan bằng biến thể PaliGemma bằng ngôn ngữ thị giác
Rủi ro & lan can
Thông báo ra mắt có thể vượt xa sự ổn định trong quy trình sản xuất thực tế.
Việc định giá API hoặc thay đổi chính sách có thể phá vỡ các giả định chỉ sau một đêm.
Sự phụ thuộc vào một nhà cung cấp làm tăng chi phí khóa và di chuyển.
Lộ trình thực hiện
Đánh giá các nhà cung cấp bằng cách sử dụng các nhiệm vụ và bộ dữ liệu của riêng bạn.
Xem lại các điều khoản về quyền riêng tư, bảo mật và pháp lý trước khi tích hợp.
Duy trì kế hoạch dự phòng giữa các mô hình hoặc nhà cung cấp.
Theo dõi ghi chú phát hành để những thay đổi về lộ trình không gây ngạc nhiên cho các nhóm.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Google Gemma quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hướng dẫn tiếp theo
Google DeepMind
Câu hỏi thường gặp
What is Google Gemma?
Gemma là dòng mô hình AI nhẹ, có trọng lượng mở của Google được xây dựng từ cùng nghiên cứu và công nghệ như Gemini. Nó cho phép các nhà phát triển tải xuống, tinh chỉnh và chạy các mô hình có khả năng trên phần cứng của riêng họ, thậm chí là một máy tính xách tay hoặc GPU.
Điểm khác biệt chính giữa Gemma và Gemini là gì?
Trọng lượng đã huấn luyện của Gemma có thể được tải xuống và chạy cục bộ, trong khi Gemini được cung cấp dưới dạng mô hình khép kín thông qua các ứng dụng và API của Google.
Bản phát hành Gemma đầu tiên vào năm 2024 có kích thước như thế nào?
Lần ra mắt đầu tiên của Gemma bao gồm các mô hình tham số 2 tỷ và 7 tỷ, cố tình đủ nhỏ để chạy trên phần cứng khiêm tốn.
Biến thể Gemma nào chuyên dùng cho các tác vụ lập trình?
CodeGemma là biến thể được điều chỉnh để tạo và hoàn thiện mã, trong khi PaliGemma xử lý ngôn ngữ tầm nhìn và RecurrentGemma nhắm mục tiêu vào các chuỗi dài hiệu quả.
'Cân nặng' có ý nghĩa gì đối với một người mẫu như Gemma?
Trọng lượng mở có nghĩa là bạn có thể tải xuống và chạy các tham số đã đào tạo, nhưng dữ liệu và quy trình đào tạo hoàn chỉnh không nhất thiết phải có nguồn mở.
Kỹ thuật nào giúp thế hệ Gemma 2 đạt được chất lượng mạnh mẽ ở kích thước nhỏ?
Chắt lọc kiến thức cho phép mô hình 'học sinh' nhỏ hơn học cách bắt chước mô hình 'giáo viên' lớn hơn, gói gọn hiệu suất mạnh mẽ vào một kích thước nhỏ gọn.