Mô hình đá granite của IBM
Granite là dòng mô hình AI mở, tập trung vào doanh nghiệp của IBM được xây dựng cho các nhiệm vụ kinh doanh như mã hóa, hiểu tài liệu và truy xuất.
Tổng quan
Chúng quan trọng vì ưu tiên sự minh bạch, quản trị và dữ liệu đào tạo an toàn thương mại hơn là chạy theo bảng xếp hạng chatbot.
Lặn sâu
Granite là dòng mô hình nền tảng của IBM được phát hành theo giấy phép Apache 2.0 dễ dàng và được điều chỉnh cho doanh nghiệp chứ không phải cho các chatbot thông thường. Dòng này bao gồm các mô hình ngôn ngữ (Granite 3.x với các kích cỡ như 2B và 8B), các mô hình mã được đào tạo trên hơn 100 ngôn ngữ lập trình, các mô hình chuỗi thời gian để dự báo và các mô hình nhúng/an toàn Guardian. IBM nhấn mạnh rằng Granite được đào tạo về dữ liệu được quản lý, lọc cẩn thận và xuất bản tài liệu về các nguồn của nó, điều này thu hút các ngành được quản lý cảnh giác với rủi ro bản quyền và sai lệch. Các biến thể Hỗn hợp chuyên gia (Granite MoE) chỉ kích hoạt một phần tham số trên mỗi mã thông báo để đạt hiệu quả. Granite tích hợp chặt chẽ với nền tảng watsonx của IBM, nơi các công ty tinh chỉnh và triển khai các mô hình trên dữ liệu của riêng họ bằng các quy trình kiểm tra.
Hiểu biết kỹ thuật
Các mô hình dày đặc Granite 3.0 sử dụng một máy biến áp chỉ dành cho bộ giải mã tiêu chuẩn, trong khi các phiên bản Granite MoE định tuyến từng mã thông báo đến một tập hợp con nhỏ gồm các mạng con chuyên gia, do đó, mô hình tham số 3B chỉ có thể kích hoạt ~800 triệu tham số cho mỗi mã thông báo. Điều này giữ cho suy luận rẻ. IBM đào tạo hàng nghìn tỷ mã thông báo văn bản và mã đã được kiểm duyệt, sau đó áp dụng tinh chỉnh có giám sát cộng với căn chỉnh để làm cho kết quả đầu ra tuân theo hướng dẫn và chống lại các yêu cầu không an toàn.
Tác động chiến lược
Chiến lược nhà cung cấp
Lộ trình của nhà cung cấp ảnh hưởng đến những tính năng mà nhóm của bạn có thể xây dựng tiếp theo.
Chi phí và ngân sách
Các điều khoản thương mại và các lựa chọn triển khai ảnh hưởng đến chi phí và rủi ro dài hạn.
Rủi ro và an toàn
Các biện pháp khuyến khích của công ty định hình các tình trạng vỡ nợ của sản phẩm, trạng thái an toàn và tính cởi mở.
Tương lai của các mô hình đá granite của IBM
IBM đang thúc đẩy Granite hướng tới các mô hình nhỏ hơn, chuyên dụng và đa phương thức, chạy hiệu quả tại chỗ hoặc ở biên, giảm sự phụ thuộc vào các mô hình đám mây khổng lồ. Mong đợi các khả năng gọi công cụ và tác nhân sâu hơn, các biến thể chuỗi thời gian và không gian địa lý mở rộng cũng như các bản phát hành mở tiếp tục. Chiến lược đặt cược rằng các doanh nghiệp sẽ ủng hộ các mô hình minh bạch, có thể quản lý, có quy mô phù hợp mà họ kiểm soát hoàn toàn đối với các hệ thống hộp đen khép kín dành cho khối lượng công việc nhạy cảm với việc tuân thủ.
Triển khai trong thế giới thực
Một ngân hàng tinh chỉnh Granite 8B trên các tài liệu chính sách nội bộ để hỗ trợ trợ lý kiểm tra tuân thủ với khả năng ghi nhật ký kiểm tra đầy đủ thông qua watsonx.
Các nhà phát triển sử dụng các mô hình Mã Granite bên trong Trợ lý Mã watsonx để hiện đại hóa mã máy tính lớn COBOL cũ thành Java.
Một nhà bán lẻ áp dụng mô hình chuỗi thời gian của Granite để dự báo nhu cầu hàng tồn kho tại hàng nghìn địa điểm cửa hàng.
Nhóm hỗ trợ khách hàng xây dựng hệ thống RAG bằng cách sử dụng các mô hình nhúng Granite để lấy câu trả lời từ hướng dẫn sử dụng sản phẩm.
Rủi ro & lan can
Thông báo ra mắt có thể vượt xa sự ổn định trong quy trình sản xuất thực tế.
Việc định giá API hoặc thay đổi chính sách có thể phá vỡ các giả định chỉ sau một đêm.
Sự phụ thuộc vào một nhà cung cấp làm tăng chi phí khóa và di chuyển.
Lộ trình thực hiện
Đánh giá các nhà cung cấp bằng cách sử dụng các nhiệm vụ và bộ dữ liệu của riêng bạn.
Xem lại các điều khoản về quyền riêng tư, bảo mật và pháp lý trước khi tích hợp.
Duy trì kế hoạch dự phòng giữa các mô hình hoặc nhà cung cấp.
Theo dõi ghi chú phát hành để những thay đổi về lộ trình không gây ngạc nhiên cho các nhóm.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the IBM Granite Models quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hướng dẫn tiếp theo
Mô hình chim ưng
Câu hỏi thường gặp
IBM Granite Models là gì?
Granite là dòng mô hình AI mở, tập trung vào doanh nghiệp của IBM được xây dựng cho các nhiệm vụ kinh doanh như mã hóa, hiểu tài liệu và truy xuất. Chúng quan trọng vì chúng ưu tiên tính minh bạch, quản trị và dữ liệu đào tạo an toàn về mặt thương mại hơn là theo đuổi bảng xếp hạng chatbot.
Các mẫu IBM Granite được phát hành chủ yếu theo giấy phép nào?
IBM phát hành các mô hình Granite theo giấy phép Apache 2.0 cho phép, cho phép sử dụng và sửa đổi cho mục đích thương mại.
'MoE' trong các mẫu Granite MoE có nghĩa là gì?
Hỗn hợp các chuyên gia định tuyến từng mã thông báo đến một tập hợp con nhỏ gồm các mạng con chuyên gia, chỉ kích hoạt một phần mô hình trên mỗi mã thông báo để đạt hiệu quả.
Nền tảng IBM nào gắn liền nhất với việc triển khai và tinh chỉnh các mô hình Granite?
Các mô hình granite được tích hợp chặt chẽ với nền tảng watsonx của IBM để tinh chỉnh và quản lý việc triển khai của doanh nghiệp.
Tại sao các ngành được quản lý lại thấy Granite hấp dẫn so với nhiều mẫu khác?
IBM nhấn mạnh đến việc lọc, quản lý dữ liệu đào tạo và xuất bản tài liệu một cách cẩn thận, giảm bớt mối lo ngại về bản quyền và sai lệch đối với các lĩnh vực nhạy cảm về tuân thủ.
Ngoài ngôn ngữ và mã, loại mô hình chuyên dụng nào thuộc họ Granite?
Granite bao gồm các mô hình chuỗi thời gian cho các nhiệm vụ như dự báo nhu cầu và tài chính, cùng với các mô hình mã, nhúng và an toàn Guardian.