Mô hình nền tảng lỏng là gì? Hướng dẫn LFM AI lỏng
Mô hình nền tảng chất lỏng (LFM) là mô hình AI không phải Transformer do Liquid AI xây dựng để suy luận ngữ cảnh dài hiệu quả và sử dụng ít bộ nhớ hơn trên điện thoại, phương tiện và thiết bị biên.
Lặn sâu
AI lỏng được thành lập vào năm 2023 bởi Ramin Hasani, Mathias Lechner, Alexander Amini và Daniela Rus, nhóm MIT CSAIL đằng sau 'mạng lưới thần kinh lỏng'. Những nghiên cứu này bắt nguồn từ việc nghiên cứu loài giun tròn C. Elegans, loài có bộ não nhỏ gồm 302 nơ-ron lấy cảm hứng từ mạng lưới Hằng số thời gian lỏng (LTC), trong đó hành vi của mỗi nơ-ron thay đổi liên tục theo thời gian thông qua các phương trình vi phân. Các mô hình thương mại của Liquid, Mô hình nền tảng chất lỏng (LFM-1B, 3B, 40B), khái quát hóa ý tưởng này ngoài Transformers. Một tính năng nổi bật là sử dụng dung lượng bộ nhớ gần như không đổi khi bối cảnh phát triển, không giống như Transformers có các bong bóng chú ý được lưu vào bộ nhớ đệm với độ dài chuỗi. Vào năm 2024, công ty đã huy động được Series A lớn (được báo cáo trị giá khoảng 250 triệu đô la) và sau đó phát hành LFM2, được điều chỉnh để triển khai trên thiết bị trên máy tính xách tay, điện thoại và ô tô.
Hiểu biết kỹ thuật
Transformers lưu trữ bộ đệm khóa-giá trị tăng tuyến tính theo độ dài đầu vào, do đó, bối cảnh dài sẽ ngốn bộ nhớ. Thay vào đó, LFM sử dụng các đơn vị tính toán 'lỏng' được xây dựng từ các toán tử hệ thống động và không gian trạng thái có cấu trúc để nén thông tin trong quá khứ thành trạng thái lặp lại có kích thước cố định. Quá trình tính toán được mô tả bằng các phương trình thời gian liên tục có các tham số (như hằng số thời gian) thích ứng với đầu vào, cho phép mô hình xử lý các chuỗi dài với bộ nhớ gần như phẳng và độ trễ có thể dự đoán được, lý tưởng cho phần cứng biên có giới hạn tài nguyên.
Tác động chiến lược
Chiến lược nhà cung cấp
Lộ trình của nhà cung cấp ảnh hưởng đến những tính năng mà nhóm của bạn có thể xây dựng tiếp theo.
Chi phí và ngân sách
Các điều khoản thương mại và các lựa chọn triển khai ảnh hưởng đến chi phí và rủi ro dài hạn.
Rủi ro và an toàn
Các biện pháp khuyến khích của công ty định hình các tình trạng vỡ nợ của sản phẩm, trạng thái an toàn và tính cởi mở.
Tương lai của mô hình Liquid Foundation là gì? Hướng dẫn LFM AI lỏng
Liquid đang đặt cược rằng tương lai của AI không chỉ là các mô hình đám mây khổng lồ mà còn là các mô hình riêng, có khả năng chạy cục bộ. Mong đợi sự tích hợp chặt chẽ hơn với điện thoại, phương tiện và chip IoT, cùng với các bản phát hành LFM liên tục được tối ưu hóa cho phần cứng cụ thể. Câu hỏi nghiên cứu rộng hơn là liệu các kiến trúc kiểu không gian trạng thái, không phải Transformer có thể phù hợp với chất lượng biên giới ở quy mô lớn hay không. Nếu lợi thế về hiệu quả vẫn giữ được khi các mô hình phát triển, thì cách tiếp cận của Liquid có thể định hình lại cách xây dựng trợ lý trên thiết bị và AI nhúng.
Triển khai trong thế giới thực
Chạy trợ lý trò chuyện có khả năng ngoại tuyến hoàn toàn trên điện thoại thông minh để sử dụng theo yêu cầu riêng tư
Tích hợp khả năng hiểu ngôn ngữ có độ trễ thấp vào ô tô để điều khiển bằng giọng nói mà không cần sử dụng dịch vụ đám mây
Xử lý các tài liệu hoặc nhật ký rất dài trên máy tính xách tay có bộ nhớ đệm của Transformer quá lớn
Cung cấp năng lượng cho các thiết bị robot và IoT biên trong đó mạng chất lỏng lấy cảm hứng từ C. Elegans ban đầu vượt trội ở khả năng kiểm soát liên tục
Rủi ro & lan can
Thông báo ra mắt có thể vượt xa sự ổn định trong quy trình sản xuất thực tế.
Việc định giá API hoặc thay đổi chính sách có thể phá vỡ các giả định chỉ sau một đêm.
Sự phụ thuộc vào một nhà cung cấp làm tăng chi phí khóa và di chuyển.
Lộ trình thực hiện
Đánh giá các nhà cung cấp bằng cách sử dụng các nhiệm vụ và bộ dữ liệu của riêng bạn.
Xem lại các điều khoản về quyền riêng tư, bảo mật và pháp lý trước khi tích hợp.
Duy trì kế hoạch dự phòng giữa các mô hình hoặc nhà cung cấp.
Theo dõi ghi chú phát hành để những thay đổi về lộ trình không gây ngạc nhiên cho các nhóm.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the What Is a Liquid Foundation Model? Liquid AI LFM Guide quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hướng dẫn tiếp theo
Mô hình nền tảng thế giới NVIDIA Cosmos
Câu hỏi thường gặp
What is a Liquid Foundation Model? Liquid AI LFM Guide?
Mô hình nền tảng chất lỏng (LFM) là mô hình AI không phải Transformer do Liquid AI xây dựng để suy luận ngữ cảnh dài hiệu quả và sử dụng ít bộ nhớ hơn trên điện thoại, phương tiện và thiết bị biên.
Nguồn cảm hứng sinh học nào đằng sau 'mạng lưới thần kinh lỏng' ban đầu của Liquid AI?
Nhóm sáng lập MIT đã nghiên cứu C. Elegans, loài có hệ thần kinh khoảng 302 nơ-ron lấy cảm hứng từ mạng lưới hằng số thời gian lỏng.
Lợi thế hiệu quả chính của LFM so với Máy biến áp tiêu chuẩn là gì?
Bộ đệm khóa-giá trị của Transformers tăng theo độ dài chuỗi, trong khi LFM nén quá khứ vào trạng thái có kích thước cố định để có bộ nhớ gần như không đổi.
Liquid AI là sản phẩm phụ của tổ chức nào?
AI lỏng phát triển từ Phòng thí nghiệm Khoa học Máy tính và Trí tuệ Nhân tạo (CSAIL) của MIT.
Khái niệm toán học nào làm nền tảng cho mạng lưới thần kinh lỏng?
Đơn vị chất lỏng là hệ thống động lực trong đó các trạng thái nơ-ron tiến triển theo các phương trình vi phân trong thời gian liên tục.
Mục tiêu triển khai chính mà Liquid nhấn mạnh với các mô hình như LFM2 là gì?
LFM2 được điều chỉnh để triển khai hiệu quả trên thiết bị, phản ánh sự tập trung của Liquid vào AI riêng, cục bộ.