概述
Liquid AI 是 MIT 的衍生產品，致力於建立 Liquid 基礎模型 (LFM)，該模型放棄了標準 Transformer，採用了受動態系統啟發的架構。我們的目標是小型、快速、內存高效的模型，可以在手機和邊緣設備上運行，而不會犧牲太多的品質。
Liquid AI 和 Liquid Foundation 模型最好在策略、模型存取、平台決策和生態系統合作夥伴關係的背景下理解。
深入探討
Liquid AI 由 Ramin Hasani、Mathias Lechner、Alexander Amini 和 Daniela Rus 於 2023 年創立，他們是「液體神經網路」背後的麻省理工學院 CSAIL 團隊。這些起源於對線蟲秀麗隱桿線蟲的研究，其微小的 302 個神經元大腦啟發了液體時間常數 (LTC) 網絡，其中每個神經元的行為透過微分方程式隨時間不斷變化。 Liquid 的商業模型，即 Liquid Foundation 模型（LFM-1B、3B、40B），將這個想法推廣到變形金剛之外。一個突出的特點是隨著上下文的增長，記憶體佔用幾乎恆定，這與 Transformer 不同，Transformers 的注意力快取會隨著序列長度而膨脹。 2024 年，該公司籌集了一大筆 A 輪融資（據報導約為 2.5 億美元），隨後發布了 LFM2，針對筆記型電腦、手機和汽車上的設備部署進行了調整。
技術洞察
Transformer 儲存一個隨輸入長度線性增長的鍵值緩存，因此長上下文會佔用記憶體。相反，LFM 使用由結構化狀態空間和動態系統運算子建構的「流動」計算單元，將過去的資訊壓縮為固定大小的循環狀態。計算是透過連續時間方程式描述的，其參數（如時間常數）會適應輸入，使模型能夠以大致平坦的記憶體和可預測的延遲處理長序列，這對於資源有限的邊緣硬體來說是理想的選擇。
掌握液體人工智慧和液體基礎模型
Liquid AI 是 MIT 的衍生產品，致力於建立 Liquid 基礎模型 (LFM)，該模型放棄了標準 Transformer，採用了受動態系統啟發的架構。我們的目標是小型、快速、內存高效的模型，可以在手機和邊緣設備上運行，而不會犧牲太多的品質。 Liquid AI 和 Liquid Foundation 模型最好在策略、模型存取、平台決策和生態系統合作夥伴關係的背景下理解。為了建立深入的理解，請將 Liquid AI 和 Liquid Foundation 模型視為一種操作模型，而不是單一功能：定義期望的結果，澄清假設，並將系統可以可靠地完成的任務與仍需要專家判斷的任務分開。
在實踐中，使用 Liquid AI 和 Liquid Foundation 模型的強大團隊會在做出承諾之前評估供應商策略、路線圖可靠性和鎖定風險。他們記錄明確的成功標準，根據實際數據和工作流程進行測試，並根據觀察到的失敗模式而不是一次性基準測試勝利進行迭代。這就是理論理解轉變為跨產品、政策和營運的持久能力的地方。
供應商路線圖會影響您的團隊接下來可以建立的功能。同時，發佈公告可能會超過實際生產工作流程的穩定性。最具彈性的方法是將實驗速度與治理規則結合：運行試點、捕獲證據、發布決策日誌，並隨著模型行為、使用者期望和監管要求的發展不斷更新保障措施。
戰略影響
供應商路線圖會影響您的團隊接下來可以建立的功能。
供應商路線圖會影響您的團隊接下來可以建立的功能。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
商業條款和部署選項會影響長期成本和風險。
商業條款和部署選項會影響長期成本和風險。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
公司激勵措施塑造了產品預設、安全態勢和開放性。
公司激勵措施塑造了產品預設、安全態勢和開放性。在高品質部署中，這會轉化為可衡量的操作規則、所有權邊界和定期審查儀式，以便團隊可以增強信心，而不是擴大模糊性。
現實世界的實施
在智慧型手機上完全離線運行功能強大的聊天助手，以供隱私敏感的使用
在汽車中嵌入低延遲語言理解，實現語音控制，無需雲往返
在筆記型電腦上處理很長的文件或日誌，而 Transformer 的記憶體快取太大
為邊緣機器人和物聯網設備提供動力，其中受秀麗隱桿線蟲啟發的原始液體網路在連續控制方面表現出色
實施模式
液體人工智慧和液體基礎模型的實踐
在智慧型手機上完全離線運行功能強大的聊天助手，以供隱私敏感的使用。
在智慧型手機上完全離線運行功能強大的聊天助理以進行隱私敏感的使用當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移跟踪生產力提升和錯誤成本時，通常會獲得更好的結果。
液體人工智慧和液體基礎模型的實踐
在汽車中嵌入低延遲語言理解，實現語音控制，無需雲端往返。
在汽車中嵌入低延遲語言理解，實現無需雲端往返的語音控制 團隊在預先定義品質閾值、為邊緣情況保留人工升級路徑並追蹤一段時間內的生產力提升和錯誤成本時，通常會獲得更好的結果。
液體人工智慧和液體基礎模型的實踐
在筆記型電腦上處理很長的文件或日誌，而 Transformer 的記憶體快取太大。
在筆記型電腦上處理很長的文件或日誌（其中 Transformer 的記憶體快取太大） 當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時，通常會獲得更好的結果。
液體人工智慧和液體基礎模型的實踐
為邊緣機器人和物聯網設備提供動力，其中受秀麗隱桿線蟲啟發的原始液體網路在連續控制方面表現出色。
為邊緣機器人和物聯網設備提供動力，其中原始的線蟲啟發的液體網路擅長持續控制。當團隊預先定義品質閾值、為邊緣情況保留人工升級路徑並隨著時間的推移追蹤生產力增益和錯誤成本時，通常會獲得更好的結果。
風險與防護欄
發佈公告可能會超過實際生產工作流程的穩定性。
API 定價或政策轉變可能會在一夜之間打破假設。
單一供應商依賴性增加了鎖定和遷移成本。
實施路線圖
使用您自己的任務和資料集評估提供者。
使用您自己的任務和資料集評估提供者。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
在整合之前查看隱私、安全和法律條款。
在整合之前查看隱私、安全和法律條款。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
維護跨模型或供應商的後備計劃。
維護跨模型或供應商的後備計劃。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。
監控發行說明，以便路線圖的變更不會讓團隊感到意外。
監控發行說明，以便路線圖的變更不會讓團隊感到意外。將每個步驟視為證據門：如果不符合標準，則暫停推出，縮小差距，然後再擴大使用。