概述
這很重要,因為可靠性(而不僅僅是原始智慧)是阻止人工智慧代理在沒有持續監督的情況下完成有用的多步驟工作的瓶頸。
深入探討
Imbue, formerly known as Generally Intelligent, is led by CEO Kanjun Qiu and raised over 200 million dollars in 2023 at a roughly one-billion-dollar valuation, backed by investors including Nvidia. Rather than chasing the biggest possible model, Imbue focuses on agents that reason reliably and can verify their own work. The company famously trained a 70-billion-parameter model from scratch on its own compute cluster and published unusually detailed engineering notes about the experience. One engineering post describes the training cluster used for that run as 4,088 H100 GPUs across 511 computers. Its research emphasizes reasoning, robustness, and tools that let agents check whether their actions actually succeeded. The long-term goal is personal AI agents people can trust to handle consequential tasks, with an explicit emphasis on user agency and verifiability rather than opaque automation.
現實世界的實施
代理程式編寫程式碼、執行測試套件、讀取故障並修復自己的錯誤,然後再將工作交還。
研究助理將模糊的請求分解為子問題,收集證據並驗證每個發現而不是猜測。
個人代理人起草並協調一個複雜的多步驟計劃,標記不確定且需要人工簽署的點。
內部工具可以讓代理確認每個操作是否確實改變了系統狀態,而不是假設成功。
注入推理代理的未來
智能體的前沿正在從一次性答案轉向長期可靠性:智能體能夠計劃、跨多個步驟採取行動、從錯誤中恢復,並知道何時詢問人類。預計會更加重視驗證、沙盒工具的使用和透明度,以便用戶可以審查代理商的行為。如果像 Imbue 這樣的實驗室取得成功,值得信賴的個人代理就可以處理研究、編碼和行政事務,但困難的部分仍然是避免在後續行動中犯下自信的錯誤。
付諸實踐
為什麼這很重要
- 供應商策略. 供應商路線圖會影響您的團隊接下來可以建立的功能。
- 成本與預算. 商業條款和部署選項會影響長期成本和風險。
- 風險與安全. 公司激勵措施塑造了產品預設、安全態勢和開放性。
留意
- 發佈公告可能會超過實際生產工作流程的穩定性。
- API 定價或政策轉變可能會在一夜之間打破假設。
- 單一供應商依賴性增加了鎖定和遷移成本。
後續步驟
- 使用您自己的任務和資料集評估提供者。
- 在整合之前查看隱私、安全和法律條款。
- 維護跨模型或供應商的後備計劃。
- 監控發行說明,以便路線圖的變更不會讓團隊感到意外。
不斷探索
常見問題
什麼是 Imbue Reasoning Agent?
Imbue 是一個 AI 實驗室建構代理,可以進行足夠穩健的推理、編碼和操作,足以在實際任務中得到信任。這很重要,因為可靠性(而不僅僅是原始智慧)是阻止人工智慧代理在沒有持續監督的情況下完成有用的多步驟工作的瓶頸。
Imbue 以前叫什麼?
在更名之前,Imbue 的前身為 General Intelligence。
Imbue 認為有用的人工智慧代理的關鍵瓶頸是什麼?
Imbue 強調,代理必須可靠地推理並驗證他們的工作才能被真實任務所信任。
Imbue 記錄了哪些值得注意的工程壯舉?
Imbue 從頭開始訓練了 70B 參數模型,並發布了有關基礎設施工作的詳細說明。
對代理人來說,「閉環」意味著什麼?
閉環意味著執行一個操作,檢查實際結果,並在失敗時修正過程。
Imbue 的支持者是哪家主要硬體公司?
Nvidia 是 Imbue 2023 年融資輪的投資者之一。