概述
在 AWS 中,Amazon Bedrock 和 Amazon SageMaker AI 滿足不同的需求。在比較功能或職責之前,確定特定的服務、模型提供者和部署配置。
重點摘要
- 區分 Bedrock 和 SageMaker AI 角色。
- 驗證實際型號和地區。
- 評估資料控制和完整的營運成本。
深入探討
Amazon Bedrock 提供對基礎模型和相關應用程式功能的託管存取。 Amazon SageMaker AI 支援建置、訓練和部署機器學習模型。這些服務可能在某些工作流程中重疊,因此請使用目前的 AWS 決策指南和服務文件來完成預期任務。型號可用性、支援的功能、區域和存取要求可能有所不同。透過託管平台提供的模型可能具有與模型提供者的直接 API 不同的整合細節。記錄評估中使用的端點、模型版本和配置。透過涉及的 AWS 服務規劃權限和資料流。儲存、檢索、日誌記錄和模型呼叫都可以有自己的控制項。託管服務減少了一些基礎設施工作,但並沒有免除應用程式擁有者對授權存取和適當資料使用的責任。評估完整的成本和操作行為,包括失敗的請求、吞吐量需求、儲存和傳輸。在生產使用之前測試代表性任務和故障處理。避免將廣泛的雲端平台功能清單視為針對特定帳戶或區域啟用每個功能的證據。
04工作範例
根據需求選擇服務
想像一下,一個團隊需要呼叫現有的基礎模型,而另一個團隊需要訓練和部署自訂分類器。
在選擇服務之前列出每個團隊的培訓、服務、數據和操作要求。
對所需路徑進行原型設計並驗證其當前可用性,而不是假設一個 AWS 產品名稱可以滿足這兩種需求。
它顯示了什麼
建構的場景組織服務比較,而不推薦購買或聲明特定於帳戶的可用性。
現實世界的實施
將託管基礎模型工作流程與自訂訓練要求進行比較。
驗證實際部署區域中的模型存取和資料權限。
付諸實踐
為什麼這很重要
- 供應商策略. 供應商路線圖會影響您的團隊接下來可以建立的功能。
- 成本與預算. 商業條款和部署選項會影響長期成本和風險。
- 風險與安全. 公司激勵措施塑造了產品預設、安全態勢和開放性。
留意
- 發佈公告可能會超過實際生產工作流程的穩定性。
- API 定價或政策轉變可能會在一夜之間打破假設。
- 單一供應商依賴性增加了鎖定和遷移成本。
後續步驟
- 使用您自己的任務和資料集評估提供者。
- 在整合之前查看隱私、安全和法律條款。
- 維護跨模型或供應商的後備計劃。
- 監控發行說明,以便路線圖的變更不會讓團隊感到意外。
資料來源與延伸閱讀
不斷探索
常見問題
Amazon Bedrock 和 SageMaker AI 是同一個服務嗎?
不。它們支援不同的、有時重疊的工作流程。將他們目前的功能與特定的開發和部署要求進行比較。