概述
應用程式或提供者執行操作並傳回結果。提出工具呼叫的模型與成功呼叫的模型不同,並且兩者都與使用者正在完成的整體任務不同。
重點摘要
- 驗證權威和論證形式。
- 針對副作用設計安全重試。
- 驗證結果狀態。
深入探討
定義每個工具的用途、輸入模式、輸出形狀和副作用。範圍狹窄的操作比通用命令介面更容易驗證。工具描述應解釋何時該操作是適當的,而不授予模型權限超出使用者的請求。驗證應用程式程式碼中的輸入和權限。格式良好的論證仍然可以識別出錯誤的帳戶、目的地或金額。對工具描述保密,並僅傳回允許請求使用者存取的資訊。明確處理錯誤和不確定的結果。外部操作完成之前或之後可能會發生網路逾時。盡可能使用操作識別碼或回讀檢查,以便重試不會重複已完成的操作。執行後,提供準確的結果並驗證預期狀態。將網站或文件傳回的文字視為不可信內容;它不能僅僅因為它是透過工具到達的而授權新的操作。測試取消、格式錯誤的回應、撤銷存取和部分完成是完整工具使用循環的一部分。
04工作範例
重試而不重複工作
想像一下任務建立工具接受請求標識符 demo-17。任務創建後回應超時。
在建立另一個任務之前尋找 demo-17。如果服務支援冪等性,請重複使用相同的識別碼進行重試。
僅在確認結果任務及其內容後報告完成情況。
它顯示了什麼
這個構造的例子將不確定的傳輸與外在行為的實際結果分開。
現實世界的實施
在提出更新之前取得當前記錄。
文件保存後返回操作標識符和驗證結果。
付諸實踐
為什麼這很重要
- 速度與規模. 語言工作流程可以在不犧牲一致性的情況下更快地移動。
- 交通與覆蓋範圍. 它擴展了跨語言和溝通方式的訪問。
- 更明確的決策. 團隊可以花更多時間進行判斷,而自動化則可以處理重複。
留意
- 幻覺的事實可以悄悄地進入報告、支持流程或研究成果。
- 及時的敏感性可能會在類似的請求中產生不一致的結果。
- 如果存取控制薄弱,敏感文字資料可能會暴露。
後續步驟
- 在推出之前定義輸出格式、語氣和品質標準。
- 當準確性很重要時,請使用可信任來源進行地面回應。
- 為高風險輸出保留人工審查檢查點。
- 追蹤故障模式並定期重新訓練提示或工作流程。
資料來源與延伸閱讀
- Anthropic工具的使用原理
不斷探索
常見問題
模型是否僅透過命名來執行函數?
否。應用程式或工具提供者執行操作。必須處理、授權和檢查結構化請求。