概述
人工智慧工程是在現有基礎模型之上建立產品,而不是從頭開始訓練模型。這使得它成為軟體開發人員進入人工智慧工作最容易的途徑之一。
深入探討
「AI 工程師」一詞因 Shawn Wang(又名 swyx)在 2023 年發表的一篇文章《AI 工程師的崛起》而流行起來。它描述了在基礎模型之上建立應用程式的開發人員。該角色不同於訓練和部署模型的機器學習工程師,也不同於專注於分析和統計的資料科學家。實用的路線圖有七個階段。 1. 編程基礎。學習Python、git、HTTP和JSON、環境變數和基本SQL。 TypeScript 有助於建立 Web 介面。 2. 法學碩士基礎知識。了解代幣、上下文視窗、溫度、定價以及模型構成的原因。呼叫 OpenAI、Anthropic 和 Google 等供應商的 API,並使用 Ollama 等工具在本地運行開放權重模型。學習流式輸出和結構化輸出。 3.提示。編寫清晰的說明、使用範例並使用模式強制輸出格式。 4. 檢索增強生成(RAG)。學習分塊、嵌入和向量搜尋、添加關鍵字匹配、重新排名和引用的混合搜尋。 5.工具和代理。學習函數呼叫、多步驟循環和模型上下文協議,這是 2024 年末推出的開放標準 Anthropic,用於將模型連接到工具和資料。添加護欄和限制。 6. 評估和可觀察性。建立測試集,使用自動分級器,追蹤每個請求並在部署之前捕獲回歸。 7. 生產。建立 API(例如使用 FastAPI),然後處理快取、速率限制、成本控制和安全性,尤其是提示注入。 Fine-tuning、PyTorch和機器學習理論後面會有用,但不是必須開始的。有兩種常見的誤解。您不需要博士學位或高等數學才能開始。您確實需要紮實的軟體工程,因為大多數失敗都是普通的錯誤、資料問題或缺少測試。 LangChain 等框架是可選的。首先學習原始 API 可以讓以後調試任何框架變得更容易。
現實世界的實施
入門專案:一個腳本,將貼上的文章發送到 LLM API,並傳回帶有標題、摘要和三個關鍵點的 JSON,並在儲存之前根據架構進行檢查。
檢索項目:一個回答有關城市公共章程問題的聊天機器人。它將 PDF 分割成區塊,使用 pgvector 將嵌入儲存在 Postgres 中,並引用每個答案後面的部分。
一個工具呼叫助手,可以讀取請求、呼叫天氣 API 和日曆 API,並提出時間表,並進行測試,涵蓋任一 API 逾時時會發生什麼情況。
評估工具:針對章程聊天機器人的 100 個標記問題,用於評估是否檢索正確的部分以及答案是否忠實於它,在每次程式碼變更時自動執行。
如何成為人工智慧工程師的未來
人工智慧工程仍在快速變化。模型功能、價格和工具經常發生變化,因此基本原理比任何特定框架的持續時間更長:乾淨的軟體設計、仔細的資料處理、評估規則和安全意識。採取許多步驟和控制軟體的代理越來越受到關注,這提高了測試、監控和權限設計的重要性。如今,一些需要自訂管道的任務可能會被吸收到模型平台中。無論工具變得如何,能夠定義品質、測量品質並交付可靠系統的工程師都可能保持價值。將任何路線圖視為每隔幾個月修改一次的起點。
付諸實踐
為什麼這很重要
- 成本與預算. 多年來,架構決策決定著效能和營運成本。
- 更明確的決策. 技術教育幫助團隊選擇正確的堆疊,而不僅僅是最新的堆疊。
- 品質管控. 更好的工程選擇可以減少生產中的可靠性事故。
留意
- 優化一項基準測試可以隱藏更廣泛的系統弱點。
- 基礎設施和維護成本常常被低估。
- 隨著系統變得更加複雜,安全性和可觀察性差距可能會擴大。
後續步驟
- 在實施之前定義延遲、品質和成本目標。
- 在實際負載和資料條件下進行基準測試。
- 儀器監控錯誤、漂移和使用者影響。
- 在擴展之前準備回滾和事件回應路徑。
不斷探索
常見問題
什麼是如何成為人工智慧工程師?
要成為一名人工智慧工程師,需要學習 Python(最好是 TypeScript),學習調用大型語言模型 API,然後透過檢索增強生成、工具調用和系統評估來建立難度逐漸加大的應用程序,並將其作為組合項目發布。人工智慧工程是在現有基礎模型之上建立產品,而不是從頭開始訓練模型。這使得它成為軟體開發人員進入人工智慧工作最容易的途徑之一。
根據該指南,人工智慧工程師的關注點與機器學習工程師的關注點有何不同?
人工智慧工程的重點是透過 API、檢索、工具和評估使用現有模型建立產品。訓練模型通常是機器學習工程師的領域。
為什麼指南建議先學習原始 LLM API,然後再學習 LangChain 等框架?
了解抽象背後發生的情況可以讓您在框架行為異常時診斷問題。
什麼是模型上下文協定?
該指南將 MCP 描述為 Anthropic 於 2024 年末推出的開放標準,用於將模型連接到外部工具和資料來源。
在 RAG 管道中,攝取過程中會發生什麼?
攝取透過將文件分割成區塊、將它們轉換為嵌入並將它們與元資料一起儲存以供以後檢索來準備知識庫。
為什麼系統可以在向量搜尋的同時運行 BM25 關鍵字搜尋?
混合搜尋將嵌入的語義相似性與精確的術語匹配相結合,這有助於搜尋名稱、代碼和特定術語。