概述
這些角色依賴領域專業知識、清晰的寫作、仔細的判斷和溝通。它們為非程式設計師提供了一種真正了解人工智慧系統如何建置、測試和部署的方法。
深入探討
存在幾種不同的非編碼路徑。人工智慧培訓師和資料註釋員。語言模型是透過人類編寫的範例和人類判斷來完善的。註釋者編寫理想的回應、對模型輸出進行排名、標記資料並標記有害內容。提供這項工作的平台包括 Scale AI(及其 Outlier 和 Remotasks 品牌)、DataAnnotation、Appen 和 TELUS Digital(以前稱為 TELUS International)。一般任務的報酬往往較低,而法律、醫學、數學或編碼等專業任務的報酬較高。大部分工作都是基於合約的,可能會在沒有警告的情況下枯竭。人工智慧評測專家。公司需要人們根據品質標準測試人工智慧輸出,找到失敗模式並編寫清晰的報告。人工智慧治理、風險和道德。法規和標準正在為這項工作創造需求。歐盟人工智慧法案於 2024 年通過,NIST 人工智慧風險管理架構於 2023 年發布,ISO/IEC 42001 作為人工智慧管理系統標準於 2023 年發布。這項工作涉及人工智慧使用政策、風險評估、模型清單、供應商審查和文件。人們通常來自合規、法律、隱私、審計或政策背景,IAPP 提供人工智慧治理認證 (AIGP)。 AI产品运营。該角色使已部署的人工智慧產品保持健康:分類使用者回饋、維護知識庫、協調審查和追蹤品質指標。解決方案顧問、客戶成功和支援。這些角色透過確定用例範圍、運行試點和培訓員工來幫助組織採用人工智慧工具。要闖入,請將您的領域專業知識與人工智慧素養結合起來,並產生可見的工作,例如您所在領域的人工智慧使用政策草案或無程式碼工作流程自動化。一種誤解是「不編碼」意味著不理解技術。您仍然需要了解模型如何運作以及它們在哪裡失敗。也要警惕那些宣傳「人工智慧培訓工作」並要求預付費用的騙局。合法平台不會向您收取工作費用。
現實世界的實施
一位前化學老師承擔合約工作,撰寫專家級科學問題並對其進行評分,這些問題用於訓練和評估語言模型。
一家銀行的合規官透過根據 NIST 人工智慧風險管理框架來映射銀行的人工智慧使用情況並建立每個正在使用的模型的清單,進入人工智慧治理領域。
營運經理成為人工智慧產品營運主管。他們對標記的聊天機器人答案運行審核流程,更新知識庫內容並向工程師報告錯誤趨勢。
一家軟體公司的銷售工程師專門幫助客戶推出人工智慧:確定用例範圍、運行試點以及培訓員工如何更好地使用這些工具。
無需編碼即可進入人工智慧的未來
對非編碼人工智慧角色的需求可能會改變而不是消失。隨著模型產生更多自己的訓練數據,通才註釋可能會縮小,而專業領域對專家評估員的需求可能會更好。隨著歐盟人工智慧法案等法規的逐步實施和組織機構正式監督,治理工作可能會增加,儘管確切的就業人數很難預測。採用和支援角色取決於組織部署人工智慧的速度。最持久的檔案結合了對某個領域的深入了解、強大的寫作和判斷力,以及對人工智慧系統行為方式的有效理解。
付諸實踐
為什麼這很重要
- 風險與安全. 災難性和日常的人工智慧危害都取決於誰了解風險以及誰能夠採取行動。
- 更明確的決策. 民眾和專業素養決定強而有力的安全政策在政治上是否可行。
- 突破炒作. 清晰的解釋可以減少炒作、實驗室公關和模糊道德劇場的影響。
留意
- 將存在風險視為科幻小說,同時能力複合。
- 混淆了表面產品安全與高度自治下的對準。
- 只給非英語和非專業觀眾留下低品質的資源。
後續步驟
- 單獨的產品危害、誤用和失控/失調風險。
- 詢問哪些證據會改變您對時間表和嚴重性的看法。
- 比起行銷主張,更喜歡主要來源和具體評估。
- 確定一條行動路徑:職業、政策、資金或技能——而不僅僅是意識。
不斷探索
常見問題
什麼是不編碼就進入人工智慧?
您可以透過人工智慧培訓師或資料註釋員、人工智慧評估專家、人工智慧治理和道德分析師、人工智慧產品營運以及人工智慧解決方案顧問或客戶成功等角色進入人工智慧領域,而無需編碼。這些角色依賴領域專業知識、清晰的寫作、仔細的判斷和溝通。它們為非程式設計師提供了一種真正了解人工智慧系統如何建置、測試和部署的方法。
指南中將其中哪些描述為非編碼人工智慧角色?
人工智慧治理和道德工作以政策、風險評估和文件為中心。它利用的是合規、法律和政策技能,而不是程式設計。
在 RLHF 中,人類評估者通常做什麼?
評估者的偏好判斷訓練了一個獎勵模型,該模型指導進一步的訓練以獲得更有用、更準確和更安全的輸出。
根據指南,哪些註釋任務往往報酬較高?
專業知識較少,因此專業註釋和評估通常比一般標籤支付更多費用。
標註平台上的金題有什麼用?
黃金問題有已知的答案,因此平台可以衡量註釋者是否準確並遵循標題。
該指南引用了 2023 年發布的哪個框架來幫助組織管理人工智慧風險?
NIST 於 2023 年發布了人工智慧風險管理框架。該指南將其與歐盟人工智慧法案和 ISO/IEC 42001 一起列為治理工作需求的驅動因素。