概述
一個有用的答案是詢問測量了什麼、在什麼條件下以及什麼證據支持結論。避免用同樣沒有根據的悲觀主義取代誇大的樂觀主義。
重點摘要
- 将主张与证据相匹配。
- 将流畅性与验证分开。
- 避免从孤立的例子中得出普遍的结论。
深入探討
一個誤解是流暢的答案就是經過驗證的答案。模型可以在不检查来源的情况下生成可信的散文。檢查證據並區分檢索到的事實和產生的添加內容。另一個神話是更多的數據或更大的模型可以保證改進。数据可能是不相关的或存在系统性缺陷,而较大的模型可能会增加成本而无法满足任务的需求。比较代表性评估和实际限制的替代方案。第三個誤解是自動化消除了人類的責任。人們仍然選擇目標、資料、介面、權限和部署條件。模型的推荐并不会让这些选择消失。最後,一次失敗或成功並不是完整的能力評估。令人印象深刻的演示可能會忽略困難的案例;一個錯誤可能並不表明該系統對每項任務都是無用的。使用可重複的測試,檢查故障模式,並在證據支持的範圍內提出主張。
04工作範例
重写过于宽泛的主张
从发明的声明开始:“该模型的准确度为 95%,因此它可以处理每个支持请求。”
詢問哪些請求經過了測試,準確性如何評分,以及是否包括罕見或無法回答的情況。
將聲明替換為測試任務、範例、設定和已知限制的描述。
它顯示了什麼
這個練習將籠統的陳述變成了可以檢查的主張。
現實世界的實施
詢問供應商準確性聲明背後的評估設定。
檢查演示是否使用了描述中省略的工具或上下文。
付諸實踐
為什麼這很重要
- 風險與安全. 災難性和日常的人工智慧危害都取決於誰了解風險以及誰能夠採取行動。
- 更明確的決策. 民眾和專業素養決定強而有力的安全政策在政治上是否可行。
- 突破炒作. 清晰的解釋可以減少炒作、實驗室公關和模糊道德劇場的影響。
留意
- 將存在風險視為科幻小說,同時能力複合。
- 混淆了表面產品安全與高度自治下的對準。
- 只給非英語和非專業觀眾留下低品質的資源。
後續步驟
- 單獨的產品危害、誤用和失控/失調風險。
- 詢問哪些證據會改變您對時間表和嚴重性的看法。
- 比起行銷主張,更喜歡主要來源和具體評估。
- 確定一條行動路徑:職業、政策、資金或技能——而不僅僅是意識。
資料來源與延伸閱讀
- NIST生成式人工智慧風險概況
不斷探索
常見問題
一種幻覺是否意味著人工智慧毫無用處?
不。它表明在特定条件下发生故障。相關問題是系統是否可以透過適當的評估和控制來滿足既定任務的要求。