概述
好處和壞處不一定是平等分享的。評估需要考慮訪問、權力、責任、圍繞技術所做的選擇以及技術性能。
重點摘要
- 將受影響的非使用者納入分析中。
- 評估訪問和挑戰結果的能力。
- 衡量實際影響並修改系統。
深入探討
確定受影響的人員,包括不直接使用系統的人員。自動化服務可以改變獲得幫助的方式、人們看到的資訊或員工期望的工作。仅测量操作员的效率可能会忽略这些影响。考慮分配和參與。語言覆蓋範圍、殘疾人無障礙、連結性、成本和挑戰結果的能力可以決定誰受益。在定義問題和評估建議的解決方案時諮詢受影響的社區。資訊環境需要特別小心。產生的內容可以增加對解釋的訪問,同時也放大誤導性材料。出處、更正和透明的證據可以幫助讀者評估聲明,而無需盲目信任平台。 Treat governance as a continuing process.追蹤實際結果、調查投訴並在用途或影響發生變化時修改系統。避免假設一種模型改進會自動產生廣泛的社會成果。制度和政策選擇決定了能力的部署方式以及誰承擔後果。
04工作範例
包括普通用戶之外的人
想像一下,一項服務將重要的幫助轉移到純人工智慧聊天介面。
测试连接不可靠、不常见问题和辅助技术的用户的体验。
衡量是否仍有工作人員或替代路線可用,以及未解決的案件是否有有效的後續追蹤。
它顯示了什麼
建構的範例將評估從平均互動速度擴展到存取和問責制。
現實世界的實施
評估跨語言和無障礙需求的公共資訊服務。
發布更正程序和來源連結以及產生的解釋。
付諸實踐
為什麼這很重要
- 風險與安全. 災難性和日常的人工智慧危害都取決於誰了解風險以及誰能夠採取行動。
- 更明確的決策. 民眾和專業素養決定強而有力的安全政策在政治上是否可行。
- 突破炒作. 清晰的解釋可以減少炒作、實驗室公關和模糊道德劇場的影響。
留意
- 將存在風險視為科幻小說,同時能力複合。
- 混淆了表面產品安全與高度自治下的對準。
- 只給非英語和非專業觀眾留下低品質的資源。
後續步驟
- 單獨的產品危害、誤用和失控/失調風險。
- 詢問哪些證據會改變您對時間表和嚴重性的看法。
- 比起行銷主張,更喜歡主要來源和具體評估。
- 確定一條行動路徑:職業、政策、資金或技能——而不僅僅是意識。
資料來源與延伸閱讀
- UNESCO關於人工智慧倫理的建議
不斷探索
常見問題
相同的 AI 技術在世界各地都會產生相同的社會影響嗎?
不會。機構、資源、語言、政策和部署選擇可能會產生截然不同的結果。