社團指南

工作場所中的影子人工智慧

影子人工智慧是指員工在組織不知情或未經批准的情況下使用人工智慧工具,例如個人聊天機器人帳戶、瀏覽器擴充功能或未經批准的應用程式中的人工智慧功能。

聆聽此指南AI 語音敘述 · ~3 min

本頁4 分鐘閱讀
  1. 概述
  2. 深入探討
  3. 現實世界的實施
  4. 影子人工智慧在工作場所的未來
  5. 付諸實踐
  6. 不斷探索
  7. 常見問題

概述

這很重要,因為機密資料可能會透過提示和上傳離開公司,而合規義務可能會在沒有人注意到的情況下被違反。彻底的禁令往往会将使用进一步推向地下,而不是阻止它。

深入探討

影子人工智慧的發展源自於一個簡單的差距:人工智慧工具有用、便宜,只需瀏覽器標籤即可找到,而經批准的替代方案往往缺失或能力較差。大多數使用未經批准的人工智慧的員工並不是惡意的。他们试图加快编写速度、分析数据或修复代码。這個術語緊跟著“影子IT”,它描述未經批准的軟體和雲端服務,但人工智慧提高了風險,因為重點是粘貼到實際工作內容中。風險分為幾類。首先是資料外洩。提示和上传的文件可能由提供商存储,并根据服务和设置用于改进模型。消費者層和企業層通常不同,主要提供者的業務產品通常預設將客戶資料排除在培訓之外。最有名的案例就是三星。根據報道,2023 年工程師將機密原始碼和會議記錄輸入到 ChatGPT,然後三星限制了生成式 AI 在公司設備上的使用。二是合規性。與沒有合約的處理者共享個人資料可能違反 GDPR 等隱私法,並且受監管部門有額外的規則。第三是品質和責任。未经审查的人工智能输出最终可能会出现在客户工作中,而没有其来源记录。第四是工具本身,例如需要廣泛權限的擴充和插件。管理影子人工智能的组织倾向于使用多种措施而不是禁令。他们提供经过批准的企业工具和合适的数据术语。他們編寫了一份簡短的可接受使用政策,將數據分為哪些可以進入人工智慧工具,哪些不能進入人工智慧工具。他们使用数据丢失预防和人工智能领域监控等技术控制。它們為人們提供了一種快速獲取新工具的方法。一個常見的誤解是,阻止一個流行的聊天機器人可以解決問題。存在數百種人工智慧服務和嵌入式功能,員工可以使用個人電話。

現實世界的實施

工程師將專有原始程式碼貼到個人聊天機器人帳戶中以查找錯誤。這與三星 2023 年報告的導致該公司限制產生人工智慧工具的事件類似。

招募人員將候選人姓名、薪資和麵試筆記的電子表格上傳到免費的人工智慧工具進行總結,將個人資料發送給沒有簽訂資料處理協議的提供者。

行銷協調員安裝了一個人工智慧寫作瀏覽器擴充程序,該擴充功能可以讀取她打開的每個網頁的內容,包括內部儀表板。

醫院管理員使用未經批准的轉錄應用程式來總結討論病患病例的會議,這造成了健康隱私合規風險。

影子人工智慧在工作場所的未來

隨著人工智慧功能內建於辦公室套件、瀏覽器和作業系統等普通軟體中,批准的人工智慧和影子人工智慧之間的界限將變得模糊。問題在於哪些人工智慧功能被打開以及在什麼資料條件下被打開,而不是員工造訪哪些網站。可以根據數據採取行動的自主代理進一步提高了風險。組織可能會轉向人工智慧治理計劃,以清點工具、對資料進行分類並培訓員工,而不是依賴網路區塊。歐盟人工智慧法案等法規增加了某些用途的義務,這增加了了解人工智慧實際使用情況的必要性。

付諸實踐

為什麼這很重要

  • 風險與安全. 災難性和日常的人工智慧危害都取決於誰了解風險以及誰能夠採取行動。
  • 更明確的決策. 民眾和專業素養決定強而有力的安全政策在政治上是否可行。
  • 突破炒作. 清晰的解釋可以減少炒作、實驗室公關和模糊道德劇場的影響。

留意

  • 將存在風險視為科幻小說,同時能力複合。
  • 混淆了表面產品安全與高度自治下的對準。
  • 只給非英語和非專業觀眾留下低品質的資源。

後續步驟

  1. 單獨的產品危害、誤用和失控/失調風險。
  2. 詢問哪些證據會改變您對時間表和嚴重性的看法。
  3. 比起行銷主張,更喜歡主要來源和具體評估。
  4. 確定一條行動路徑:職業、政策、資金或技能——而不僅僅是意識。

不斷探索

免費電子報

獲取每日 AI 簡報

每個工作日上午提供三則經過驗證的 AI 新聞,以淺顯易懂的英文撰寫。永久免費,無廣告。

每個工作日一封電子郵件。一鍵取消訂閱。我們絕不出售或分享您的地址。

測試一下自己

Take the Shadow AI in the Workplace quiz

每個答案皆有即時回饋,通過課程後可獲得具備可驗證 ID 的可分享證書。

開始測驗

支持免費的 AI 教育。AI Understanding 是一個 501(c)(3) 非營利組織——絕無廣告,絕無付費牆。 捐款

常見問題

什麼是工作場所中的影子人工智慧?

影子人工智慧是指員工在組織不知情或未經批准的情況下使用人工智慧工具,例如個人聊天機器人帳戶、瀏覽器擴充功能或未經批准的應用程式中的人工智慧功能。這很重要,因為機密資料可能會透過提示和上傳離開公司,而合規義務可能會在沒有人注意到的情況下被違反。彻底的禁令往往会将使用进一步推向地下,而不是阻止它。

什麼是影子AI?

影子人工智慧是未經批准的人工智慧使用,例如個人聊天機器人帳戶、擴充功能或未經批准的人工智慧功能。

與一般影子IT相比,為什麼人工智慧的風險更大?

人工智慧的價值來自於為其提供真實的工作內容,這直接造成了資料暴露風險。

2023年三星發生了什麼事?

據報道,機密原始碼和會議記錄被輸入到 ChatGPT,這導致公司設備受到限制。

根據該指南,主要人工智慧提供者的業務產品通常預設為做什麼?

業務層通常預設將客戶資料排除在培訓之外,這是批准的企業工具降低風險的原因之一。

為什麼指南說徹底禁止往往會失敗?

阻止一个聊天机器人会留下多种选择,员工可以切换到个人设备,因此使用会继续不被发现。