概述
它們涵蓋排名、選擇、推播和檢索等推薦服務,其職責因提供者和服務而異。這些規則涉及用戶控制、工人保護、內容治理、透明度和演算法價格歧視。
深入探討
國家網信辦等三部門發布《網路資訊服務演算法推薦管理規定》。該規則於2022年3月1日生效。此規則適用於使用演算法推薦技術提供服務的網路資訊服務供應商,包括合成內容、個人化推播、排名、搜尋過濾和工作調度。覆蓋範圍取決於指定的服務和行為,而不是任何機器學習的使用。 《規定》要求提供者以顯著方式告知使用者正在使用建議服務,並適當揭露推薦服務的基本原理、目的和主要運作機制。他們需要一個不針對使用者個人特徵的選項,或是一種關閉推薦服務的便利方法;使用者選擇退出後,相關服務必須停止。用戶還必須能夠選擇或刪除用於推薦的個人標籤。這些規定針對未成年人和老年人,並對具有公眾輿論或社會動員能力的提供者施加額外的治理。與工作相關的規則適用於使用推薦演算法來安排工作或確定薪酬的平台。他們呼籲改善調度、薪資、工作時間和休息保障,並讓工人代表或工會參與相關安排。禁止在沒有正當理由的情況下,基於消費者偏好、交易習慣或其他特徵,在包括價格在內的交易條件上實行不合理的差別待遇。這就是俗語「大數據殺死熟悉的人」的背景,但法律檢驗應該從文字而不是口號進行。提供者在演算法安全、記錄、評估以及與監管機構合作方面負有進一步的義務。部分提供者必須向網信辦完成演算法備案並公佈備案資訊。這是一項具體的行政備案製度;它不是每個人工智慧模型都需要的通用許可證。這些規定屬於中國更廣泛的網路內容和資料治理體系。評估風險的公司應檢查服務功能、使用者位置、提供者角色、備案狀態以及可能適用的後續規則。
現實世界的實施
涵蓋的應用程式提供了一個明確的選項來關閉推薦服務或選擇不基於個人特徵的提要。
平台為使用者提供了一種管理或刪除用於塑造個人化內容的興趣標籤的方法。
配送平台評估排程和補償規則對快遞員休息、薪資和工作量的影響。
服務會根據使用者的個人特徵審查是否對可比較產品使用不同的交易價格。
中國演算法推薦規定的未來
中國繼續制定可能與 2022 年建議條款重疊的人工智慧和線上服務規則。網信辦於2026年7月公佈《互聯網資訊服務管理辦法》修訂草案,向社會公開徵求意見;除非並直至通過最終措施,否則將其視為提案。在中國運作時,監控官方 CAC 通知、保留控制性中文文字並獲取特定司法管轄區的建議。機器翻譯可能會錯過定義的術語或歸檔觸發器。重新檢查草案是否在重大發布或服務變更之前最終確定,並根據推薦規則評估任何新措施。
付諸實踐
為什麼這很重要
- 風險與安全. 災難性和日常的人工智慧危害都取決於誰了解風險以及誰能夠採取行動。
- 更明確的決策. 民眾和專業素養決定強而有力的安全政策在政治上是否可行。
- 突破炒作. 清晰的解釋可以減少炒作、實驗室公關和模糊道德劇場的影響。
留意
- 將存在風險視為科幻小說,同時能力複合。
- 混淆了表面產品安全與高度自治下的對準。
- 只給非英語和非專業觀眾留下低品質的資源。
後續步驟
- 單獨的產品危害、誤用和失控/失調風險。
- 詢問哪些證據會改變您對時間表和嚴重性的看法。
- 比起行銷主張,更喜歡主要來源和具體評估。
- 確定一條行動路徑:職業、政策、資金或技能——而不僅僅是意識。
不斷探索
常見問題
中國的演算法推薦規定是什麼?
中國《網際網路資訊服務演算法推薦管理規定》於2022年3月1日生效。該規定涵蓋排名、精選、推播、檢索等推薦服務,不同提供者和服務的職責有所不同。這些規則涉及用戶控制、工人保護、內容治理、透明度和演算法價格歧視。
中國的演算法推薦規定什麼時候生效?
網信辦公室官方公告稱,該規定自2022年3月1日起生效。
哪些服務明確屬於條款的推薦類別?
規則包括個人化推送、排序選擇、搜尋過濾等列出推薦功能。
涵蓋的提供者必須在個人化方面提供什麼選擇?
這些規定要求其中一項使用者控制,並要求相關服務在選擇退出後停止。
用戶關閉推薦服務後會發生什麼事?
該規定規定,用戶選擇關閉相關服務後,提供者應立即停止提供相關服務。
哪個話題受到平台工作者的特別關注?
這些規定涉及影響工人權益的演算法調度和補償安排。