概述
它於 2024 年 12 月通過並於 2026 年 1 月生效,被廣泛描述為亞洲第一部全面的人工智慧框架法。這對於向韓國用戶提供人工智慧產品的任何公司(無論是外國公司還是國內公司)都很重要,因為它增加了標籤、風險管理和當地代表的義務。
深入探討
該法的全名是《人工智慧發展與建立信任框架法》。國民議會於 2024 年 12 月 26 日通過了該法案,合併了許多先前的法案,並於 2025 年 1 月頒布,生效日期為 2026 年 1 月 22 日。科學和資訊通信技術部 (MSIT) 是牽頭機構,許多細節,例如門檻和準確的標籤方法,由總統執行令和部會指南規定。該法案分為兩部分。推動一半要求每三年制定一次國家人工智慧基本規劃,支援人工智慧資料中心、培訓資料、新創公司和人才,並為國家人工智慧委員會和人工智慧安全研究所等機構提供法律依據。該信託基金將「高影響力人工智慧」定義為可能對人類生命、人身安全或所列領域的基本權利產生重大影響的系統,包括能源供應、飲用水、醫療保健和醫療設備、核設施、刑事調查中的生物識別分析、招聘和信貸決策、交通、關鍵公共服務和學生評估。此類系統的運營商必須實施風險管理、解釋措施、使用者保護和人工監督,並保存文件。對於生成式人工智慧,企業必須事先通知使用者產品運作在生成式人工智慧上,並將輸出標記為人工智慧產生;與現實難以區分的內容,例如 Deepfakes,必須明確標示。超過規定門檻的外國企業必須指定一名國內代表。一個常見的誤解是它抄襲了歐盟人工智慧法案。它藉鑒了基於風險的想法,但沒有禁止行為清單,而且罰款也很少:對於未標記或指定代表等違規行為,行政罰款上限為 3000 萬韓元。政府也表示在積極實施罰款之前有一段寬限期。
現實世界的實施
一家韓國銀行使用人工智慧來篩選貸款申請人,將該系統視為高影響力的人工智慧,因此它記錄了風險管理措施,在可行的情況下解釋了結果背後的主要標準,並保持了人工監督。
提供人工智慧換臉功能的視訊應用程式必須事先告訴用戶該服務使用生成式人工智慧,並清楚標記生成的深度偽造內容,以便觀看者可以將其識別為人造內容。
一家滿足法令規定的用戶或收入門檻的美國大型人工智慧公司在韓國任命一名國內代表,處理與科學和資訊通信技術部的合規溝通。
部署支援診斷決策的人工智慧工具的醫院會審查其是否屬於高影響力人工智慧的醫療保健類別,並準備一份涵蓋對患者權利影響的影響評估。
韓國人工智慧基本法案的未來
該法案的大部分實際意義取決於執行法令和指南,政府一直在根據行業反饋不斷完善這些法令和指南。預計關於高影響力類別在實踐中的範圍有多大、文字與圖像和影片的標籤如何運作,以及寬限期後何時實際執行罰款等問題,預計將繼續存在爭論。韓國將該法律制定為支持其成為人工智慧領先國家的雄心,因此計算基礎設施等促進措施可能會受到與限制措施一樣多的關注。在亞洲營運的公司將關注其他政府是否採用類似的框架法律。
付諸實踐
為什麼這很重要
- 風險與安全. 災難性和日常的人工智慧危害都取決於誰了解風險以及誰能夠採取行動。
- 更明確的決策. 民眾和專業素養決定強而有力的安全政策在政治上是否可行。
- 突破炒作. 清晰的解釋可以減少炒作、實驗室公關和模糊道德劇場的影響。
留意
- 將存在風險視為科幻小說,同時能力複合。
- 混淆了表面產品安全與高度自治下的對準。
- 只給非英語和非專業觀眾留下低品質的資源。
後續步驟
- 單獨的產品危害、誤用和失控/失調風險。
- 詢問哪些證據會改變您對時間表和嚴重性的看法。
- 比起行銷主張,更喜歡主要來源和具體評估。
- 確定一條行動路徑:職業、政策、資金或技能——而不僅僅是意識。
不斷探索
常見問題
韓國的人工智慧基本法案是什麼?
韓國的《人工智慧基本法》是一部綜合性國家法律,既促進人工智慧產業發展,也規定了信任和安全義務,特別是針對「高影響力」人工智慧和生成式人工智慧。它於 2024 年 12 月通過並於 2026 年 1 月生效,被廣泛描述為亞洲第一部全面的人工智慧框架法。這對於向韓國用戶提供人工智慧產品的任何公司(無論是外國公司還是國內公司)都很重要,因為它增加了標籤、風險管理和當地代表的義務。
韓國人工智慧基本法什麼時候生效?
2024年12月通過,2025年1月發布,2026年1月22日實施。
哪個部門領導法案的實施?
MSIT 是牽頭機構,負責與政府發布指導和法令。
是什麼讓人工智慧系統根據該法案具有「高影響力」?
這個定義將醫療保健、招聘和信貸等列出的領域與可能對生命、安全或權利產生重大影響的領域結合起來。
根據該法案,生成式人工智慧服務必須做什麼?
提前通知和輸出標籤是產生人工智慧的核心職責,對類似深度偽造的內容有明確的指示。
哪些外國企業必須任命國內代表?
此義務適用於超過執行令規定門檻的外國企業。