歐盟人工智慧法案
歐盟人工智慧法案是世界上第一部監管人工智慧的綜合法律，它將人工智慧系統劃分為風險等級，其規則隨著危險的增加而擴大。
概述
It matters because it sets a de facto global standard that any company selling AI into the EU must follow.
深入探討
歐盟人工智慧法案於 2024 年通過，採用基於風險的方法。它徹底禁止了一些「不可接受的風險」做法，例如政府社會評分、操縱性潛意識技術以及無針對性地抓取臉部資訊以建立識別資料庫。 「高風險」系統，例如用於招聘、信用評分、醫療設備或關鍵基礎設施的人工智慧，面臨嚴格的義務：風險管理、高品質數據、人工監督、記錄和市場准入前的合格評估。像聊天機器人這樣的「有限風險」工具必須簡單地揭露用戶正在與人工智慧進行互動。通用人工智慧模型，包括大型語言模型，具有自己的透明度和文件職責，並對最有能力的「系統風險」模型進行額外審查。罰款最高可達 3,500 萬歐元，即全球營業額的 7%。
技術洞察
該法案按用例而非演算法進行監管。根據具體情況，同一模型在一種產品中可能是低風險的，而在另一種產品中可能是高風險的。高風險提供者必須維護技術文檔，保留自動事件日誌以實現可追溯性，確保資料集的相關性和代表性以限制偏見，並建立有意義的人工監督。對於通用模型，提供者發布訓練資料摘要，並在計算閾值（10^25 FLOPs）之上進行模型評估和對抗性測試。
戰略影響
風險與安全
災難性和日常的人工智慧危害都取決於誰了解風險以及誰能夠採取行動。
更明確的決策
民眾和專業素養決定強而有力的安全政策在政治上是否可行。
突破炒作
清晰的解釋可以減少炒作、實驗室公關和模糊道德劇場的影響。
歐盟人工智慧法案的未來
該法案將在幾年內分階段實施：禁止行為禁令於 2025 年初首次實施，隨後通用模型規則得以實施，大多數高風險義務將在 2026 年至 2027 年落實。預計 CEN-CENELEC 會制定統一的技術標準，準確定義如何衡量合規性，並為新創公司提供監管沙箱。與先前的 GDPR 一樣，隨著其他司法管轄區借鑒其風險等級結構，該法案可能會在全球範圍內製定人工智慧法律，儘管批評者仍在爭論它是否會減緩歐洲的創新。
現實世界的實施
部署人工智慧信用評分工具的銀行必須記錄其訓練數據，測試偏差，並讓人類能夠審查和推翻自動貸款拒絕。
使用人工智慧對醫療掃描進行分類的醫院必須通過合格評定，並在臨床使用前在歐盟資料庫中註冊高風險系統。
根據有限風險透明度規則，客戶服務聊天機器人必須清楚地告訴用戶他們正在與人工智慧而不是人工代理交談。
超過計算閾值的大型語言模型的製造者必須運行對抗性紅隊測試並向歐盟人工智慧辦公室報告嚴重事件。
風險與防護欄
將存在風險視為科幻小說，同時能力複合。
混淆了表面產品安全與高度自治下的對準。
只給非英語和非專業觀眾留下低品質的資源。
實施路線圖
單獨的產品危害、誤用和失控/失調風險。
詢問哪些證據會改變您對時間表和嚴重性的看法。
比起行銷主張，更喜歡主要來源和具體評估。
確定一條行動路徑：職業、政策、資金或技能——而不僅僅是意識。
不斷探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the EU AI Act quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常見問題
What is EU AI Act?
歐盟人工智慧法案是世界上第一部監管人工智慧的綜合法律，它將人工智慧系統劃分為風險等級，其規則隨著危險的增加而擴大。這很重要，因為它設定了事實上的全球標準，任何向歐盟銷售人工智慧的公司都必須遵循。
歐盟人工智慧法案使用什麼組織原則來制定規則？
該法案根據用例和潛在危害，而不是根據公司規模或演算法類型，將人工智慧分為風險等級（不可接受、高、有限、最小）。
其中哪一項是該法案徹底禁止的「不可接受的風險」做法？
政府社會評分是被禁止的做法之一，此外還有操縱性的潛意識技術和無針對性的臉部辨識抓取。
像聊天機器人這樣的「有限風險」系統的主要義務是什麼？
有限風險系統主要承擔透明度職責，例如告訴使用者他們正在與人工智慧而不是人類打交道。
歐盟人工智慧法案規定的最高罰款是多少？
對於最嚴重的違規行為，最高罰款可達 3,500 萬歐元或全球年營業額的 7%，以較高者為準。
該法案如何處理兩種不同產品中使用的相同人工智慧模式？
由於該法案按用例進行監管，因此一種模型在招聘工具中可能具有高風險，但在不同的應用程式中可能具有低風險。