社團指南

歐洲委員會人工智慧框架公約

《歐洲委員會人工智慧與人權、民主和法治框架公約》是第一個具有法律約束力的人工智慧國際條約。

聆聽此指南AI 語音敘述 · ~3 min

本頁4 分鐘閱讀
  1. 概述
  2. 深入探討
  3. 現實世界的實施
  4. 歐洲委員會人工智慧框架公約的未來
  5. 付諸實踐
  6. 不斷探索
  7. 常見問題

概述

批准該協議的國家必須確保在其整個生命週期中使用的人工智慧系統尊重人權、民主進程和法治。這很重要,因為它規定了超越歐洲的共同法律義務,歐洲以外的國家也可以加入。

深入探討

該公約是由歐洲委員會人工智慧委員會(CAI)談判達成的。歐洲委員會的46個成員國以及歐盟和美國、加拿大、日本、以色列和澳洲等觀察員國參加了這次會議。部長委員會於2024年5月17日通過了該文本,並於2024年9月5日在維爾紐斯開放簽署。首批簽署國包括英國、美國、歐盟、挪威、以色列、冰島、喬治亞、摩爾多瓦、安道爾和聖馬利諾,以及後來簽署的其他國家。它在五個國家批准後生效,其中至少三個必須是歐洲委員會成員國。該條約制定了一般原則,而不是詳細的技術規則。這些原則是人的尊嚴和個人自主、平等和非歧視、隱私和個人資料保護、透明度和監督、問責和責任、可靠性和安全創新。各方也必須提供補救措施。這意味著記錄有關人工智慧系統的相關信息,讓人們質疑決策,提供程序保障,並在人們處理人工智慧系統時告訴他們。範圍是一個妥協。該條約完全適用於公共當局和代表其行事的私人行為者。對於其餘私營部門,各方可以直接適用條約義務或採取其他適當措施。保護國家安全的活動被排除在外,國防以及尚未投入使用的系統的研發活動也被排除在外。一個常見的誤解是該條約是《歐盟人工智慧法案》的副本。 《人工智慧法案》是一項歐盟法規,它將系統劃分為風險等級並設定產品安全類型的義務。該公約是一項國際人權文書。歐盟簽署了該法案,並主要依靠《人工智慧法案》和現有歐盟法律來履行其職責。

現實世界的實施

使用人工智慧工具來標記福利詐欺的政府機構需要風險和影響評估、文件以及一種讓受影響的人質疑嚴重影響其權利的決策的方法。

與公共服務聊天機器人交談的公民應該被告知,他們正在與人工智慧系統而不是人類互動。

批准國可能會決定在招聘中使用人工智慧的私人公司必須直接滿足條約的原則,或者可能會採取其他適當的措施來實現相同的目標。

擔心人工智慧驅動的假訊息的選舉當局可以指出,條約在設計保障措施時有責任保護民主進程的完整性。

歐洲委員會人工智慧框架公約的未來

公約的重要性將取決於批准情況以及各國對待私部門的嚴格程度。選擇「其他適當措施」的國家的實施方式可能與直接應用於公司的國家截然不同。締約方大會和 HUDERIA 等工具可以慢慢建立共同期望,就像歐洲委員會早期條約在資料保護方面所做的那樣。關注哪些非歐洲國家批准了它,國家法院如何使用它,以及它如何與歐盟人工智慧法案和國家人工智慧法律相互作用。其影響範圍廣泛,但執行依賴國家體係而不是國際監管機構。

付諸實踐

為什麼這很重要

  • 風險與安全. 災難性和日常的人工智慧危害都取決於誰了解風險以及誰能夠採取行動。
  • 更明確的決策. 民眾和專業素養決定強而有力的安全政策在政治上是否可行。
  • 突破炒作. 清晰的解釋可以減少炒作、實驗室公關和模糊道德劇場的影響。

留意

  • 將存在風險視為科幻小說,同時能力複合。
  • 混淆了表面產品安全與高度自治下的對準。
  • 只給非英語和非專業觀眾留下低品質的資源。

後續步驟

  1. 單獨的產品危害、誤用和失控/失調風險。
  2. 詢問哪些證據會改變您對時間表和嚴重性的看法。
  3. 比起行銷主張,更喜歡主要來源和具體評估。
  4. 確定一條行動路徑:職業、政策、資金或技能——而不僅僅是意識。

不斷探索

免費電子報

獲取每日 AI 簡報

每個工作日上午提供三則經過驗證的 AI 新聞,以淺顯易懂的英文撰寫。永久免費,無廣告。

每個工作日一封電子郵件。一鍵取消訂閱。我們絕不出售或分享您的地址。

測試一下自己

Take the Council of Europe Framework Convention on AI quiz

每個答案皆有即時回饋,通過課程後可獲得具備可驗證 ID 的可分享證書。

開始測驗

支持免費的 AI 教育。AI Understanding 是一個 501(c)(3) 非營利組織——絕無廣告,絕無付費牆。 捐款

常見問題

什麼是歐洲委員會人工智慧框架公約?

《歐洲委員會人工智慧與人權、民主和法治框架公約》是第一個具有法律約束力的人工智慧國際條約。批准該協議的國家必須確保在其整個生命週期中使用的人工智慧系統尊重人權、民主進程和法治。這很重要,因為它規定了超越歐洲的共同法律義務,歐洲以外的國家也可以加入。

是什麼讓歐洲委員會人工智慧框架公約在歷史上引人注目?

該公約是第一個對批准國具有約束力的國際人工智慧條約。自願準則和歐盟法規是不同類型的文書。

該公約於 2024 年 9 月在哪裡開放簽署?

該協議於 2024 年 9 月 5 日在立陶宛維爾紐斯舉行的歐洲委員會部長級會議期間開放簽署。

該條約如何處理不代表公共當局行事的私人公司?

這是經過談判達成的妥協方案。公共部門已全面覆蓋,每個州都可以選擇如何解決其他私營部門人工智慧的使用問題。

哪些活動被排除在條約範圍之外?

保護國家安全和國防事務的活動不包括在內。尚未投入使用的系統的研發也是如此。

HUDERIA是什麼?

CAI 採用 HUDERIA 來幫助評估人工智慧對人權、民主和法治的影響。它是指導,而不是條約的具有約束力的部分。