概述
其拟议的《人工智能和数据法案》(AIDA) 是 C-27 法案的一部分,本来可以监管高影响力的人工智能系统,但在 2025 年 1 月议会休会时被废除。如今,加拿大的人工智能受隐私法(PIPEDA 和省级法律)、政府自动化决策联邦指令、人权和消费者法以及生成人工智能自愿守则的管辖。任何在加拿大建造或購買人工智慧的人都需要知道其中哪一個真正適用。
深入探討
AIDA 于 2022 年 6 月作为 C-27 法案(《数字宪章实施法》)的第 3 部分推出,同时还有新的私营部门隐私法(《消费者隐私保护法》)和数据法庭。其核心理念是規範國際和省際貿易中的「高影響力體系」。设计、提供或管理此类系统的公司必须评估和减轻损害和偏见输出的风险,保存记录,监控系统并发布简单语言描述。创新、科学和工业部长将在新任人工智能和数据专员的帮助下执行该法案,该法案包括对故意部署人工智能造成严重伤害等行为的行政处罚和刑事犯罪。批評者提出了三個反覆出現的問題。首先,原文將「高影響力」的定義留給了未來的法規,因此企業無法判斷所涵蓋的內容。其次,監管機構隸屬於促進人工智慧產業發展的部門,引發了獨立性擔憂。第三,在提交之前幾乎沒有進行公眾諮詢。政府于 2023 年底提出修正案,其中包括就业、服务提供和生物识别使用等高影响类别的清单,但该法案仍留在委员会审议。 2025 年 1 月議會休會時,C-27 號法案死在了命令紙上。這就留下了拼湊而成的東西。 2019 年發布的財政部自動化決策指令對大多數聯邦機構都有約束力。 PIPEDA 以及魁北克省、艾伯塔省和不列顛哥倫比亞省的省級法律管轄人工智慧使用的個人資料。 2023 年自願準則涵蓋了簽署該準則的生成式 AI 開發人員。一个常见的误解是加拿大“通过”了 AIDA;它从未成为法律,任何未来的联邦人工智能立法都必须作为一项新法案重新开始。
現實世界的實施
规划对移民申请进行分类的算法的联邦部门必须根据《自动决策指令》完成算法影响评估,更高的影响级别会引发更严格的要求,例如同行评审和最终决策中的人工参与。
即使不存在專門針對人工智慧的法規,使用聊天機器人收集客戶姓名和訂單歷史記錄的多倫多零售商也必須遵守 PIPEDA 的同意、目的限制和保護規則。
根据魁北克省第 25 条法律,使用自动化系统筛选贷款申请人的蒙特利尔公司必须在决策完全基于自动化处理时通知人们,并让他们向可以审查该决策的人员提交意见。
一家加拿大生成式人工智慧新創公司簽署了關於先進生成式人工智慧的聯邦自願行為準則,承諾採取風險評估和開發識別人工智慧生成內容的方法等步驟,如果不符合要求,不會受到任何法律處罰。
加拿大人工智慧監管的未來和 AIDA 的命運
加拿大人工智慧監管的方向尚不確定。 AIDA 崩潰後,聯邦政府專門為人工智慧設立了一個部長級職位,並強調採用和競爭力,但尚未確認後續法案是否會像 AIDA 一樣。隱私改革也懸而未決,因為《消費者隱私保護法》隨同一法案一起失效。与此同时,预计将更多地依赖现有的隐私监管机构、金融和健康监管机构等机构的部门指导以及联邦指令的更新。无论如何,在海外销售的加拿大公司通常会遵守欧盟人工智能法案或其他外国规则,这可能比目前国内法律对实践的影响更大。
付諸實踐
為什麼這很重要
- 風險與安全. 災難性和日常的人工智慧危害都取決於誰了解風險以及誰能夠採取行動。
- 更明確的決策. 民眾和專業素養決定強而有力的安全政策在政治上是否可行。
- 突破炒作. 清晰的解釋可以減少炒作、實驗室公關和模糊道德劇場的影響。
留意
- 將存在風險視為科幻小說,同時能力複合。
- 混淆了表面產品安全與高度自治下的對準。
- 只給非英語和非專業觀眾留下低品質的資源。
後續步驟
- 單獨的產品危害、誤用和失控/失調風險。
- 詢問哪些證據會改變您對時間表和嚴重性的看法。
- 比起行銷主張,更喜歡主要來源和具體評估。
- 確定一條行動路徑:職業、政策、資金或技能——而不僅僅是意識。
不斷探索
常見問題
加拿大的人工智慧監管和AIDA的命運如何?
加拿大沒有現行的國家人工智慧法。其拟议的《人工智能和数据法案》(AIDA) 是 C-27 法案的一部分,本来可以监管高影响力的人工智能系统,但在 2025 年 1 月议会休会时被废除。如今,加拿大的人工智能受隐私法(PIPEDA 和省级法律)、政府自动化决策联邦指令、人权和消费者法以及生成人工智能自愿守则的管辖。任何在加拿大建造或購買人工智慧的人都需要知道其中哪一個真正適用。
AIDA 的立法工具是什麼?
AIDA 與 2022 年的 C-27 法案捆綁在一起,包括新的隱私法和資料法庭,這就是它與該法案的其餘部分一起廢除的原因。
為什麼 AIDA 今天沒有生效?
休會結束了未完成的法案。 C-27 仍在委員會中,因此 AIDA 從未成為法律。
AIDA主要是為了監管哪一類人工智慧系統?
AIDA 的義務針對“高影響力系統”,批評者稱該術語原文過於模糊。
對 AIDA 執行設計的常見批評是什麼?
人工智慧和數據專員將在創新、科學和工業部長的領導下運作,這引發了獨立性擔憂。
自動決策指令適用於什麼?
財政部指令對聯邦機構有約束力,對私人企業沒有約束力。