概述
它並沒有製定新的法律;而是製定新的法律。它解釋了當人工智慧做出或支援決策時,現有的針對不公平歧視和不公平做法的保險法如何適用。這很重要,因為州監管機構可以在檢查期間要求該程序,因此它決定了營運商、供應商和使用營運商工具的代理商如何處理人工智慧。
深入探討
該公告的正式名稱為《保險公司使用人工智慧系統的模型公告》,於 2023 年 12 月被 NAIC 採用。 NAIC 是州監管機構的一個協會,因此其模型公告只有在個別州保險部門發布(通常經過少量編輯)後才具有效力。大約兩年內,大約一半的美國司法管轄區採用了它或近似版本,包括阿拉斯加州、康乃狄克州、伊利諾州、新罕布夏州、賓州和佛蒙特州。一些州採取了不同的路線:科羅拉多州有自己的關於外部消費者數據和演算法的法規和規定,紐約州金融服務部於 2024 年就承保和定價中的人工智慧和外部數據發布了單獨的通函。核心期望是 AIS 計劃:一個負責任地使用人工智慧系統的書面計劃,旨在降低消費者不利結果的風險,即以違反保險法的方式對消費者產生不利影響的決策。該計劃應涵蓋整個人工智慧生命週期的治理(明確的責任,通常由高階管理層或董事會負責)、風險管理和內部控制、數據實踐、驗證和測試以及第三方模型和數據的監督。它適用於產生人工智慧和預測模型,並且是相稱的:控制措施應該根據系統對消費者的影響程度來調整。一個常見的誤解是該公告禁止特定的人工智慧使用或設定數字公平閾值。它兩者都沒有。它依賴《不公平貿易行為法》和《不公平索賠解決行為法》等現有法規,並描述了監管機構可能要求提供的文件。另一個誤解是購買供應商工具會將責任轉移給供應商。該公告明確指出,保險公司仍對其使用的第三方系統的結果負責。對於代理商而言,該公告是針對保險公司的,但它會影響承運商向生產商提供的工具以及代理商應預期的有關如何使用這些工具的問題。
現實世界的實施
一家財產保險公司使用機器學習模型來標記詐欺索賠,審查批准該模型的文件、使用的數據以及漂移測試的頻率,以便在市場行為檢查期間將該記錄交給審查員。
正如公告第三方部分所建議的那樣,獲得第三方承保評分許可的人壽保險公司會增加合約條款,賦予其審計權,並要求供應商配合監管機構的調查。
一家中型汽車營運商將其客戶服務聊天機器人歸類為比其定價模型風險更低的風險,對聊天機器人應用了較寬鬆的控制,並對模型進行了正式的偏見測試,反映了公告的相稱方法。
使用承運商人工智慧報價入口網站的獨立機構了解到,承運商(而不是機構)負責模型的治理,但仍培訓員工升級看起來錯誤或不公平的輸出。
NAIC 保險業人工智慧模型公告的未來
更多的州可能會考慮採用該公告,監管機構已經討論了一些期望是否最終應納入示範法或具有更嚴格要求的法規,特別是對於第三方數據和模型供應商。考試實務可能與文本一樣重要:當各部門開始要求提供 AIS 計劃文件時,保險公司將了解審查員認為充分的證據。聯邦關於人工智慧的政策仍未確定,各州的做法仍然不同,因此在全國範圍內運營的運營商需要將 NAIC 框架與科羅拉多州和紐約州等州的特定規則相協調。
付諸實踐
為什麼這很重要
- 風險與安全. 災難性和日常的人工智慧危害都取決於誰了解風險以及誰能夠採取行動。
- 更明確的決策. 民眾和專業素養決定強而有力的安全政策在政治上是否可行。
- 突破炒作. 清晰的解釋可以減少炒作、實驗室公關和模糊道德劇場的影響。
留意
- 將存在風險視為科幻小說,同時能力複合。
- 混淆了表面產品安全與高度自治下的對準。
- 只給非英語和非專業觀眾留下低品質的資源。
後續步驟
- 單獨的產品危害、誤用和失控/失調風險。
- 詢問哪些證據會改變您對時間表和嚴重性的看法。
- 比起行銷主張,更喜歡主要來源和具體評估。
- 確定一條行動路徑:職業、政策、資金或技能——而不僅僅是意識。
不斷探索
常見問題
什麼是 NAIC 保險人工智慧模型公告?
《關於保險公司使用人工智慧系統的 NAIC 模型公告》是美國保險專員協會於 2023 年 12 月通過的指南,該指南要求保險公司製定基於風險的書面計劃,以管理其如何建造、購買和使用人工智慧。它並沒有製定新的法律;而是製定新的法律。它解釋了當人工智慧做出或支援決策時,現有的針對不公平歧視和不公平做法的保險法如何適用。這很重要,因為州監管機構可以在檢查期間要求該程序,因此它決定了營運商、供應商和使用營運商工具的代理商如何處理人工智慧。
NAIC 人工智慧模型公告如何在特定州獲得法律效力?
NAIC 是一個由州監管機構組成的協會。其示範公告僅在該州的保險部門發布後適用於該州。
公告稱保險公司應保留哪些書面程式以供人工智慧使用?
該公告預計將有一個書面的 AIS 計劃,涵蓋人工智慧系統的治理、風險管理、控制和第三方監督。
在公告下,什麼是不良消費者結果?
不利的消費者結果是指以不符合保險法的方式對消費者產生不利影響的決策,例如不公平歧視。
關於該公告的法律依據,哪一項表述是準確的?
該公告並未制定新的法規或門檻;它依賴現有的保險法並描述了這些法律下的期望。
營運商從供應商購買人工智慧承保分數。根據該公告,誰仍然對該分數的消費者結果負責?
該公告明確指出,即使供應商提供了模型,保險公司仍對其使用的第三方系統的結果負責。