發生了什麼事
OpenAI 8 月 31 日表示，它支持加州參議院第 1119 號法案，該法案被描述為青少年使用適合年齡的人工智慧的框架。該公司敦促州長加文·紐瑟姆簽署該法案，稱該法案將提供更強有力的保護，並持續使用用於學習、創造力和探索的人工智慧工具。
OpenAI 表示支持加州參議院第 1119 號法案，並要求州長加文·紐瑟姆 (Gavin Newsom) 簽署該法案成為法律。該公司稱讚紐瑟姆、州參議員史蒂夫·帕迪拉、議員巴菲·威克斯和麗貝卡·鮑爾-卡漢以及加州立法機構推動了這項措施。消息來源將該法案視為州長待決行動；它沒有提供簽署日期、實施時間表或最終監管細節。
根據OpenAI的描述，SB 1119將要求人工智慧提供者在向年輕人提供產品之前確定用戶的年齡，識別和解決安全風險，接受獨立審計，並保護未成年人免受有害內容和高風險互動的影響。該公司在承保的風險中特別列出了自殘和性剝削內容。消息來源沒有複製該法案的法定語言，因此確切的定義、執行機制和處罰仍然未知。
OpenAI 表示，該法案還要求家長提供指導或限制兒童使用的工具、在出現嚴重安全風險時連接危機支援資源、限制有針對性的廣告以及保護年輕人的個人資訊。該公司認為該提案與社群媒體監管不同，因為它旨在保留與教育和安全相關的人工智慧功能，包括所謂的負責任的記憶體使用。
該公告將 OpenAI 的政策立場與其新推出的青少年的 ChatGPT 聯繫起來。 OpenAI 表示，18 歲以下的用戶或自稱 13 歲到 17 歲的用戶會自動進入該體驗。它還表示，其係統可以估計某人是否未滿 18 歲。該消息來源沒有提供該系統的準確性、錯誤率、上訴流程、資料保留實踐或如何進行年齡估計的詳細資訊。
OpenAI 表示，其青少年體驗包括測驗、學習視覺化和學習模式，據稱這些體驗是與教育工作者和學習專家共同開發的。它還表示，先前對話中的記憶和其他背景可以幫助一致地應用保護措施，識別相關模式並支持長期學習。消息來源沒有提供對這些聲明的獨立測試，也沒有提供顯示這些功能成功或失敗的頻率的證據。
為什麼這很重要
該提案將對人工智慧產品如何識別年輕用戶、評估安全風險、處理有害內容以及讓家長參與提出法律要求。 OpenAI 的立場也值得注意，因為該公司將其自己的以青少年為中心的產品保護描述為它希望政策制定者採用的方法的一個例子。
如果按照描述的方式頒布，SB 1119 會將一些青年人工智慧保障措施從自願產品設計轉移到法律框架中。年齡確定、發布前風險評估、審計和自動保護可能會影響公司為青少年設計入職、審核、廣告和資料系統的方式。實際效果將在很大程度上取決於該法案的最終文本和實施過程中發布的規則。
年齡保障是一個尚未解決的核心問題。如果系統錯誤地將成年人歸類為未成年人，則可能會限制對功能的訪問，而如果系統無法識別青少年，則可能會使該使用者脫離預期的保護範圍。 OpenAI 的聲明原則上支持年齡估計，但沒有提供有關準確性、人口統計表現、隱私保護或使用者如何質疑錯誤分類的證據。
擬議的審計要求可以為家庭、監管機構和公眾提供更多有關青少年安全聲明是否符合實際系統行為的資訊。但消息人士沒有解釋誰將選擇審計師、他們將檢查哪些證據、調查結果是否會開放，或審計發生的頻率。這些細節將決定審計的功能是有意義的問責還是程序檢查。
該政策也對保留上下文的人工智慧系統的設計提出了疑問。 OpenAI 表示，記憶可以幫助偵測相關模式並避免強化有害模式，同時也支持教育工作的連續性。這就造成了安全效益和年輕人談話訊息的敏感度之間的緊張關係。該公告沒有具體說明保留哪些資訊、保留多長時間、誰可以存取這些資訊或家長監護如何與青少年隱私互動。
該公告是一家將受到擬議法律影響的公司的倡導聲明。 OpenAI 的支持表明該措施符合公司聲明的政策偏好，但這並不是獨立證據表明 ChatGPT for Teens 或該法案提出的保障措施是有效的。此來源不包含來自家庭、教育工作者、兒童安全專家或公民自由團體的外部評估、使用者資料、執法分析或證詞。
互動機制：它實際上是如何運作的
以互動方式探索這項發展背後的基礎技術。
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
接下來看什麼
迫在眉睫的問題是紐瑟姆是否簽署了 SB 1119 以及其要求將如何實施。尚未解決的重要問題包括年齡估計的準確性和隱私影響、獨立審計的範圍、危機支持義務的含義以及監管機構如何評估保護措施在實踐中是否有效。
下一個正式步驟是州長的決定。 OpenAI 敦促紐瑟姆簽署 SB 1119，但消息人士沒有說明州長是否承諾這樣做。如果該法案成為法律，隨後的機構指導和合規期限將與整體要求一樣重要。
實施應明確確定使用者年齡的標準，以及提供者是否可以依賴年齡估計、規定年齡、身分證件或其他方法。它還應該表明加州打算如何最大限度地減少敏感資訊的收集，並防止年齡檢查成為分析、排除或資料暴露的新來源。
獨立審計條款值得仔細審查。關鍵問題包括審計師必須使用的標準、他們是否可以直接測試系統、公司是否必須揭露故障以及審計發現未解決的風險時會發生什麼。消息來源沒有回答任何這些問題。
危機支持要求也需要精確的界線。 OpenAI表示，該法案將在出現嚴重安全風險時將年輕人與危機支持資源聯繫起來，但它沒有定義幹預的門檻，也沒有解釋系統如何處理不同司法管轄區的不確定性、誤報和緊急情況。這些細節將影響用戶安全和隱私。
OpenAI 表示，期望在實施過程中繼續進行研究和合作，其自己的青少年安全工作包括家長控制、年齡預測、青少年安全藍圖和 18 歲以下行為原則。留意公司描述之外的證據：獨立評估、已發布的審計結果、有關錯誤年齡分類的資訊以及有害內容預防和獲得支持的可衡量結果。