發生了什麼事
据Chosunbiz报道,韩国政府在8月25日的内阁会议上提出了“人工智能民主政府实现战略”。該計劃將把Government24和Benefit Notifier等服務整合到客製化的人工智慧服務中,透過私人平台擴大公眾訪問範圍,並引入涵蓋福利、安全、稅收、農業、食品和藥品資訊的人工智慧諮詢。政府还计划强制对所有公职人员进行人工智能培训,并培养 20,000 名能够在内部构建人工智能系统的专家。该报告并未独立制定该战略的实施时间表、预算、法律依据、技术设计或保障措施。
Chosunbiz 报道称,内政和安全部长尹浩正 (Yoon Ho-jung) 在 8 月 25 日于青瓦台举行的内阁会议上提出了该战略。其既定目标是建立一个人工智能支持的政府,预测公众需求并将民意纳入政策制定。该报告将该计划描述为一项广泛的管理计划,而不是单一的消费产品或型号发布。
據稱,政府打算重新設計網路和應用程式服務,使它們與人工智慧更加相容,並標準化服務,以便可以透過 Kakao、Naver 和「Everyone's AI」等平台存取它們。 Chosunbiz 没有提供系统的技术描述、涉及的模型或政府的实施时间表。
第一個報告的公共服務層將包括對公共影響較大的五個領域的人工智慧諮詢:福利、安全、稅收、農業以及食品和藥品資訊。 Chosunbiz 引用的例子包括護理服務、納稅、傳染病資訊和飲食資訊。政府還計劃在災難安全中使用人工智慧,以22種語言提供安全訊息,文章稱這將幫助外國人更快地了解緊急情況。 「每個人的廣場」將收集和分析公眾意見,用於政策制定。該報告沒有解釋如何對意見進行驗證、加權、儲存或防止操縱,也沒有說明人工智慧產生的建議是建議性的還是具有約束力的。
Chosunbiz 報告稱,該策略將擴展到政府內部工作和專門部門的運作。名為「OnAI」的智慧工作管理系統將支援包括法律審查和起草報告大綱在內的行政任務。預計食品藥品安全部將營運人工智慧藥品審查批准服務,而國土交通省將營運人工智慧建築許可服務。韓國氣象局將開發韓國特有的人工智慧天氣和氣候基礎模型。政府還規劃了針對老年人的人工智慧健康管理系統、針對年輕人的客製化求職資訊以及升級的人工智慧國務秘書服務。文章報導了目標、規劃體系和部會提案;它並不能確定這些服務已經部署或獨立測試。
為什麼這很重要
报告的战略将使人工智能成为公共管理的计划运营层,而不是有限的试点。如果按照描述的方式實施,它可能會影響居民獲取政府資訊、接收安全警報、獲得福利和醫療服務、尋找工作以及與政府部門互動的方式。它还将使公共部门培训和内部技术能力成为韩国国家人工智能政策的一部分。實際效果仍然不確定,因為 Chosunbiz 沒有報告績效目標、採購細節、資料治理規則、人工審查要求或任何擬議系統已經大規模運作的證據。
所報告計劃的意義在於其廣度。人工智慧將應用於面向公民的服務、緊急通訊、政策制定、內部管理工作和專門監管職能。這創造了更簡單地獲得分散的政府服務的可能性,特別是如果一個系統可以指導居民解決福利、稅收和安全問題。多語言災難訊息還可以解決韓語閱讀不流利的人們的實際溝通障礙。這些是計劃範圍描述的潛在好處,而不是衡量的結果。 Chosunbiz 尚未提供任何证据表明与现有服务相比,该系统提高了响应时间、理解力、准确性或访问性。
該政策也將影響公共勞動力。 Chosunbiz 報告稱,人工智慧培訓將成為所有公職人員的強制性培訓,政府的目標是培養 20,000 名能夠在內部開發人工智慧的專家。這種結合意味著努力使人工智慧能力成為普通公務員工作的一部分,同時減少對外部承包商或供應商的依賴。每年一度的公職人員競賽將鼓勵人工智慧使用的實驗和認可。文章沒有說明需要哪些培訓內容,如何評估官員,2萬人的目標是新的還是增量的,或者當人工智慧支援的行政決策錯誤時如何分配責任。
擬議的用途也引發了治理問題,因為它們涉及具有實際後果的決策和資訊。人工智慧在藥物審查、建築許可、法律分析、福利、健康管理和災害警報方面的協助可能會影響資格、批准、公共警告或專業判斷。提供有用指導的系統並不等於可以安全地做出或推薦高風險決策的系統。重要的未知因素包括政府資料的品質和代表性、個人資訊的保護、網路安全控制、無法使用人工智慧服務的人的可訪問性以及糾正或上訴機制。消息來源包含部長級聲明,即公眾應透過人工智慧成為國家事務的“真正主人”,但 Chosunbiz 並未獨立驗證擬議的設計是否能實現這一目標。
互動機制:它實際上是如何運作的
以互動方式探索這項發展背後的基礎技術。
Why can ethical evaluation not be reduced to one model score?
接下來看什麼
下一個有意義的發展是具體的實施決策:首先啟動哪些服務、哪些機構負責、系統可以存取哪些資料以及居民是否可以選擇退出或使用非人工智慧管道。特別審查應集中於人工智慧輔助的藥物審查、建築許可、法律工作、健康管理、天氣資訊和災害通信,因為錯誤可能會影響公共安全、福利或監管決策。政府的强制培训要求还需要明确其范围、考核标准、豁免和完成时间表。 Chosunbiz 报告了该战略和部长声明,但没有提供对部署、准确性、可访问性或公众反应的独立确认。
第一個考驗將是該戰略是否制定了具體的、過時的實施計畫。關注機構層級的公告,確定哪些 Government24 和 Benefit Notifier 功能將被整合、透過 Kakao 和 Naver 的訪問是否是可選的,以及居民是否保留明確的非 AI 路線來獲取政府服務。將可搜尋的資訊助理與完成交易或做出決策的系統區分開來也很重要。 Chosunbiz 報告了預期方向,但沒有提供啟動日期、預算、採購文件、服務水準承諾或公共試點的證據。
高影響力部署需要單獨審查。對於人工智慧藥物的審查和批准,觀察員應尋求有關人類審查員的作用、現有程序的驗證、錯誤記錄以及人工智慧生成的建議的法律地位的資訊。對於建築許可和法律審查,審查材料的透明度和建議的理由很重要。對於天氣和災害系統,關鍵問題是預報或轉換準確性、更新速度、警告閾值以及官員是否可以超越系統。應評估 22 種語言的安全資訊提案的完整性和可用性,而不是僅根據所提供的語言數量來計算。
勞動力計劃應根據實際能力和責任感來判斷,而不僅僅是培訓完成情況。未來的報告應澄清「強制性」對於不同類別的公職人員意味著什麼,如何評估課程,以及官員是否被教導如何發現捏造的、有偏見的或不安全的產出。 20,000 名內部專家的目標也需要一個定義:目前尚不清楚這是否意味著模型開發人員、資料專家、系統管理員或具有基本自動化技能的官員。最後,政府提議的輿論平台應揭露如何處理參與、隱私、審計和操縱風險。 Chosunbiz 是該戰略和部長言論的指定來源;沒有對這些保障措施或實際部署的獨立確認。