概述
他們處理大部分日常客戶聯繫。不過,根據消費者金融規則,銀行仍然有責任提供準確的答案,並負責識別客戶何時對錯誤提出異議或需要人工協助。
深入探討
早期的銀行機器人是選單驅動的或使用意圖分類。系統將諸如“我的餘額是多少”之類的訊息與數百個預定義意圖之一進行匹配,並運行腳本化流程。這種設計是可預測的且易於審計,這就是為什麼許多大型銀行仍然依賴它來處理任何涉及帳戶的事情。銀行更謹慎地採用生成式人工智慧。它通常首先出現在幫助員工搜尋程序的內部工具中,或出現在回答批准內容中的一般問題的機器人中。著名的助理包括美國銀行的艾麗卡和第一資本的伊諾。他們的大部分工作都是例行公事:餘額、交易搜尋、鎖定卡、付款提醒以及將人員路由到正確的團隊。法規決定了這些助理可以做些什麼。 2023年,美國消費者金融保護局發布了三大風險議題重點警告。聊天機器人可能會提供不準確的資訊。他們可能會讓客戶陷入循環,無法聯絡人。他們可能無法識別客戶何時主張合法權利,例如對電子轉帳錯誤提出爭議,這會觸發《電子資金轉帳法》等法律規定的義務。銀行還必須根據隱私規則保護客戶數據,避免不公平或欺騙性做法,並保存記錄。一些司法管轄區要求人們在與人工智慧系統交談時被告知。歐盟根據其人工智慧法案這樣做。常見的失敗包括誤解不尋常的請求、對費用或政策給出自信但錯誤的答案,以及拒絕將其交給某人。聊天機器人也可能受到攻擊。有人可能會試圖欺騙生成助理透露資訊或採取行動。一個常見的誤解是,聊天機器人可以做櫃員能做的任何事。在實務中,敏感操作通常需要強大的身份驗證和固定的、基於規則的後端流程。語言模型僅充當前端。
現實世界的實施
美國銀行的 Erica 於 2018 年推出,可協助客戶在行動應用程式中搜尋交易、查看支出摘要並獲取有關重複收費或即將到期的帳單等事項的提醒。
一位顧客輸入「我不認識這 80 美元的費用。」精心設計的助理會將其視為可能的未經授權的交易:它啟動爭議流程並提供人工代理,而不僅僅是顯示交易。
Capital One 的 Eno 會向客戶發送有關異常收費的信息,並可以產生用於線上購物的虛擬卡號,因此真實卡號不會與商家分享。
一家銀行為其呼叫中心代理提供了一名內部助理,負責搜尋保單文件並起草答案。模特兒和顧客之間有一個人。
人工智慧在銀行聊天機器人和虛擬助理的未來
銀行正在謹慎地擴展生成助理。他們通常從為員工提供的工具開始,隨著控制的成熟轉向面向客戶的用途。可能的發展包括完成更多多步驟任務的助手、移交給攜帶完整上下文的人工代理,以及對升級、準確性和披露更加嚴格的監管關注。懸而未決的問題包括衡量機器人是否真正解決了客戶的問題而不僅僅是轉移呼叫、保護弱勢客戶以及防範在對話另一方使用人工智慧的詐欺者。贏得信任的銀行很可能是那些能夠輕鬆接觸到人們的銀行。
付諸實踐
為什麼這很重要
- 背景與規則. 產業背景決定了人工智慧創意能否與現實接觸。
- 品質管控. 領域約束會影響可接受的錯誤率和監督模型。
- 配裝選擇. 成功的部署使技術能力與第一線工作流程保持一致。
留意
- 監理要求可能會使原本強大的原型失效。
- 歷史資料可能會編碼損害特定社區的偏見。
- 遺留系統可能會造成整合瓶頸和隱性成本。
後續步驟
- 讓領域專家參與從問題框架到評估的整個過程。
- 在啟動前設計審計追蹤和文件。
- 儘早驗證合規性和安全義務。
- 分階段推出,並有明確的停止和回滾標準。
不斷探索
常見問題
銀行聊天機器人和虛擬助理中的人工智慧是什麼?
銀行聊天機器人和虛擬助理是對話式人工智慧系統,讓客戶可以透過銀行的應用程式、網站或訊息傳遞管道檢查餘額、轉帳、獲取警報和提問。他們處理大部分日常客戶聯繫。不過,根據消費者金融規則,銀行仍然有責任提供準確的答案,並負責識別客戶何時對錯誤提出異議或需要人工協助。
早期的意圖分類銀行機器人是如何運作的?
意圖分類將「我的平衡是什麼」映射到具有固定流程的已知意圖。它是可預測的且易於審計,這就是銀行仍然使用它進行帳戶操作的原因。
CFPB 2023 年問題重點在於了聊天機器人的哪些風險?
CFPB 警告稱,答案不準確、無法聯繫到人員的循環以及錯過了法律觸發點。爭議可能會產生《電子資金轉帳法》等法律規定的義務。
一位顧客寫道「我不認識這 80 美元的費用。」一個精心設計的助手該做什麼?
此訊息可能表示錯誤或詐欺爭議。好的助手會偵測到它並將其發送到所需的進程,而不是將其視為簡單的查找。
在典型的生產架構中,基於規則的編排層做什麼?
將理解與行動分開意味著模型可以計算出客戶想要的東西,而固定程式碼則在資金流動之前強制執行安全性和規則。
為什麼銀行要從已批准的版本內容中回答政策問題?
從批准的內容中得出答案並附上引文,將其置於銀行的實際政策中,從而降低了自信但錯誤的陳述的可能性。