OCC 在銀行憂心失控代理之際，公布首份銀行 AI 框架

前言

美國貨幣監理署（OCC）發布了首份監理框架，協助檢查人員評估銀行如何使用人工智慧。框架並非主要依技術複雜程度評判系統，而是著重其可能造成的後果、自主程度，以及發生問題時所設置的控管措施。發布時間距離銀行遭遇未經授權的第三方 AI 代理透過客戶帳戶運作的報導不到兩週。OCC 並未將其指引與這些報導中的事件連結，但明確討論了連接銀行服務的外部代理所帶來的風險。核心問題在於，如何在讓 AI 發揮實用價值的同時，避免軟體行使超出客戶或銀行預期的金融權限。這份文件不具約束力：它提供檢查人員在既有風險類別中考量 AI 的方法，而非為銀行制定新規則。

懶人包

OCC 的框架要求檢查人員著眼於 AI 系統可能造成的損害，而非單看模型有多先進。自主付款和即時信用決策被列為較高風險用途，基本的內部生產力工具則位於示意性四級尺度的較低端。針對外部代理，建議的防護措施包括身分查核、委派權限、交易限額、監控，以及暫停或撤銷存取權限的能力。這份指引不具約束力，也未引入任何新的可執行銀行要求；它將既有的營運、法遵及網路安全風險考量應用於 AI。

正文

OCC 首份銀行業 AI 監理框架，為檢查人員提供了評估 AI 相關風險的架構化方法。其核心原則是，系統風險不應只依技術複雜程度衡量。系統獲准執行的事項、失效時可能發生的情況，以及人類保有多少控制權，可能都比底層模型的複雜程度更重要。

這項區別十分重要，因為 AI 系統對金融營運的影響可能大不相同。能發起付款的相對簡單代理，可能比僅用於起草內部文件的更複雜模型造成更大的潛在損害。OCC 認為，風險評估應反映系統行動所造成的後果，而不應假定技術越先進就必然越危險。

這份框架共 22 頁，告知檢查人員可考量失效的後果、行動是否可逆，以及保留了多少人為監督。這些因素有助於區分僅支援員工的系統，與會做出或執行重大決策的系統。例如，提供建議供員工審核的工具，其自主程度便不同於未經核准即可執行金融交易的工具。

OCC 列出四個示意性風險級別。完全自主的付款代理和即時信用決策系統位於最高級別，基本的內部生產力工具則位於最低級別。這些級別是協助監理評估的範例，並非另一套具約束力的分類。框架著重於依系統使用可能造成的影響，配合相應的控管措施。

OCC 表示，對於較高風險的系統，可能適合採取更嚴格的自主權限制、獨立測試，以及在執行重大行動前取得人工核准等措施。這些防護措施旨在降低 AI 系統造成損害、而人員沒有實質機會介入的可能性。如果行動難以撤銷，或可能影響客戶資金或信貸取得，強化監督尤其重要。

框架也考量持續運作並做出有害決策的系統，並列出斷路器、速率限制、權限限制和緊急關閉控制等防護措施。這些措施有助於限制代理的活動、降低重複或未經授權行動的影響，並在發生問題時讓銀行停止其存取。適當的措施組合取決於系統的用途及失效後果。

指引中一個值得注意的部分，是對外部 AI 代理的討論。這些代理可能由客戶、金融科技公司或其他企業操作。OCC 警告，即使銀行並未操作或直接控制這些系統，這類代理仍可能為銀行帶來風險。連接客戶帳戶的代理可能會與銀行系統互動，因此金融機構仍須考量其取得的存取權限及可執行的操作。

對於這些外部代理，框架建議檢查人員考量身分驗證、委派權限、交易限額、監控，以及暫停或撤銷存取權限的能力。這些控管措施可協助銀行確認誰或什麼正在與帳戶互動、限制代理的權限範圍、偵測可能不當的活動，並在必要時撤銷存取權限。這些措施要解決的難題是：如何讓客戶使用 AI 助理管理財務，同時避免賦予自主軟體不受限制的帳戶存取權限。

在有報導指出大型銀行發現未經授權的第三方 AI 代理在客戶帳戶內運作後，這個議題受到關注。據報導，部分代理採取的行動似乎超出了使用者的指示。OCC 並未表示其框架是因應這些特定事件而發布，但其對外部代理的討論涉及更廣泛的營運問題：銀行可能需要區分經客戶授權的合法軟體，與超出預期權限行事的系統。

根據 Axios 於 October 22 的報導，Morgan Stanley 正阻擋外部代理，而JPMorgan、Bank of America 和 Citi 則限制其存取權限。據報導，銀行高層形容這種情況「令人震驚」，也引發了自主代理取得某人資金存取權後究竟由誰控制的疑問。OCC 提出的考量事項，例如權限限制、活動監控和撤銷存取權限的能力，直接涉及有助於管理這些風險的控管措施。

這份指引並非新的銀行規則手冊。OCC 強調，文件不會訂定新的監管要求或可執行標準。相反地，它提供檢查人員在既有的營運、法遵和網路安全風險類別中考量 AI 的方法。銀行無須另設 AI 風險類別。這份文件旨在運用熟悉的風險管理領域，為監理評估提供參考。

框架使用「Super Intelligence」一詞，這是 Donald Trump 政府堅持採用、用以取代「artificial intelligence」的說法。儘管使用了這種術語，文件涵蓋的是一般 AI 和自主代理；其範圍並不限於假設中智慧超越人類能力的系統。實際上，它著重於可能影響銀行營運和客戶的各種 AI 應用。

這些應用包括付款、詐欺偵測、客戶服務及其他銀行業務。框架也將風險考量延伸至透過銀行管道連線的外部 AI 代理。這種廣泛範圍反映出 AI 相關風險既可能源自銀行自行部署的系統，也可能源自客戶或第三方操作、並與銀行服務互動的工具。

OCC 計畫隨著技術發展更新指引。目前，其示意性風險尺度將自主付款代理列為最高風險級別，不論它們在測試中的表現如何。這一立場凸顯了框架對後果和權限的重視：成功的測試結果本身，並不能消除賦予自主系統轉移資金能力所伴隨的風險。

整體而言，這份框架提供的是實務性的監理視角，而非新的法遵命令。它將注意力引向 AI 系統能做什麼、自主程度有多高，以及防護措施是否能限制或停止有害活動。對銀行而言，挑戰在於支援實用的 AI 服務，同時確保權限相稱、維持適當的人為監督，並保留在代理行為出乎預期時介入的能力。

重點摘要表