Anthropic 開發開源方法，驗證 AI 模型身分

前言

Anthropic 正在開發一套開源系統，用來確認特定輸出是由哪個 AI 模型產生。這項計畫於週二發布的部落格文章中介紹，旨在因應日益嚴峻的問題：使用者可能無法判斷某項服務是否真的使用了它宣稱採用的模型。這套名為 FlashProve 的系統旨在提供研究人員所稱的「可證明推論」——一種將輸出與特定模型連結的密碼學證明。這個構想是讓使用者能夠查驗答案的來源，而不必只依賴服務提供者的說法。本文將說明 FlashProve 預計如何運作、它可能協助處理哪些情況，以及研究人員已公布與尚未公布的事項。這項計畫仍在研究階段；Anthropic 表示，沒有計畫在自家實驗室或其他地方部署這套系統。

懶人包

FlashProve 是一套開源研究系統，旨在驗證特定輸出是由哪個 AI 模型產生。它將運用密碼學證明，並以公開發布的模型指紋為依據，讓模型身分可供查驗——即使模型是由服務提供者自行執行也一樣。這種方法可協助使用者辨識與實際使用模型不符的說法，包括未揭露的模型替換，或第三方對 AI 輔助工作的宣稱。這些指紋的設計不會揭露模型權重，因此閉源模型的提供者也可能參與，而無須公開這些私有參數。Anthropic 已發布技術規格與可運作的程式碼，但研究仍在進行中，且尚未安排部署。

正文

Anthropic 正在開發 FlashProve，這是一套開源系統，用來驗證特定輸出背後的 AI 模型身分。這項計畫聚焦於一個使用者難以回答的問題：當 AI 服務回覆時，使用者如何知道回覆確實來自服務提供者宣稱使用的模型？FlashProve 旨在提供證據，將輸出與特定模型連結，而不是要求使用者毫無查證地接受服務提供者的說法。

研究人員將核心概念描述為「可證明推論」。在此脈絡下，這個詞指的是一種密碼學證明——也就是所謂的數學保證——證明特定模型產生了特定輸出。如果系統如預期運作，使用者便能查驗答案是否由與所宣稱身分相符的模型產生。目標不只是替回覆貼上標籤，而是建立模型與其輸出之間可供驗證的連結。

研究人員將這個概念比作密碼學電子郵件簽章。簽章能協助收件者判斷訊息是否來自其聲稱的寄件者。同樣地，FlashProve 的設計是讓使用者確認 AI 輸出是否來自服務所標示的模型。這個比喻有助於說明系統預期扮演的角色：它是用於驗證真實性的工具，並不保證答案正確、安全或有用。

其中一項動機是模型替換的可能性。服務提供者可能宣稱由某個特定模型處理請求，卻暗中使用另一個模型。研究人員指出兩種可能的誘因：公司可能改用較便宜的模型以降低成本，或使用較昂貴的模型，讓效能結果看起來更好。FlashProve 的設計旨在抵禦將某個模型偽裝成另一個模型的企圖，包括試圖欺騙的對象正是打造並運行該模型的實驗室。

這項疑慮之所以重要，是因為個人與組織可能會根據自己認為參與服務的模型來做決策。使用者可能因為某項服務宣稱具備特定能力水準而選用它。如果底層模型遭到悄悄更換，使用者可能無法獲得預期的服務。驗證機制可提供模型身分的相關證據，協助使用者判斷服務提供者的描述是否與實際產生輸出的模型相符。

FlashProve 也可能有助於評估第三方對 AI 輔助工作的說法。研究人員舉例說，開發者可能表示某個軟體函式庫曾由前沿網路安全模型掃描漏洞，或某家公司可能聲稱其商業計畫已獲適當模型核准。在這類情況下，使用者可能希望驗證所稱的模型是否真的執行了該任務。與輸出綁定的密碼學證明可作為查驗這些說法的依據。

要讓系統運作，AI 實驗室需要為其發布的每個模型公開一個「指紋」。之後，這些指紋將與特定輸出比對，並透過密碼學方式驗證。概括而言，指紋旨在作為特定模型的參照，讓人能夠查驗輸出的來源。因此，研究人員提出的方案有賴參與的實驗室為其模型提供這些參照資料。

這項設計的一個關鍵之處，在於指紋不會揭露模型權重。權重是有助於決定模型行為的內部數值。開發閉源模型的公司，包括 Anthropic 和 OpenAI，都會將這些參數保密。研究人員表示，發布指紋並不要求實驗室公開這些權重。這項區別可能讓系統能與商業模型搭配使用，同時保留服務提供者最有價值的私有資產。

研究人員也表示，FlashProve 的設計力求輕量，驗證工作可在本機裝置上進行。本機驗證可能讓使用者無須每次查驗都仰賴另一個中央服務。公告並未聲稱系統已廣泛部署，或所有實際挑戰都已解決；相反地，它將這項設計定位為持續進行中的研究，並分享相關材料供他人檢視。

作為公告的一部分，研究人員發布了詳細的技術規格，以及系統各部分的可運作程式碼。這些資料以開源授權公開於 GitHub。公開設計與程式碼，讓其他研究人員和開發者有機會檢視這套方法、測試其組件，並提出改進建議。開放存取對驗證系統尤其重要，因為人們對其主張的信心，在一定程度上取決於其方法是否能接受檢視。

Anthropic 強調，FlashProve 並非已完成的研究計畫。研究人員表示，此次公告分享的是階段性進展，並邀請其他人以此為基礎繼續開發。他們沒有計畫在 Anthropic 或任何其他實驗室部署 FlashProve。這項區別很重要：此次發布介紹的是一項研究提案與可運作的組件，而非使用者目前可依賴、用來驗證模型輸出的正式服務。

更廣泛來說，FlashProve 關注的是 AI 服務中的信任與問責。如果系統能提供證據，說明輸出由哪個模型產生，使用者或許就更有能力評估服務提供者的說法與第三方的主張。同時，模型身分只是評估 AI 結果的一個面向。即使有證明顯示答案由特定模型產生，也不能單憑此點確定答案正確，或該模型適合執行該任務。FlashProve 提出的貢獻範圍較為有限：它旨在讓輸出背後的模型身分更容易驗證，同時保護模型權重不被公開。

重點摘要表