序言

背景：本文總結了 Perplexity 最近的研究預覽，說明該公司如何對一個中文開源模型（GLM 5.2）進行後訓練，使其在其 Computer agent 構架中擔任協調者（orchestrator），僅在必要時升級到最前沿模型。目標既務實又經濟：在大幅降低推理成本的同時達到接近 Opus 4.8 的品質。 目的：解釋技術方法、升級策略背後的經濟學，以及為何開源模型使此方案成為可能，同時避免促銷性說法。本文釐清了後訓練與微調的含義、Perplexity 如何實作「顧問」交接機制，以及此舉對模型協調和部署的影響。

懶人包

Perplexity 對 Z.ai 的 GLM 5.2 進行後訓練，使其成為具成本效益的協調者， 使用內建的 顧問工具 僅在必要時將複雜查詢升級到最前沿模型。該系統透過將大多數任務導向較便宜的微調模型，並僅在真正困難的查詢上保留昂貴呼叫，達成接近 Opus 4.8 的表現，推理成本約為 0.344x 的 Opus 成本。

主體

Perplexity 最近發布了一篇研究預覽，描述其如何調整 GLM 5.2——來自 Z.ai 的大型語言模型——以在其 Computer agent 構架中擔任經濟且高效的協調者。GLM 5.2 在 MIT 授權下發佈，提供可供修改和商業使用的開放權重。Perplexity 利用這種開放性對模型進行後訓練，使其能夠在必要時選擇性地將查詢升級到更強大的第三方模型（Claude Opus 4.8）。實際結果是：在顯著降低成本的情況下達到相似的任務品質。

從高層次來看，工程方法依賴兩個互補概念：目標導向的後訓練與基於顧問的升級策略。後訓練是指模型完成主要預訓練後進行的額外訓練。開發者不是從頭重新訓練，而是應用新的監督學習或強化學習訊號來塑造模型在特定情境下的行為——在本案例中，即 Perplexity 所稱的 Computer agent。目標不僅是提高原始準確性，還要新增可靠的能力評估：模型必須知道何時自身輸出已足夠，以及何時應將任務交由更強的外部模型處理。

Perplexity 在經過微調的 GLM 5.2 中實作了一個「顧問工具」。此元件評估進入的使用者查詢以及模型處理該查詢的信心。對於大多數輸入，微調後的 GLM 可端到端處理工作，避免呼叫昂貴的最前沿模型。只有一部分查詢——那些被識別為高難度、高風險或超出微調模型能力範圍的——會被轉送到 Opus 4.8。這種選擇性路由在保留高品質回應的同時節省了推理預算。

該公司將這一協調化設置與幾個基準進行了比較。他們使用一個內部效率指標來衡量完成複雜任務的貨幣成本。與對每個請求都運行 Opus 4.8 相比，協調者方法將總體成本降低到大約 Opus 單獨推理的 0.344x。帶有顧問的後訓練 GLM 在內部指標上比未修改的 GLM 5.2 稍貴（大約是其兩倍），但該未修改的基線本身在普遍使用時仍遠低於 Opus。透過策略性地結合兩個模型，Perplexity 在約三分之一成本下達到接近 Opus 的品質。

從技術角度來看，此結果依賴於若干因素。首先，GLM 5.2 是一個大型且具能力的模型（報導約為 7440 億參數），在長期程式碼與推理基準上表現良好。以 MIT 授權提供開放權重使 Perplexity 可以在沒有契約限制下下載、檢視並進行後訓練。其次，顧問的有效性依賴於可靠的能力估計與校準良好的信心水準；校準不佳要麼導致不必要的升級（提高成本），要麼讓錯誤通過（降低品質）。Perplexity 的後訓練針對這些行為進行調整，以便協調策略在成本與準確性之間取得平衡。

為何使用中文模型？簡短答案是合法性與可得性：GLM 5.2 的開放授權消除了商業 API 或受限模型所施加的障礙。此外，開源權重允許自訂微調、在選定硬體上部署，以及適應特定的產品限制。Perplexity 先前也將另一個源自中國的模型（DeepSeek R1）改造為名為 R1-1776 的產品，透過處理審查驅動的行為和政治偏見。那次經驗提供了技術方法與信心，證明開源中文模型可以被改造用於在西方託管的生產系統中。

在運營上，Perplexity 在美國資料中心的 Nvidia B200 GPU 上運行微調後的 GLM。該公司表示計劃對其他開源模型（例如 Nemotron 3 Ultra）進行後訓練，以使用多樣的基礎模型複製這種啟用升級的架構，其中也包括在美國託管的開源權重。完整基準細節和研究論文預計將在研究預覽可用時一併發佈。

此部署之外還有更廣泛的影響。協調與選擇性升級創造了一種混合設計模式：較便宜且可調整的模型處理大量流量，而少數昂貴的最前沿呼叫在最困難的查詢上維持頂級表現。這種模式降低了高流量服務的成本，並可結合安全、稽核和政策控制以維持品質。它也突顯出開源發佈如何改變競爭動態：當具能力的權重以寬鬆授權提供時，AI 部署的成本與控制權會轉向能有效微調、校準並大規模運營模型的團隊。

限制與考量仍然存在。升級的成功依賴於可靠的信心估計與明確的升級界限；邊緣情況或對抗性輸入仍可能使系統失誤。授權與地緣政治方面的關切也同樣重要：GLM 5.2 來自 Z.ai，一個位於北京的實驗室，可能面臨出口管制和實體清單的考量，因而受到審視。Perplexity 的方法透過運行其有權使用的權重來避免基於 API 的限制，但組織在使用國際開發的模型時仍應進行自身的合規審查。最後，關於基準方法論的透明度與獨立驗證將有助於社群驗證成本與品質主張。

總而言之，Perplexity 的研究預覽展示了一種務實策略：將開源大型模型進行後訓練，使其成為一個有能力且具成本效益的協調者，並使用顧問機制僅在必要時進行升級。結果是在不對所有請求都使用最前沿模型的前提下，以小部分費用取得接近最前沿的品質。如果經由獨立基準驗證並被更廣泛採用，這種協調模式可能成為注重成本且追求高品質 AI 服務的標準做法。

關鍵見解表