前言

背景：Vercel 以簡化網站部署聞名，已悄然成為 AI 驅動代理的重要基礎設施供應者。憑藉每天數百萬次部署與巨量的 token 吞吐量，該公司位於開發者工具、生產級 AI 與企業資料治理的交會處。本文記錄了 Vercel 執行長 Guillermo Rauch 描述焦點如何從實驗轉向生產，以及為何將模型與代理分離對安全性、彈性與競爭具有重要意義。

簡要重點

關鍵結論：平台必須將 模型 與 代理 視為不同的構建模組。透過將智慧（模型）與編排與政策（代理與沙盒）分離，公司能夠達成更好的資料控制、更安全的生產部署以及更具競爭力的生態系統。

主體

Vercel 已從一間雲端部署公司成長為 AI 系統的關鍵基礎設施供應者。這個轉變既自然又劇烈：開發者不再只是對代理與模型進行實驗 — 他們將它們置入必須符合企業安全性、可稽核性與可控性標準的生產環境。根據 Guillermo Rauch 的說法，去年的熱衷原型製作已讓位於在大規模部署代理時的實際現實。團隊很快學會哪些用例真正帶來價值，以及必須解決哪些挑戰才能可靠地運行代理。

出現了兩個特別重要的代理「殺手級應用」。第一是程式碼代理：協助開發者、產出程式碼並加速軟體開發的系統。這類代理佔了大量的 token 使用，並產生次級效應 — 產出更多軟體反過來增加對穩健部署基礎設施的需求。第二是企業內部代理：一個自主助理，幫助員工存取與綜合公司資料以更快完成工作。在兩種情況下，代理如何存取資料、如何被稽核以及如何控制其對外互動都成為核心關切。

Rauch 強調資料治理為首要任務。他指出一項真實風險：開發者工具或整合於 IDE 的代理可能無意間將專有程式碼或敏感資料傳送給外部模型作為訓練資料。關於航空航太程式碼的軼事 — 幾十年的專用 C++ — 說明當單一錯誤設定的工具將資料外洩時，公司的智慧財產是多麼脆弱。對於擁有深厚技術資產的企業而言，該風險是生死存亡的問題。

為了應對這些風險，Vercel 推出了一個名為 Eve 的框架與一個名為 Vercel Sandbox 的隔離環境。Eve 讓團隊能以自然語言表達代理的指令與能力，建立可被檢視與稽核的清晰結構化規格。Vercel Sandbox 將代理置於受控的執行環境：允許代理展現其智慧，同時限制其可存取的資料與可能輸出的內容。這些工具共同旨在同時提供代理效用與企業資料保護的雙重利益。

此類內部代理在日常工作中的實際影響已可見端倪。Rauch 敘述一位銷售代表缺乏即時取得正確資料的情況：識別哪些客戶帳戶最近擴大且值得優先處理。歷來，這類洞察仰賴緩慢的工程周期來建立自訂儀表板。透過安全連接公司資料並受政策治理的內部代理，業務人員可以以自然語言提問，並獲得可立即採取行動的具體、可執行答案。這減少了營運瓶頸，提高了回應速度，並在各部門放大人類生產力。

除資料控制外，還有更廣泛的影響涉及公司將如何選擇模型供應商。早期選擇單一實驗室夥伴 — 將一切建構在單一模型供應商之上 — 的模式，正在被模組化思維取代。Rauch 將生產級 AI 堆疊的組成描述為模型、外掛（harness）、資料平台、沙盒與閘道（gateway）。每個部分都可以替換或組合，讓團隊能根據價格、效能與功能選擇模型與工具，而非受制於供應商綁定。這種做法有利於一個模型（如 OpenAI、Anthropic、Gemini、像 DeepSeek 或 GLM-5.2 等開放模型）可互換，而代理、政策層與基礎設施則成為差異化要素的生態系統。

隨著平台與模型供應商擴展功能，競爭是無可避免的。Rauch 指出 OpenAI 讓工具直接發布網頁內容的舉動，作為模型或實驗室加入類似託管功能的例子。當模型加入此類便利性時，它們會侵占像 Vercel 這類基礎設施公司的領域。但 Rauch 將此視為一個策略性選擇：智慧與託管會繼續在單一供應商內耦合，還是會成為開放且可組合的模組構件讓開發者混搭？Vercel 賭的是後者 — 支持開放協定與可組合層，反映長期以來軟體工程的實踐。

利害攸關的是技術與商業問題。在技術上，將模型與代理分離支援更清晰的介面：模型專注於推理與生成，而代理負責編排工具、資料存取與商業邏輯。在商業上，模組化方法可防止對客戶資料與功能的壟斷控制。如果代理能呼叫各種模型，且沙盒與閘道控制資料流，那麼單一實驗室就不易將自己架空成所有智慧的來源並將客戶鎖入專有資料陷阱。

Rauch 建議，長期贏家將是提供可靠、安全與開放原始構件的平台 — 他稱之為「這一代的 AWS」。這些原始構件包括定義代理行為、強制政策以及根據成本與效能將查詢導向最合適模型的方式。在這樣的世界中，團隊可以優化生產工作負載：為大量任務選擇價格更佳的模型、為關鍵推理選擇更高品質的模型、在隱私或客製化為重時選擇開放模型。

轉向生產級 AI 也需要文化與組織上的變革。公司必須投資於治理、可觀測性與工具，以追蹤代理採取的每一項行為：它呼叫了哪些工具、讀取了哪些資料、以及產出了哪些輸出。稽核追蹤、存取控制與政策執行成為工程上的一等公民，而非事後補充。Eve 與沙盒模式的建立反映了這種取向：為政策、指令與限制建立明確構造，並可整合到 CI/CD 管線與合規流程中。

歸根結底，推動將模型與代理分離，是為了保持彈性與保護資料，同時促進創新。開發者與公司希望能靈活選擇最佳模型，並將它們與可靠的代理編排與治理結合。正如 Rauch 所言，代理迫使公司「開放」，挑戰那些依靠鎖定使用者資料為生的 SaaS 巨頭的商業模式。這種壓力可能導致一個開放且具競爭力的生態系統，在那裡基礎設施供應商、模型實驗室與獨立工具能在更平等的基礎上合作與競爭。

簡言之，當前的 AI 採用階段強調實際的生產考量：資料安全、模組化、成本與效能的權衡，以及治理。Vercel 的方法 — 建立沙盒、像 Eve 的指令框架與彈性的閘道 — 示範了一條前進道路，在該路徑上智慧與編排是不同且可互操作的層。這種分離可能決定下一代 AI 基礎設施如何演進以及誰能獲得持久價值。

關鍵洞見表