重點

Rippling 推出 AI Spend Console 來監控並遏止失控的 AI 令牌支出，同時衡量較高支出是否與實際生產力提升相關。該公司發現少部分員工造成大部分成本——有位工程師每月花費達數萬美元——於是重新設計了控制措施，包括模型路由、談妥的上限與新儀表板。 這項關鍵洞見顯著影響企業應如何治理 AI 使用並將消耗與可衡量的產出掛鉤。

情緒分析

• 文章整體情緒為謹慎樂觀。它突顯了一個問題——快速、失控的 AI 支出——並描述了一個務實且以數據為導向的解決方案，既保留 AI 的效用又降低成本。語調承認早期錯失，但強調學習與修正行動。
  65%

文章內容

提供人力資源軟體的 Rippling 推出了 AI Spend Console，以回應公司內部對 AI 令牌出乎意料的高額支出。今年初，公司高層發現 AI 支出快速攀升——預測顯示令牌成本可能佔用研發人力預算的一大部分。這一發現促使展開一項緊急專案，了解誰在消耗令牌、為何消耗，以及支出是否帶來相應的生產力增長。

調查顯示，相對少數的員工承擔了不成比例的大量支出。在一個顯著的例子中，某位工程師每月的令牌使用金額達數萬美元。面對這些數字，Rippling 尋求在不完全關閉 AI 使用的情況下控制成本。公司與其推理服務供應商協商了支出上限，並實施控制以在適當情況下引導使用更具成本效益的模型。

一項重要發現是行為面的：員工常在例行工作中預設使用最新、最昂貴的模型。Rippling 的領導層觀察到推理供應商缺乏幫助客戶限制支出的動機，且供應商提供的使用洞察有限。為了解決此問題，Rippling 開發了一個 AI 閘道，將提示路由到每項任務最合適且最經濟的模型。這項路由功能是 AI Spend Console 的核心元素，儘管已使用第三方閘道的企業仍可採用該產品，但某些功能會有些限制。

AI Spend Console 還提供將提示量與支出與輸出指標（例如程式碼行數或 pull request）做關聯的儀表板。這些儀表板讓公司能衡量高令牌消耗是否對應較高品質或更具生產力的工作。透過將支出資料與輸出衡量結合，Rippling 能夠識別那些令牌使用沒有產生相稱成果的團隊與個人。

使用這些衡量與路由控制後，Rippling 將令牌支出從原先預估佔研發預算 40% 降至約 15%，同時仍允許大量的內部 AI 使用。值得注意的是，令牌使用量後來回到先前的高峰水平，但成本只是先前數月的一小部分，因為路由系統偏好較便宜且有效的模型。 將路由導向更具成本效益的模型被證明是在不限制 AI 驅動生產力下降低成本的決定性因素。

除了技術控制外，公司也強調人為流程。Rippling 指定熟練的 AI 使用者為「AI 隊長」，協助同事並鼓勵有效實踐。該公司也在探索工程外更廣泛的使用範疇——例如自動化客戶入 onboarding 與資料對帳的部分工作——但承認在非工程職能上衡量生產力仍在進行中。如果行政與面向客戶的角色的令牌消耗無法可靠地與生產力掛鉤，存取政策可能需要更嚴格。

總之，Rippling 的經驗為企業提供了若干教訓：若無治理，令牌消耗會快速上升；具有不同價格與效能的多模型策略很有價值；路由與使用分析對控制成本至關重要；將技術控制與內部推動者結合有助於擴展有效實務。AI Spend Console 提供給 Rippling 的人力資源客戶，亦作為獨立產品對外販售，並以使用量計價的 AI 成本套用。該工具定位為一個治理與投資報酬率工具，幫助公司在採用 AI 與成本責任之間取得平衡。

關鍵洞見表