目錄

• 您可能想知道
• 主要議題
• 關鍵見解表
• 之後……

您可能想知道

1. 使用第三方 AI 模型是否可能無意中將公司的最敏感的組織知識交給競爭對手？

2. 組織可以採取哪些實際步驟來在使用 AI 時維持對生成資料和學習成果的所有權與控制？

主要議題

在一篇近期備受關注的部落格文章中，微軟執行長 Satya Nadella 提出了一個投資人、主管與技術人士共有的日益關切：消費大型 AI 供應商智慧的組織，在互動過程中有可能交出專有知識。Nadella 的核心主張簡潔明瞭：AI 買家正承受雙重付費。他們支付計算或代幣使用的費用，同時也放棄了為獲得有用且準確模型輸出所需的寶貴領域專屬資訊。那些資訊——提示、修正、回饋與其他操作信號——可以被模型提供者萃取並用來改進未來模型，可能會使提供者能與其客戶競爭。

這個論點基於現代模型的學習方式。當人們與系統互動時，他們會產生 Nadella 所稱的「排放物」：他們發出的查詢、所調用的工具與代理，還有在模型出錯時採取的更正行為。隨著時間推移，這些更正會編碼成組織的know‑how。 這些組織的know‑how 通常代表競爭對手無法在公開市場購得的策略性優勢。若模型提供者能將此類信號納入訓練與模型精進，客戶實際上就把一部分競爭優勢轉移給了提供者。

Nadella 指出業界作法中的一個矛盾。大型模型製造者通常依賴對公開資料的廣泛存取——有時以合理使用或其他寬鬆的訓練假設為由——來建立強大的模型。然而，這些組織可能會對下游行為如「蒸餾」施加限制，蒸餾指的是透過反覆互動萃取模型行為並用這些輸出來訓練次級模型。在 Nadella 看來，主張可自由抓取並以公開資料訓練的模型供應商，不該再阻止客戶檢視或蒸餾他們所依賴的模型。他提出的原則是互惠：如果 AI 提供者因不受限制地存取公開資訊而受益，客戶就應保有從所使用模型中學習的權利。

問題在於某些合約語言明確賦予提供者從客戶使用中學習的權利。有些提供者在條款中加入條款，允許他們收集、分析並納入使用數據以改進產品。當這類條款被行使時，企業面臨的風險是日常使用中產生的專有信號會被納入提供者的模型，可能驅動出競爭性產品或讓提供者以垂直化服務削價競爭。Nadella 將這些做法視為對客戶在策略上有問題且在倫理上令人擔憂。

針對這些顧慮，Nadella 提出一套實際且以雲端為中心的緩解措施。他敦促公司保留對其資料——提示、回饋、使用日誌——的明確所有權，並建構能在保留該所有權的同時，允許安全且高效使用 AI 的架構。其中一個建議機制是在雲端平台上構建專有學習環境，企業可在此集中其資料並強制執行關於資料使用方式的政策。另一個是建立協調層或 AI 閘道，讓組織能跨多個模型提供者路由請求並在業務需求演變時切換模型。這些層可降低鎖定，並更容易控制離開企業邊界的資訊。

雖然 Nadella 並未明確把開源作為唯一解方，但他的建議隱含的影響與許多組織轉向開源模型與本地部署的理由相符。企業越來越多地評估：在其內部或客戶可控的雲環境中運行開源模型，是否能以更低成本且更強治理交付大部分所需能力。在本地或專用雲租戶中運行模型，可以對遙測、微調與政策執行進行更嚴格的控制——這些緩解措施正是針對 Nadella 描述的風險。

產業觀察者與供應商報告出現明顯的轉變。在使用專有雲端模型進行試點後，一些企業開始詢問是否能自行部署開源模型，以在保留控制權的同時達到類似能力。提供 AI 基礎設施、模型切換閘道與路由服務的公司，因為組織尋求靈活性與保護其由資料衍生知識的需求，而見到需求增加。實務上的取捨常被指出：開源或本地模型初始表現可能略遜一籌，但提供更強的治理與較低的持續資料暴露風險。

Nadella 的公開立場更具分量，因為微軟在 AI 生態系中擁有投資與合作關係。他的建議——資料所有權、專有學習環境與協調層——自然與雲端供應商能夠提供的服務相一致。不過，核心訊息超越了供應商立場：組織應當認識到互動式使用 AI 會產生有價值的知識，並應設計系統與合約，使該等知識的權利仍與創造它的組織保持一致。

最後，Nadella 強調了關於公平與互惠的規範性觀點。如果模型提供者得以存取龐大的人工創作內容語料，則有一個論點認為使用模型而產生價值的人，不應自動放棄由此得出的洞見。這場辯論涉及法律、商業與倫理面向：如何定義可接受的訓練資料作法、如何規範逆向工程或蒸餾，以及如何在鼓勵創新與防止競爭傷害之間取得平衡。

關鍵見解表

之後……

展望未來，有數個技術與政策領域值得重點關注。首先，強健的資料治理與來源機制——能夠為提示、回饋與訓練信號標記、追蹤並強制使用限制的能力——對於將 Nadella 所描述的所有權具體化至關重要。 隱私保護的學習方法，包括聯邦學習、差分隱私與合成資料生成，能在降低暴露敏感組織知識風險的同時，仍維持模型的實用性。

第二，關於遙測與學習權利的合約清晰化標準作法將很重要。明確且可執行的合約語言，說明提供者是否可以在何種條件下使用來自客戶的信號作為訓練素材，將能降低模糊與風險。互補的技術控制——例如加密、租戶隔離與專用本地模型託管——可以以可執行的障礙來支撐合約承諾。

第三，關於模型互操作性與蒸餾工具的開放生態系，將賦能組織在不放棄控制權的情況下切換提供者並從模型取得價值。對協調框架、模型註冊表與受稽核閘道的投資，將幫助企業採用結合最佳模型與安全治理的混合策略。

最後，公共政策與產業標準將形塑這些緊張關係如何解決。政策制定者可能需要考量，對公開與私人資料集的訓練是否需要更明確的同意、補償與互惠規則。產業聯盟與標準組織也可透過定義遙測使用、蒸餾權利與供應商責任的最佳實務來發揮作用。

總之，Nadella 的警告凝練出採用第三方 AI 的企業面臨的一項實務風險：他們在使用這些工具時所創造的知識，可能與工具本身同等有價值。緩解該風險需要技術設計與合約框架來保留所有權與控制。如果企業、雲端供應商與政策制定者在透明度、治理與互操作性上達成一致，就有可能在最大限度利用 AI 的同時，將無意轉移組織優勢的情形降到最低。