重點摘要

Andy Konwinski，Databricks 與 Perplexity AI 共同創辦人，主張 AI 安全的論述正被用來將前沿模型的控制集中化，而非真正減少危害。他指出 Anthropic 曾短暫決定降低對疑似競爭者的輸出作為私人實驗室單方面掌控的例子。 Konwinski 警告說，集中化的 AI 權力會產生可與其他基礎設施壟斷相當的結構性風險，並提議建立一個擁有前沿規模運算資源的研究公地，讓頂尖研究者在不依賴私人守門人的情況下取得能力。

情緒分析

• 本文整體情緒為混合到批判。它凸顯了對產業安全敘事的擔憂與懷疑，同時支持開放與去中心化作為補救之道。語氣在對當前趨勢的謹慎與對替代制度解決方案的樂觀之間調和。批評指向那些把安全當作限制存取理由的私人公司，以及可能藉由激起公眾恐懼來合理化整合的宣傳。同時，支持開放的人物——例如 Yann LeCun——被正面呈現，將去中心化視為 AI 基礎設施較健康的長期走向。

文章內文

Andy Konwinski，因共同創立 Databricks 與 Perplexity AI 而聞名，最近發表文章主張，當前關於 AI 安全的討論可能成為集中權力的藉口，而非防止傷害。他將這種動態追溯到產業的具體行為與更廣泛的制度誘因。Konwinski 的核心主張是，當領先實驗室控制最強大的模型並制定存取與可允許使用的規則時，他們會改寫風險圖景：集中化並非消除危害，而是將其轉變為系統性依賴與控制點。

他的批評以近期 Anthropic 的事件做為焦點範例。當 Anthropic 發布 Claude Fable 5 時，其系統說明文件中包含一條條款——隱藏在文檔深處——表示若懷疑用戶將輸出用於訓練競爭系統，模型可降低回應。發現該條款的研究者引發公眾反彈，Anthropic 很快便撤回該政策。對 Konwinski 而言，該撤回並不削弱論點：更重要的問題在於私人公司對基礎性技術的行為做出單方面決定。在他看來，這種單方面作法反映並強化了對將產生廣泛社會影響的基礎設施的集中權威。

Konwinski 在透過 Laude Institute 於舊金山 Exploratorium 所召集的 Open Frontier 工作會議後發表了他的文章。會議吸引了大約一百名研究者，並表明對前沿運算的替代治理與存取安排有興趣。Konwinski 將 AI 框架化為類似鐵路、電力與互聯網的基礎設施——這些技術在歷史上重新組織了經濟與政治權力，使控制基礎層的人獲益。他警告說，如果對尖端 AI 的存取仍由少數私人行為者把持，結果的權力不對稱可能持續很久。

為了對抗該走向，Konwinski 提議建立一個研究公地，為合格研究者提供前沿規模的運算資源，而不需私人實驗室的許可。目標是保有獨立科學家與機構在前沿測試、稽核與開發模型的能力，從而分散技術能量並減少單一節點的控制點。原則上，此類公地將允許在比專有、排他模式更具透明與參與性的條件下進行安全研究。

來自各界的聲音做出回應。圖靈獎得主 Yann LeCun 公開呼應 Konwinski 的擔憂，指出權力集中與控制資訊的慾望是當前 AI 發展趨勢中最嚴重的危險之一。LeCun 提出歷史類比，將實驗室封閉式控制比作一種中世紀的朦朧主義——類比鄂圖曼帝國為了保全既有權威而延遲採用印刷術。他預測基礎模型最終會被視為基礎設施、被商品化，且商業價值將轉向應用層而非基底模型本身。

LeCun 本人的路徑反映了這一觀點：離開 Meta 後，他在巴黎創立了 AMI Labs，獲得資助以追求開放研究並探索強調世界模型與通用表徵的架構。他已表示有意逐步公開研究，體現開放與共享開發可作為對抗權力集中之替代方案。對 Konwinski 與志同道合的研究者而言，這類計畫示範了實際可行的應對方法。

討論也觸及大型企業在重要企業事件前的宣傳語彙。觀察者指出，圍繞 IPO 與其他策略性時刻的安全導向溝通，可能成為有說服力的工具，塑造公眾認知與監管態度，進而使既有企業受益。批評者認為，這種動態有將真實安全需求與限制競爭對手存取關鍵能力的競爭策略混為一談之風險。

總體而言，討論將 AI 安全重新框定為一個社會政治挑戰，與技術挑戰同等重要：誰來治理能力的基礎層，決定了風險如何分配、哪些研究被允許、以及哪些行為者獲得持久槓桿。Konwinski 的立場並非否認安全關切，而是認為這些關切不應成為鎖定關鍵資源的主要正當理由。 他強調，維持廣泛且公平地存取前沿運算，對於健全的安全研究與對變革性技術的民主監督都至關重要。

隨著該領域持續演進，有關治理、存取與 AI 發展的制度形式的討論，可能會影響採取哪些技術路徑以及哪些社會結果較有可能出現。集中控制與開放、分散能力之間的緊張關係，對那些選擇具有核心意義。

關鍵見解表