目錄

• 你可能想知道
• 主要議題
• 關鍵見解表
• 後續⋯

你可能想知道

人工智慧會在幾年內超越全人類的整體智力嗎？

如果 AI 確實超越人類的智力表現，開發者與政府要如何降低安全與控制風險？

主要議題

伊隆·馬斯克最近表示，他認為人工智慧可能在大約五年內超越人類的整體智慧，並且在未來十年內人類可能在實務上失去對先進 AI 系統的控制。他將這種潛在轉變描述為雙重結果：自動化與超級智慧系統可能帶來前所未有的豐裕時代，同時也伴隨重大的存在性與治理風險。馬斯克的論點反映了部分技術人員持續的擔憂，即 AI 進展的速度可能超過社會預見並管理新興能力的能力。

根據馬斯克的說法，AI 的進展正朝向能在幾乎所有智力任務上勝過人類的系統發展，僅剩人類的主觀經驗可能成為潛在的區別。他將最可能的長期情境描述為一個「驚人豐裕的時代」，在那裡商品、服務與創造性產出因高能力的 AI 與機器人系統而廣泛可得。與此同時，他強調這種正面結果並不消除安全風險；相反地，它提高了利害關係，因為錯誤、濫用或錯配所造成的影響規模可能被放大，影響全球的人們。

這項關鍵見解顯著影響了對利益與風險如何共同增強的理解： 能產生龐大經濟與物質豐裕的系統，如果其能力未被充分理解與控制，也可能造成系統性脆弱。例如，一個能設計生物體、破解密碼或操縱大型社會系統的先進模型，可能產生比現有機構能回應的更快速傳播的危害。

馬斯克指出，他不再認為有一條現實可行的路可以停止 AI 的進展。他主張，研究、投資與部署背後的動能如此強大，以至於試圖實施全面暫停可能會失敗或產生反效果。有時他甚至質疑是否應使用理論上的「停止按鈕」，並指出停止開發也可能阻礙變革性利益的實現。這種矛盾突顯了 AI 政策中的核心挑戰：在避免災難性後果的願望與實現廣泛社會利益的潛力之間取得平衡。

為了管理這些風險，馬斯克提出了領先 AI 實驗室之間合作的做法。他建議頂尖開發者定期會面以討論安全與保安問題，並在受限、可控的條件下對前沿模型進行早期共享，讓同行在公開發佈前能識別危險或意外的能力。根據他提出的框架，如果某實驗室未能透過同行評審解決被識別出的嚴重危害，政府可介入以強制實施安全措施或更直接干預。

在主張合作的同時，馬斯克也批評某些組織的演變。他對一些團體從開放、非營利的起源轉向封閉、營利結構表示失望。馬斯克引用他對曾經非商業使命轉變為高價值、封閉源碼企業的反對意見，認為此類轉變會降低透明度並使合作性安全努力更為困難。他也評論了近期的法律爭議與判決結果，指出這些案例如何顯示出 AI 治理與商業模式之間的緊張關係。

同時，馬斯克也承認其他 AI 公司的領導者具有原則性的良好意圖。他表示有些創辦人與團隊是出於對人類未來的關切而行動，不應假定所有人都有惡意。然而，他仍警告不要自滿，並指出即使是抱有善意的行動者，若沒有適當的防護措施，仍可能無意間促成有害結果。

馬斯克強調，儘管存在個人分歧與過去的訴訟，競爭公司應當放下分歧以在安全方面合作。他的提議集中於務實步驟：對前沿模型進行相互審查、就危險能力進行先期警示交流，並在實驗室未減輕已識別風險時協調治理回應。其基本前提是，具備知識的開發者共同警惕可比零散或不透明做法更有效地偵測與降低危害。

這些想法反映了 AI 社群內更廣泛的辯論。有些專家支持自願的產業協調與透明度，而另一些人則主張更強有力的監管框架、獨立稽核或國際協議。各項提案面臨的關鍵挑戰是設計能在保留創新與競爭誘因的同時，確保強健監督、問責以及快速回應新興威脅的能力的機制。

最終，馬斯克的立場將對能力快速增長的預測與植根於合作監督的政策建議結合在一起。他將未來框定為同時充滿機會與風險的時代，敦促前沿開發者與政策制定者採取主動的安全措施與必要時的應變計畫。

關鍵見解表

後續⋯

展望未來，有數個技術與政策領域值得加強關注，以為馬斯克描述的情境做好準備。持續投資於健全、獨立的模型評估與紅隊測試，可幫助在大規模部署前偵測危險能力。透明度的改進——例如對訓練資料、能力評估與安全測試結果的標準化報告——將有助於問責與資訊充分的公共監督。加強國際協調關於規範與危機應對協議，能減少為了競爭快速部署不安全系統的壓力。

此外，對 AI 對齊、可解釋性與故障安全機制的研究仍然至關重要。能改善我們理解與約束模型行為的技術，以及能可靠關閉或遏止的架構，能實質降低存在性風險。政策創新——從對前沿模型的條件性安全認證到針對特別敏感能力的有針對性出口管制——也可能在平衡創新與保護上扮演角色。

投資於結合技術、法律與社會觀點的跨領域方法 將是關鍵。為一個 AI 帶來非凡豐裕同時將傷害降至最低的未來做準備，不僅需要技術性防護，也需要反映該技術全球影響規模的治理結構、公共參與與國際合作。