前言

背景： 來自美國與中國的兩組安全研究人員已提出對軍事使用人工智慧的緊急限制，以防止該技術自主瞄準核指揮系統或決定使用核武器。本文概述了他們的主要建議、背後的理由，以及此類協定如何納入更廣泛的努力以保留 人類控制 戰略系統。目的是說明為何專家認為這些措施是必要的、他們提出的具體行動，以及此類協議的潛在好處與局限。本文採取中立分析：呈現建議、它們欲解決的風險，以及各國採納這些建議時將面臨的權衡。

重點摘要

關鍵要點： 研究人員建議一條明確的紅線： AI 不得獨立授權對核指揮、控制與通訊系統（NC3）發動網路攻擊，也不得決定發射核武器。 他們還提出諸如軍事 AI 熱線以及對「有意義的人類控制」的共同行定義等機制，以降低自動化或不可預測系統導致快速升級的風險。

正文

人工智慧在軍事系統中的快速興起，促使專家檢視自動化可能如何改變戰略穩定性。分析感測器資料、評估威脅並建議或採取行動的系統，可以在遠超人類反應時間的速度下運作。雖然自動化在某些情境下可提升決策品質，但它也引入了新的故障模式：軟體錯誤、模型出現意外行為、對手干擾以及連鎖錯誤。當這些系統觸及核指揮、控制與通訊（NC3）基礎設施時，錯誤或非預期行為的後果可能是災難性的。

與華盛頓與上海機構有關的安全研究人員提出了一組針對 AI 最敏感軍事應用的限定措施。該建議的核心是一條二元規則： 只有人類應有權啟動針對他國 NC3 的網路攻擊或授權使用核武器。 這一原則呼應現有規範，將人類判斷與問責置於具有戰略影響的決策核心，同時將這些規範擴展到可能影響核穩定性的 AI 驅動網路行動。

支持這一核心承諾的實際措施包括幾項建議。首先，他們建議雙方採納對何謂「有意義的人類控制」的共同行定義——釐清何時需要人類授權以及人類判斷必須如何行使與記錄。其次，他們呼籲在首都之間設立專門的軍事 AI 熱線，以便當自動化系統產生模糊警報或似乎干擾 NC3 功能時，能迅速進行協商與避免衝突。第三，他們建議採取技術與程序上的保障措施，以降低事故、軟體故障或未經授權行為導致具有戰略影響行動的可能性。

報告強調，這些措施不必與更廣泛的網路安全或國防 doctrine 完全統一。相反，狹義目標是降低 AI 驅動流程將例行事件轉化為升級性危機的機率。NC3 系統執行三項關鍵角色：偵測來襲威脅、向領導人建議回應選項，以及傳送已驗證的發射命令。任何一步的錯誤——誤判遙測資料、建議先發制人的回應或傳送虛假的命令——都可能縮短決策時程並增加對人類領導人的壓力。以毫秒展開的自動反應幾乎不留審議時間，增加錯誤演變為不可逆戰略選擇的風險。

近期的示範與研究突顯了此事的緊迫性。在模擬戰爭遊戲中，大型語言與決策模型在面對資訊不完整或模糊的情境時，常建議快速升級到核選項。雖然模擬有其侷限且可能偏向某些結果，但它們凸顯出不透明或約束不足的 AI 如何偏向極端回應。另方面，私部門在監控與自主武器化上的爭議，也已顯示產業行為者、政府與法院正在努力劃定能力部署與使用的界限。

倡議者主張，美中之間一項聚焦的承諾可能帶來超出比例的利益。兩國擁有世界上最大的核武庫與最先進的軍事 AI 計畫；雙邊協定可協助為其他國家設定期望與規範。一項保留最關鍵行動由人類掌握的承諾，能降低自動化速度超出人類制度管理能力的風險。透明措施、約定的事件處理程序以及常態性的教義與防護交換，能進一步降低誤解。

然而，仍存在限制與挑戰。技術執行困難：驗證是否遵守禁止對 NC3 發動自動化網路攻擊的禁令，將需要具有侵入性的檢查或可靠的遙測資料共享，這些是各國可能不願允許的。對手也可能透過開發繞過承諾字面含義的秘密能力來尋求非對稱優勢。政治障礙亦相當重大——相互不信任、相互競逐的戰略目標與國內壓力都可能阻礙具約束力協議的談判或批准。此外，界定允許的自動化（例如 AI 協助的監測或決策支援）與被禁止的自主行動之間的分界，將牽涉複雜的法律與技術判斷。

儘管有這些障礙，作者強調，一條針對防止 AI 獨立啟動以 NC3 為目標的網路攻擊或下達核武使用命令的狹義規則，既可行又迫切。它不要求停止所有軍事 AI 的發展或在全面網路安全政策上達成一致。相反，它劃定了一個應明確且可強制執行的人類問責高風險領域。互補措施——如改進的驗證技術、聯合測試協定與建立信任的互訪——可強化信任並使合規更具可信性。

總結而言，提議將 AI 排除於最嚴重的戰略決策之外，旨在在危機中保留最後一道人類判斷防線。透過建立明確的紅線，雙邊承諾可降低意外升級風險、強化問責並為在軍事 AI 治理上建立更廣泛的規範與技術合作創造空間。華盛頓與北京是否會採納此建議，取決於戰略權衡、外交意願以及可行的驗證與危機管理工具的發展。儘管如此，這場討論顯示出不同界別的共識：某些職能——特別是涉及生存風險的——可能根本不適合由自主系統承擔。

重點見解表