目錄

• 你可能想知道
• 主要議題
• 關鍵見解表
• 後續…

你可能想知道

政府強制暫停 AI 發展是會保護公共安全，還是主要鞏固既有企業？如何設計防護措施以降低災難性風險而不阻礙競爭？

主要議題

自由主義智庫卡托研究所（Cato Institute）主張，政府實施的 AI 發展暫停，可能對保護既有公司比提升安全更有利。在一篇部落格文章中，科技政策學者 Jennifer Huddleston 認為，自願性的產業防護措施與共享標準可以在不全面阻止創新的情況下，解決許多具體風險。她警告，全面性的暫停可能產生意想不到的後果，削弱競爭與安全。

Huddleston 強調，制定規則通常很慢，且常常難以跟上快速的技術變遷。針對當前模型狀態量身打造的監管框架可能很快變得過時，甚至可能 阻礙日後出現更好或更安全的方法採用。由於監管者可能將規則綁定於特定架構或能力，能以龐大資源滿足那些要求的公司可能會取得持久的優勢。

其中一個核心關切是市場集中度。Huddleston 主張，以領先開發者的做法與能力為基礎塑造的規則，可能有效地製造准入障礙，使小型公司與新進者更難競爭。這種潛在的市場被俘形式可能放緩創新並鎖定既有企業的主導地位。從這個角度看，監管性暫停或嚴格的要求可能在無意間保護既有業者，同時延緩有益技術的出現。

Huddleston 亦指出國家安全與網路安全的影響。如果美國的發展暫停，而外國競爭對手持續前進，美國的系統與防禦可能會落後。海外對手發展的速度可能限制單方面暫停的效果，並可能使暫停國在商業與安全領域處於不利地位。

這些憂慮出現在各種政策建議與公共辯論之中。包括參議員 Bernie Sanders 與眾議員 Greg Casar 在內的立法者，已提議在聯邦安全標準到位前暫停先進 AI 的開發，並建議禁止人工超級智慧。同時，業界人物如 OpenAI 執行長 Sam Altman 呼籲採取較慢、更謹慎的開發並強化防護措施，同時敦促公司在等待聯邦行動前不要完全停止採取安全做法。

前 Twitter（今 X）執行長 Jack Dorsey 對由大型開發者協商的產業性限制亦提出類似反對意見。他主張，為最大行為者的能力與資源設計的規則，可能排除最有可能發現缺陷或提出替代方法的獨立研究者與小型團隊。Dorsey 更偏好透明的釋出方式，讓外部研究者能檢視、修改與測試模型，並附上已發表的評估與限制，以便外部批評者能挑戰安全主張。

同時，Dorsey 支持獨立測試、公開問責，以及在有證據顯示釋出模型會大幅提高災難性風險時採取針對性限制。他在廣泛的發展上限與針對性措施之間做出區分：計算資源審查或獨立評估能在不實施全面開發停止的情況下約束風險。任何基於安全疑慮所施加的延遲，都應由明確且可證明的災難性風險例外來證實，而非例行的審批要求或無期限的等待期。

其他分析師與組織強調不同的權衡。例如，大西洋理事會（Atlantic Council）的一項分析指出，競爭壓力需要可強制執行的安全標準，而國家之間的不信任——特別是美國與中國之間——使國際協調變得複雜。也存在反壟斷的問題，即競爭者在法律上是否可以協調放慢開發；據報導，OpenAI 曾詢問立法者此類協調是否會引發法律問題。

總而言之，辯論在於平衡立即降低災難性風險的渴望與對競爭、創新及國家安全的更廣泛關切。支持暫停者主張，先進 AI 的潛在危害值得採取預防措施；而批評者則主張，此類措施可能是粗糙的工具，會鞏固既有者並阻礙有益的進展。許多評論者主張採取混合方式：對可證實的災難性風險實施針對性限制、進行獨立測試與透明化，並採用隨技術演進而調整的靈活監管設計。

Huddleston 的核心訊息是提醒避免由恐懼驅動的過度廣泛政策制定。她建議，匆忙制定反映當前市場領導者能力的監管，可能造成長期負面後果，超過預期的安全效益。相反地，她強調自願性防護措施、共享技術標準與可調適的監管框架，作為在不必要限制競爭或技術進步的情況下，減輕風險的替代方案。

關鍵見解表

後續…

展望未來，政策制定者面臨艱難的平衡：設計能實質降低災難性風險的安全措施，同時避免設計出無意中保護既有者或扼殺有益創新的監管。辯論顯示需要靈活、以證據為基礎的方法——強調透明度、獨立評估，以及對有充分證明風險的針對性限制——並仔細關注競爭與國際局勢。

立法者、研究人員、產業參與者與公民社會之間持續對話將是關鍵。制定能隨技術進步而調整，並同時促進安全與競爭的機制，或許能提供一條在不關閉未來改進的情況下處理最嚴重擔憂的路徑。最終的挑戰是建立一套與其所欲引導的技術一樣具動態性的治理。