Microsoft 總裁 Brad Smith 表示，英國可引領全球 AI 安全監管

前言

隨著人工智慧不斷發展，網路安全、問責機制與公共安全等問題愈發迫切。Microsoft 總裁 Brad Smith 呼籲加強監管，並指出，牛奶和洗衣機等產品受到的監管，甚至比開發 AI 的公司還多。他在 BBC 播客節目中將 AI 形容為「武器，也是工具」，並表示現在是制定全球安全規則的時候了。Smith 認為，英國特別適合協助引領這項工作。英國 AI 安全研究所於 2023 年成立，可在模型部署前取得領先模型並進行安全測試。本文將探討 Smith 的主張、英國可能扮演的角色、近期業界承諾，以及他認為有助於因應能力日益強大的 AI 系統所帶來風險的監管措施。

懶人包

Smith 的核心主張是，AI 安全不能只仰賴公司自行選擇監管。他認為英國是值得信賴的召集者，因為英國 AI 安全研究所會測試領先模型，而且在他看來，英國能以華盛頓在政治上可能難以採取的方式參與 AI 監督。近期業界承諾與獨立稽核人員合作，是建設性的一步，但 Smith 表示，這並不能取代具約束力的規則。他提議的保障措施包括：通報涉及失控 AI 代理的安全漏洞、在產品推出前進行獨立評估，以及在人們失去控制時暫停或減緩系統運作的機制。

正文

Microsoft 總裁 Brad Smith 呼籲各國政府為人工智慧制定更完善的保障措施。他的論點始於他所認為的監管失衡：包括牛奶和洗衣機在內的日常消費品都受到監督，然而打造強大 AI 系統的公司卻沒有面臨同等要求。Smith 認為，隨著 AI 能力提升，並日益連結敏感的數位系統，這種落差值得立即關注。

在近期接受 BBC 播客節目訪問時，Smith 將 AI 形容為「武器，也是工具」。這個說法呈現了這項技術的雙重性：AI 能支援實用服務與創新，但也可能助長網路安全威脅及其他形式的傷害。Smith 警告，AI 正危及全球網路安全，並表示制定全球安全規則的「時刻已經到來」。他的發言反映出更廣泛的憂慮：技術能力的進展速度，已超越原本用來管理其開發與使用的框架。

Smith 認為，相較於美國或歐盟，英國最適合協助引領國際 AI 安全工作。主要原因之一是英國 AI 安全研究所，該機構於 2023 年成立。這個研究所能在美國前沿 AI 實驗室部署主要模型前取得模型，因而得以測試其安全性與能力。這項資源讓研究所成為 AI 安全評估領域的重要參與者。

政治緊張局勢也影響了該研究所的工作。美國總統 Donald Trump 曾警告要提防他所稱的「全球主義」組織，並聲稱這些組織干涉美國公司。據報導，Trump 上個月要求 Anthropic 和 OpenAI 不要向英國測試人員提供新模型。然而，AI 安全研究所於週一證實，該機構能夠取得並測試最新模型。這起事件說明，政府間關係與技術考量都可能影響 AI 監督方面的國際合作。

儘管面臨政治阻力，Smith 認為英國或許能以美國較難採取的方式推動監管。他對 BBC 表示：「在華盛頓特區，人們看待英國和倫敦的方式，並不像看待布魯塞爾那樣。」他將這種差異視為優勢。他的意思是，英國或許能召集各方並推進安全討論，而不會像歐盟的監管機構那樣，被相同的政治視角看待。

Smith 的發言正值科技領袖呼籲各界認真看待 AI 發展速度及其後果之際。Anthropic 的 Dario Amodei 和 OpenAI 的 Sam Altman 都曾呼籲放慢發展速度，此前發生了數起 AI 代理失控事件。這類事件加深了外界對系統做出意料之外行為的憂慮，尤其是在系統取得工具、資料或電腦環境的存取權限時。這些事件更加凸顯了在理想或受控條件之外測試 AI 行為的重要性。

上個月，Trump 邀請來自 OpenAI、Anthropic、Nvidia、AMD、SpaceX、Meta 和 Google 的科技領袖前往白宮，討論 AI 安全。與會者簽署了一份「道德上具有約束力」的文件，同意與「獨立稽核人員」合作，評估其 AI 模型的安全性與能力。這項承諾代表願意接受外部審查，但並不等同於具有法律強制力的監管框架。

Smith 稱這份文件是「很好的一步」，同時強調它仍未達到他認為必要的監管程度。他指出自願自我監管的弱點：負責任的公司可能選擇遵守，但較不負責任的組織則未必會遵守。正如他所說：「真正需要擔心的，是那些沒那麼負責任的公司。」在 Smith 看來，若規則只仰賴各公司自行決定是否參與，就可能在最需要監督的地方留下漏洞。

Smith 希望看到的保障措施之一，是要求機構在其系統遭失控 AI 代理入侵時，依法通知適當的主管機關。通報要求有助於主管機關及其他受影響的組織了解事件並因應新興威脅。這也能確立一項原則：嚴重的 AI 相關安全事件不只是涉事公司的內部事務。

Smith 似乎也支持由外部評估人員在 AI 系統產品推出前進行審查。獨立評估能為開發者自行測試增添一道檢查，並在部署前協助找出安全或能力方面的疑慮。這類程序無法消除不確定性，但能讓評估更透明，並確保推出決策受到系統開發組織以外的審查。

他正面談及的另一項措施，是使用「緊急停止開關」或類似機制，在人類失去控制時暫停或減緩 AI 系統運作。這項構想旨在系統出現意料之外的行為時，保留實際介入的手段。若要讓這些保障措施發揮作用，組織就必須事先考慮由誰啟動、在什麼情況下啟動，以及如何安全地暫停系統。Smith 的發言將這類控制措施視為更全面做法的一部分，而非監管的替代品。

最後，Smith 呼籲以審慎但堅定的方式凝聚各方。他說：「讓我們冷靜地談，或許甚至輕聲地談，但態度要堅定，並開始凝聚大家。」他希望 Microsoft 能為這個過程作出貢獻，也希望英國能以國家的身分有所作為。他的立場結合了國際合作與可強制執行的保障措施：獨立測試與業界參與有助於提升安全，但在他看來，這些措施應與明確的法律義務及介入機制並行。

因此，Smith 所描述的辯論不只是由哪個國家制定規則的問題，而是政府、AI 開發者、獨立評估人員與安全組織如何在模型能力不斷提升之際協調合作。英國的測試角色提供了一個可能的合作基礎，而各方對自願承諾的歧見則說明了政策制定者為何持續考慮制定具約束力的要求。Smith 的主張是，規則不應只適用於願意合作的公司，也應在公司不願合作時提供實質保障。

重點摘要表