目錄

• 你可能想知道
• 主要議題
• 重要見解表
• 後續…

你可能想知道

人工通用智慧（AGI）可能在幾年內出現並從根本上重塑社會嗎？

現在應該引入哪些制度性和技術性措施，以在部署前評估和管理前沿人工智慧？

主要議題

在最近一次公開聲明中，Google DeepMind 的執行長 Demis Hassabis 重申他認為人工通用智慧（AGI）可能迫在眉睫——可以說在幾年內就會出現。他將 AGI 描述為並非像手機或網路那樣的漸進式技術進步，而是一種堪比發現火或電的劃時代發展。這樣的比擬強調了變革的潛在規模：AGI 將使機器能夠理解、學習並執行廣泛的任務，達到或超越人類水準，並在經濟、制度與日常生活各方面產生連鎖效應。

Hassabis 主張，這是一個既充滿機遇又伴隨風險的時刻。在機遇方面，AGI 可加速科學發現、自動化複雜任務，並實現先前超出人類能力範圍的功能。在風險方面，人工智慧能力的快速提升已經帶來具體的危害——網路安全漏洞、錯誤資訊與濫用——未來的系統可能引入更為嚴重的威脅，包括生物、核子與國家安全相關的風險。隨著系統變得更有代理性且具自我改進能力，這些憂慮會進一步加劇。

為了同時應對 AGI 的承諾與危險，Hassabis 建議成立一個美國前沿 AI 標準機構。部分參考像金融業監管機構（FINRA）等公私監督範例，該提議的組織將是在聯邦監督下的公私夥伴關係，主要由業界出資。該機構將由獨立技術專家與開源社群代表組成，其職責是透過嚴謹且具適應性的發布前測試來評估前沿 AI 模型。

Hassabis 強調，發布前測試應該是動態的、嚴格的，並可能對最有能力的系統設為強制性。 目的是建立一套一致、以技術為基礎的方法，用來在模型公開部署前評估能力並識別風險。該提議的機制反映出該領域領導者對於更強監督的共同訴求：其他知名人士最近也呼籲政府對強大系統進行許可、獨立安全審核，並建立以既有機構（例如 FAA）為範本的監管框架。

Hassabis 也警告，社會對於先進人工智慧的理解與治理目前落後於技術進展。他指出，許多風險今日已是已知，隨著系統能力增強，新的危害會變得更清晰。因此，在 AGI 到來之前，只有有限的時間窗口可以建立共同標準和強健的防護措施。他主張，現在建立準則與測試框架，能增加 AGI 被安全引導進入廣泛使用的可能性——有機會帶來一個科學與社會進步的新時代，而非混亂。

歷史與近期的政策發展為此提議提供了背景。自從 2022 年 ChatGPT 公開發布以來，關於 AGI 的速度與治理的討論已加劇。2026 年初，其他 AI 公司的領導人表示，人類水準的 AI 可能在幾年內出現，促使政府加速關注。政策制定者已透過多種措施回應，包括自願審查框架與行政行動。Hassabis 的提議透過勾勒一個具體的制度化模式，加入了這些討論，目的是在發布前對前沿模型進行持續且以技術為依據的監督。

該建議的標準機構將有數項實務目標：測試前沿系統的誤用途徑與湧現能力、制定安全與可靠性的基準，並建立一個讓獨立專家評估結果並就緩解措施提供建議的論壇。透過業界資金與獨立技術專業知識的結合，此模式旨在將領域知識與公正評估相結合——減少利益衝突，同時運用必要資源以進行強健的評估。

最後，Hassabis 將此時刻框架為一項集體責任。他強調，文明未來的軌跡將由這有限的準備窗口中的選擇所塑造。深思熟慮且資源充足的治理，可以幫助實現 AGI 的巨大利益——加速研究、改善醫療照護、提升經濟生產力——同時減輕災難性風險。相反地，不作為或分裂的回應可能放大危害並破壞公眾信任。

重要見解表

後續…

展望未來，有幾個應優先關注的研究與制度發展領域。在技術方面，強健的可解釋性研究、模型行為驗證與失效保護控制架構的工作，對確保系統保持與人類價值與限制一致至關重要。持續投資於紅隊測試、對抗性評估與跨學科風險評估，將有助於揭示不可預見的弱點。

在政策與治理面，應同時推進像所提議的前沿 AI 標準機構之類的公私監督模式實驗，並加強國際合作。全球協調很重要，因為 AGI 的風險與利益超越國界。政策制定者還應考慮確保透明度、獨立審計與高風險部署透明通報的機制。

最後，社會準備度也很重要：教育、勞動力轉型規劃與關於倫理優先事項的公共對話，對於管理中斷並將 AGI 的利益導向廣泛的人類繁榮而言是必要的。通過結合 技術防護、知情治理與包容性的社會規劃，人類更有機會將 AGI 引導向擴展機會同時遏制傷害的結果。

簡言之，主張很明確：AGI 可能快速到來並改變幾乎一切。現在採取的行動——技術上、制度上與社會上的——將決定這一變化是作為一個受控過渡進入一個新能耐的時代，或作為一個帶來嚴重後果的失控斷裂。