前言

來自 OpenAI、Google DeepMind、Anthropic 等領先機構的知名人工智慧研究人員，與各大公司及非營利團體一道，倡導全面探索技術以監控 AI 推理模型的「思維過程」。最近發表的立場文件中總結了這日益增長的興趣，強調需要仔細審查 AI 模型的外部化「思考鏈（CoTs）」，這對了解和控制日益先進的 AI 代理至關重要。

要點

AI 領袖 強調 CoT 監控的重要性 作為 AI 安全的關鍵工具。立場文件 呼籲開發透明性 以確保 AI 模型的決策過程保持明顯。

主體

技術領域似乎正在進行一場關鍵的變革，有影響力的 AI 研究人員和領袖堅決建議加強努力跟蹤 AI 推理模型的思維過程。值得注意的是，一份立場文件已經發佈，確定了通過有效監控這些認知過程以確保 AI 安全的重要方法。OpenAI、Google DeepMind、Anthropic 和各個相關實體已組成聯合戰線，呼籲更深入地探查 AI 系統所表現的所謂思考鏈（CoTs）。

這項倡議的核心在於 CoTs——一個使 AI 代理能夠通過類似於人類邏輯推理的方法來解決問題的關鍵方面。這些 CoTs 提供了對 AI 代理如何做出決策的重大洞察。專業人士爭辯說，通過提高監控這些過程的能力，可以在 AI 實體發展時施加相當大的控制力。

立場文件的作者強調 CoT 追蹤方法的現有脆弱性，倡導持續研究以改進和維持 AI 系統中的透明性。研究界被誠邀投入巨大的資源來了解什麼使 CoTs 可監控——特別是哪些特徵可以增強或阻礙我們對 AI 內部邏輯的洞察。

當像 OpenAI 的 Mark Chen、Safe Superintelligence 的 Ilya Sutskever 和 Geoffrey Hinton 這樣的行業領袖倡導這項研究時，很明顯科技界的巨頭們理解深入研究的迫切性——尤其考慮到對 AI 模型如何達成其結果的理解還很有限。

儘管 AI 的能力最近有迅猛的提升，但其決策方法的清晰度仍然難以捉摸。像 Anthropic 這樣的公司在這個領域中一直是領軍者，推動 AI 模型的可解釋性的進步。首席執行官 Dario Amodei 設定了到 2027 年揭示 AI“黑箱”的雄心勃勃的目標，強調要與 OpenAI 和 Google DeepMind 的同行共同承擔這項工作的責任。

立場文件的戰略行動號召是對 AI 利益相關者的號角，預示著潛在的資金注入和更大的研究重點。密切參與 AI 開發的公司需要承認這些討論的嚴重性以及 CoT 監控的預期性質，旨在確保行業內 AI 的安全性。

關鍵見解表

立場文件的重要性在技術領域裡回響，強調了在快速進步中統一研究追求和制定 AI 安全策略。尤其是在該領域的競爭動力加劇之際，旨在解開 AI 機制的合作努力為實現更安全、更負責的 AI 產出鋪平了道路。