重點摘要

OpenAI 承認人工智慧瀏覽器提示注入的持續安全風險，這是一種透過隱藏指令操控人工智慧行為的網絡攻擊手法。儘管不斷努力增強安全性，這些攻擊仍構成長期挑戰。提示注入不太可能被完全「解決」，這引發了對人工智慧網路運作安全性的疑慮。 OpenAI 以主動措施應對此問題，包括訓練有素的強化學習攻擊者，但亦承認此網絡安全領域的複雜性。

情感分析

• 整體情感是謹慎的，混合著警惕和對長期問題的認識。
• OpenAI 的主動立場反映出對未來解決方案的正面展望，但亦承認挑戰。
• 明確指出了潛在的風險以及克服這些風險的承諾。

文章內容

OpenAI 目前正處理其 Atlas AI 瀏覽器中的提示注入攻擊的持續安全威脅。在最新的通訊中，OpenAI 承認提示注入—這些利用網站或電子郵件隱藏指令操縱人工智慧代理人的攻擊—構成了持續性的風險，類似於傳統的詐騙或社會工程技術，這些技術從未完全消除。

該公司透露，在十月推出的 ChatGPT Atlas 瀏覽器暴露了這類攻擊的新漏洞。值得注意的是，安全研究人員展示了利用 Google Docs 等常見應用程式進行的攻擊方式，強調了提示注入的複雜性和潛在影響。

OpenAI 對此問題的應對措施涉及多方面策略。他們開發的「基於 LLM 的自動化攻擊者」標誌著向前的一大步。該攻擊者在模擬中使用強化學習來從攻擊者的角度識別和利用潛在漏洞。透過理解人工智慧的內部推理，OpenAI 意識到比現實世界的攻擊者更快地發現和修補缺陷。

儘管這種自動化攻擊者的能力強大，OpenAI 強調降低風險和影響，而不是完全「解決」提示注入，是最實際的方法。英國國家網絡安全中心與此觀點一致，建議採取措施來減輕而不是完全阻止這些攻擊。

OpenAI 的措施包括大規模測試和快速修補更新以預防潛在的安全漏洞。然而，來自 Wiz 的 Rami McCarthy 等專家對於代理瀏覽器的效用提出警告，尤其是考慮到它們的重大風險暴露，特別是有關敏感數據存取的問題，相比於目前為用戶提供的價值。

McCarthy 強調在人工智慧系統中平衡自主性和訪問的重要性，指出用戶應用的限制訪問和確認行動等做法是防範提示注入的關鍵防禦。隨著人工智慧瀏覽器的發展，OpenAI 仍然致力於細化這些平衡以可持續地提升安全性。

關鍵見解表格