前言

背景： 隨著大型語言模型（LLM）在發現軟體問題方面快速進步，資安計劃與廠商面臨一項新挑戰：大量自動化、低品質的漏洞報告可能淹沒分類系統。本文說明為何這波激增促使 Apple 限制研究人員同時可擁有的未結漏洞報告數量，以及該政策如何短暫阻止一起合法且高價值的 macOS 漏洞利用被提交。本文旨在概述廠商在平衡由自動化驅動的發現與可靠的人類驗證時所面臨的操作權衡，並說明 AI 如何重塑實務上的安全研究與攻擊者市場。

核心要點

要點： AI 工具正在產生大量漏洞報告，但並非全部有用。為了保護分析人員的負荷，Apple 對未結提交數設置上限 — 此一決定意外地阻擋了一條估值約 10 萬至 20 萬美元的 macOS 權限提升利用鏈。公司現在必須將 AI 輔助的發現與謹慎的人類審查及新的收件控管相結合。

主體

近幾個月來，強大 LLM 與普遍可得的漏洞懸賞與揭露計劃交會，產生了大量的漏洞提交潮。雖然自動化工具與 AI 可比以往更快地發現合法且細微的缺陷，但它們也產生大量低品質或誤報。這種湧入會使廠商的分類小組不堪負荷，延遲真實問題的修補，並迫使平台營運者改變接收與處理報告的方式。

Apple 回應此問題，對單一研究人員在任何時間點可擁有的未結漏洞報告數量實施了限制。公司還對達到上限的研究人員要求 30 天的冷卻期，並要求較大額度需提出正式申請。Apple 表示，這些調整是在其安全收件系統被大量 AI 生成的提交淹沒後所必須採取的，而這些提交常將不存在或微不足道的錯誤描述為可利用的漏洞。

此政策改變產生了立即且具體的後果。米蘭一家名為 Bynario 的新創公司回報稱，透過 ChatGPT 驅動的工作流程，它在三週內於最新的 macOS 版本中發現了超過 50 個問題。在這些發現中包含一條權限提升的利用鏈——一組可串連的漏洞，串連後可讓攻擊者完全控制 Mac。然而，因為 Bynario 已達到 Apple 的新提交上限，因此無法在當時提交該報告。Bynario 評估該利用在犯罪市場的價值介於 100,000 至 200,000 美元之間。

此事件凸顯了廠商面臨的艱難操作性權衡。一方面，不受限制的提交流增加了快速識別並修補嚴重漏洞的機會。另一方面，未經篩選的大量低投入或 AI 生成報告會消耗有限的分析師時間，遮蔽高優先度問題，並拖慢回應流程。

Apple 並非唯一面臨此問題的公司。其他安全平台與廠商也回報了類似情形。例如，Bugcrowd 指出三週內提交數增加了四倍，且許多報告為低品質。HackerOne 與 Nextcloud 暫停或調整獎勵計劃，以避免在其開發過濾機制時為低投入、AI 驅動的報告付費。這些措施反映出業界有一項更廣泛的需求：精煉收件管道並開發能將真實可利用缺陷與噪音區分的更佳自動化分類。

與此同時，LLM 與專門化 AI 模型在揭露真實漏洞方面也在進步。廠商曾表示，像 Anthropic 與 OpenAI 等公司協助揭露了合法缺陷。Anthropic 發布了一款針對資安用途的模型，其他公司也使用先進模型在重大軟體專案中發現具影響力的漏洞。在內部測試中，Mozilla 回報透過 AI 輔助流程於 Firefox 中揭露了數百個漏洞。

一些資安研究人員已調整工作流程以避免提交潮帶來的陷阱。例如，據報導，一家越南新創選擇親自到 Apple 總部展示一個可運作且穩健的 macOS 利用，而不是透過已淹沒的入口提交，藉此確保該問題會被注意並處理。同樣地，其他研究人員與團隊在擔心自動化收件系統會掩埋重要報告時，會採取協調揭露通道或直接聯繫的方式。

AI 對資安的影響不僅止於發現，也延伸至利用。有案例顯示攻擊者使用 AI 發現並武器化長期存在的漏洞。例如，一個開源硬體錢包的韌體漏洞據稱多年未被發現，直到攻擊者利用它竊取大量資金為止。在另一案例中，研究人員使用基於 LLM 的工具發現了微妙缺陷，使得某隱私導向的加密貨幣實作出現無法被檢測的貨幣偽造，促使該協議立即進行升級。

為了同時管理 AI 驅動漏洞發現的利弊，廠商與平台正嘗試多項因應措施：

• 設定速率限制與配額系統以防止收件淹沒，同時保留研究人員存取權。
• AI 輔助的分類以篩選或優先排序報告，並以人工驗證作為最終決定。
• 調整獎勵與計劃規則以阻止大量低投入提交並鼓勵高品質發現。
• 為具有高度信心的研究人員提供直接接洽管道，以便私下升級關鍵發現。

每種方法都有其侷限。速率限制可能會阻擋合法提交，如 Bynario 案例所示。自動化分類若模型不夠精確，可能產生漏判（false negatives）。收緊的獎勵政策可能降低某些研究人員的參與意願。因此，組織必須制定能謹慎取捨的政策：保留 AI 工具的發現能力，同時確保關鍵的人類審查與升級通道仍可用。

中期來看，AI 模型的改進與更複雜的過濾方法應能降低誤報，並更好地凸顯真實且高影響力的漏洞。跨產業合作與針對收件與分類的共同標準，也可協助廠商擴展安全且公平的揭露計劃。與此同時，Bynario 事件提醒我們：保護分析人員負荷的操作控制可能有意外後果，廠商必須建立彈性的例外與直接接觸渠道，以在緊急且高價值的發現出現時能予以捕捉。

結論： AI 加速了漏洞發現，但也產生操作性摩擦。廠商必須改進收件、分類與互動做法，避免自動化產生的大量資訊淹沒真實且高風險的報告，或導致關鍵利用未被通報。

關鍵見解表