Google 的 SynthID 水印協助揭露 AI 生成的麥康奈爾醫院影像騙局
目錄
你可能想知道
一個不可見的水印能否可靠地揭示流傳影像是否由 AI 生成？
依賴廠商支援的標記系統以對抗深偽的實際限制是什麼？
主要主題
最近網路上流傳一張看似顯示參議員米奇·麥康奈爾（Mitch McConnell）躺在醫院病床、連接管路且看起來病重的影像。該照片在 Reddit 與 X 等平台廣泛傳播，引發對參議員病情的強烈猜測。然而，事實查核者調查後認定該影像並不屬於真實照片。關鍵在於，駁斥工作依賴一種名為 SynthID 的偵測機制，這是 Google 開發並部署用以協助識別 AI 生成影像的水印系統。
SynthID 設計為直接嵌入參與生成模型所產生影像中的不可見簽章。這個簽章不是可見的標誌或疊加圖，而僅能由訓練來識別它的演算法偵測到，允許水印在多種轉換（如壓縮、轉貼或截屏）後仍能存留。在麥康奈爾事件中，Snopes 與其他查核者在影像中辨識出 SynthID 簽章，證明該圖片是由參與模型生成，因此並非真實攝影。
該系統清楚示範了技術性對抗措施如何減緩欺騙性內容的傳播。由於水印嵌入在影像資料中，即使影像被下載或在社群網路間複製，它也能持續存在。這種持久性在此案中是決定性因素：儘管影像在不同平台流傳並被反覆轉貼，嵌入的簽章仍可被對應工具偵測到。
同時，SynthID 也存在重要的限制。只有當影像生成工具選擇加入該計畫並在創建時嵌入水印時，該功能才會生效。當原始模型參與時，正如 Google 的 Gemini 模型自 2025 年該計畫推出以來所做的，影像會帶有該簽章。但不參與的模型或服務會產生沒有 SynthID 標記的輸出。因此，基於水印的驗證對參與系統非常有效，但單靠它無法保證線上每一張影像的來源可被查明。
業界的採用是逐步進行的。Google 在 2025 年的 I/O 開發者大會上推出 SynthID，並將這項能力整合到 Gemini 中。其他組織隨時間也以不同程度加入：例如 OpenAI 在 2026 年 5 月作為遏止惡意影像生成的較廣泛努力一部分，加入了公開影像驗證的支援。然而某些供應商尚未加入該計畫，造成覆蓋上的缺口。這些缺口意謂著雖然水印在某些情境中是強而有力的工具，但它並非對抗深偽的萬應藥。
實務上，使用者與事實查核者可以透過幾種方式查詢影像是否含有 SynthID 標記。一種方法是請能識別水印的模型（例如某個 Gemini 實例）檢視影像。另一種方法是將影像上傳至參與廠商提供的公開驗證工具，這些工具會回報是否存在嵌入簽章。這些工作流程協助研究人員與查核者確認麥康奈爾影像是由嵌入 SynthID 簽章的模型生成的。
除了技術採用之外，水印的有效性還取決於生態系統因素：驗證工具是否廣泛可用、平台是否接受並採取驗證結果，以及對手是否試圖移除、偽造或以其他方式規避嵌入簽章。雖然水印提供了一道有意義的防線，但應視為包含來源標準、平台政策、媒體素養與跨領域事實查核在內的更廣策略的其中一環。
關鍵見解表
| 面向 | 說明 |
|---|---|
| 關鍵事實 1 | SynthID 是一種不可見、由模型嵌入的水印，有助於識別 AI 生成的影像。 |
| 關鍵事實 2 | 麥康奈爾騙局影像註冊了 SynthID，讓事實查核者能迅速揭穿它。 |
後續...
展望未來，水印與類似來源技術代表了對某些形式的 AI 驅動錯誤資訊的實用且有技術基礎的回應。持續進展應著重於更廣泛的互通性，使驗證工具在各平台上廣泛可用，並便於記者、研究人員與大眾使用。同等重要的是制定標準，使不同的水印與來源系統能互相運作，減少部分供應商選擇退出時出現的缺口。
進一步的探索方向包括將嵌入式簽章與密碼學來源框架、強健的內容來源 metadata 標準相結合，以及為非參與模型改進的檢測演算法。針對對抗性強度的研究──即水印面對刻意移除或混淆時的表現──也至關重要。最後，將技術措施與政策框架、平台審核實務與公共教育並行，將建立對抗深偽與相關傷害的多層防禦。
透過整合技術保護、跨產業合作與有知識的公眾回應，社會能在保存生成媒體技術益處的同時，減少捏造影像的影響。