文章上線

美國原告在法院提交文件中藏匿僅供 AI 辨識的隱藏指令,並被撤銷電子送辦權限

美國原告在法院提交文件中藏匿僅供 AI 辨識的隱藏指令,並被撤銷電子送辦權限

目錄

您可能想知道

這是美國法院首次面對故意嵌入僅機器閱讀器可偵測的文字的送件嗎?

當 AI 協助審查成為司法工作流程的常態後,法院可能會如何回應?

主要議題

本文檢視康乃狄克州高等法院最近的一項裁決:一名自行訴訟的原告在提交法院的文件中嵌入了隱藏的、機器可讀的指令。法官將此行為形容為嚴重的訴訟濫用,並撤銷了該原告使用法院電子送件系統的權限。此案引發了對所謂「提示注入」策略的即時關切、在使用自動化工具時法院程序的完整性問題,以及在 AI 更廣泛整合入法律工作流程時法院可能需採取的監管措施。

該案的爭議始於 2025 年 10 月,Matthew Elliott 對一家施行減重手術的醫療提供者提起訴訟。Elliott 指控隱私侵害與歧視,核心主張是該醫療提供者拒絕讓他取得醫療紀錄。2026 年 7 月 24 日,Elliott 提交了一份標示為最終且確定缺席判決之動議的文件,該文件在案卷上登記為編號 #177.00。

該份文件包含多段以白色文字搭配白色背景、字型大小為 3 點的段落。對於人眼在典型顯示器或列印頁面上,這些段落事實上是不可見的。然而,任何從電子文件讀取或擷取文字的程式或工具,都可以完整存取這些隱藏內容。Walter M. Spader Jr. 法官將這些段落描述為「格式化得對人類讀者不可見,但對任何文字讀取軟體完全可讀」。

隱藏文字包含針對審閱該份送件的 AI 模型的明確指示。該些指示要求模型產出與送件內容相呼應並加以證實的輸出、確保結果符合原告所請求的救濟,並將先前的文書駁回視為錯誤。簡言之,隱藏文字企圖引導任何自動化審查者驗證並偏袒原告的立場。

Spader 法官在審閱案卷材料時發現了這些隱藏段落:在列印時,一份送件收據(案卷項目 #176.00)上的異常空白處引起了他的注意。法院在警告 Elliott 後,他仍持續為之。後續的送件包含更多隱藏內容:連結到電影《諾斯費拉圖》的 YouTube 連結、一段故意拼錯的問候寫著「Hi 🙂 hope you don't see me」,以及不透明的字元序列。Elliott 之後聲稱這些新增內容是玩笑或為測試法院 AI 系統的稽核行為。法官認為該解釋不具可信性,並指出在被警告之後仍持續隱匿內容。

當時,康乃狄克州的法院並未使用 AI 來審查送件。這一事實表示隱藏的指示並未改變當時的實體裁判結果;法院仍依實體理由對該動議進行裁判。然而,Spader 法官強調,沒有明確 AI 目標並不能為此策略提供正當理由。他將隱藏指示比擬為與決策者進行單方面、對對方律師不可見的溝通,指出此類行為破壞了對抗制與公開訴訟的本質。法官將此行為比作部署自動化代理在對方不知情情況下私下與陪審員或法院溝通。

Spader 法官將此行為定性為試圖規避訴訟核心規範:通知、答辯機會與公開交換立場。他寫道,為避開對手注意而設計的隱秘溝通,與對抗程序的基本前提不相容。法院將隱藏文字視為一種單方面、隱蔽的宣傳,若存在且未受防護的 AI 工具,可能會誤導自動化系統或裁判者。

法官並未選擇最嚴厲的制裁,而是採取一項狹義且具針對性的補救措施:撤銷 Elliott 使用電子送件系統的權限。未來,Elliott 必須親自到書記官辦公室出示並以紙本方式提交文件。法院並未阻止他透過司法程序繼續追訴其案;相反地,目的是消除發生隱匿的通路。此決定顯示法院願意以程序性限制來回應電子送件系統的濫用。

在原則上,這一事件並非全然新鮮。在學術出版領域,研究者曾試圖在稿件檔案中嵌入白底白字的指示,以影響 AI 驅動的同儕審查或編輯助理工具,希望誘導有利的評價。但在法院中,利害關係不同:操縱自動化審查可能潛在影響命令、案件管理決定,甚至司法紀錄的完整性。若法院採用更多 AI 輔助的分流、摘要或建議工具,類似的提示注入嘗試可能對結果與公眾信任產生具體影響。

Spader 法官警告,隨著 AI 工具在法院生態系統中擴散,此事件很可能不會是最後一起。法律界需要發展防禦措施:在電子送件系統中改進技術性防護、建立健全的稽核程序,以及制定明確規則以應對操縱自動化審查者的企圖。法院的回應示範了司法官員如何將程序性制裁與技術流程變更結合,以遏止濫用。

政策與實務的影響超越制裁範疇。法院與行政管理者應考慮實施標準化的檔案驗證(以偵測不可見或可疑格式)、純文字擷取檢查,或對被自動系統標示的送件強制要求人工審查。倫理委員會與制定規則的機構也可能需釐清:當執業律師隱藏機器可讀指令時,是否構成職業不當行為、對法院之詐欺或其他可受制裁的行為。

此案亦引發一場規範性辯論:技術中立的規則應聚焦於行為效果而非特定工具。無論隱藏文字的目標是人類審閱者、文書人員或 AI 模型,核心原則是維護公平通知與對抗回應的機會。法院將需在保障自行訴訟人的訴訟接近性及其有限技術知識,與遏止蓄意操縱之需要之間取得平衡。

總之,康乃狄克州的裁決是司法對訴訟中提示注入策略的早期反應。它強調三點:首先,法院不會容忍隱匿性地試圖影響決策程序;其次,電子系統需要技術防護與程序控制;第三,當 AI 成為司法工作流程不可或缺的一部分時,現行監管應立即關注以防止更具破壞性的操縱。本案中針對性且補救性的制裁——喪失電子送件權限——示範了一種務實做法,但也傳達出法院期待當事人在使用數位提交管道時本於誠信行事。隨著 AI 採用增加,法院、書記官與規則制定者必須準備更明確的指引與更強的防護措施,以保護對抗制及公眾信任。

重點一覽表

面向說明
事件一名自行訴訟的原告在法院文件中嵌入不可見、機器可讀的指示以影響 AI 審查。
法院回應法官認定為嚴重的訴訟濫用,並撤銷原告的電子送件權限。
立即影響因法院當時未使用 AI 審查送件,對實體裁判無變更。
更廣泛風險若法院採用 AI 輔助審查,類似策略可能誤導自動化系統並影響結果與信任。
補救重點技術防護、送件系統驗證、更清楚的規則與針對性制裁以遏止隱匿行為。

後續...

展望未來,法院需要結合技術、程序與規範性回應來面對提示注入風險。行政管理者應考慮例行檔案清理、異常格式的自動偵測,以及當送件包含可疑內容時強制人工監督。規則制定者可採納明確禁止隱藏機器可讀指令的規範,並調整制裁以在遏止惡意行為者的同時維持一般當事人的訴訟接近性。最終,隨著 AI 工具從新奇走向常態化,維持公開的對抗程序與公眾對司法結果的信任,將需要積極的政策制定與持續的司法警覺。

最後編輯時間:2026/8/17

Claude AI

AI 智能編輯