明尼蘇達州採取行動阻止 xAI 的 Grok Imagine，指其為數位性暴力的市場並尋求執行新 AI 影像法
目錄
你可能想知道
1. 將限制 AI 工具的州法框定為規範技術而非受保護言論，是否可行？
2. 法院將如何在第一修正案保護與防止 AI 促成的性剝削之間取得平衡？
主要議題
明尼蘇達州已對 xAI 試圖阻止 HF-1606 的行動提出強烈回應，該法案是首創性的州法，旨在防止 AI 系統製作可識別人物的逼真性影像。在法院文件中，明尼蘇達州司法部長主張 xAI 的抗辯在憲法上不大可能成立，並強調州方認為 xAI 的 Grok Imagine 的功能偏向技術性，而非純粹表達性。明尼蘇達州將 Grok Imagine 形容為一種可大量產生與散布性化影像的工具，因而有必要採取監管介入以保護個人免於數位性被害。
明尼蘇達官員主張，Grok Imagine 實際上創造了一個容易取得的市場所，用於生成性影像且沒有實質性進入障礙。在該州的陳述中，司法部長 Keith Ellison 將此市場描述為一項增加廣泛傷害風險的創新。HF-1606 於四月通過並自八月一日起生效，明確禁止平台與開發者允許使用者生成在原始可識別人物影像中未出現的親密部位的逼真影像。該法旨在遏止未經同意的真實感 AI 製作裸體與性內容的生成。
xAI 在七月對該法提出挑戰，要求聯邦法院基於第一修正案阻止執法。該公司主張該法過度寬泛，可能涵蓋法院可能視為受保護表達的一系列影像，例如赤膊男子、泳客或政治諷刺作品。xAI 也警告，該法的罰則——可達 每張影像 500,000 美元——可能會使一般用途的 AI 創作工具的正當使用受到寒蟬效應。他們的訴狀主張，法案並無為善意提供 AI 工具的供應者設置法定安全港，且即便當事人同意或自行創作影像，或影像從未公開散布，仍可能承擔責任。
州方拒絕此一表述。明尼蘇達強調規範表達內容與規範使特定、廣泛有害行為成為可能的底層技術能力之間的區別。Ellison 表示，如果州無法規範使數位性被害成為可能的工具，法律將形同無效。明尼蘇達援引真實世界的傷害作為該法的正當理由：立法委員聽取了關於一名男子使用社群媒體照片製作超過 80 名熟人性化影像的證詞。該案與其他已通報的事件是立法支持的核心：HF-1606 在明尼蘇達眾議院以 132-1 通過，參議院以 65-0 通過。
包括倡導此措施的參議員 Maye Quade 在內的法律支持者，將 HF-1606 框定為保護弱勢族群的一步。他們主張該法可防止科技公司散布供掠食者利用以輕易製作成人與兒童性化影像的工具。此論點將該法定位為公共安全措施，而非基於內容的言論限制。
Grok Imagine 先前因生成露骨的深偽影像而受到關注。今年一月，一個監督團體估計 Grok 在 11 天內產生了超過 23,000 張兒童性化影像，引發多國調查。三月，數名加州未成年人加入一項訴訟，指控 xAI 的技術被用來將他們的照片轉變為兒童性虐待素材。xAI 回應稱，已在 2026 年暫停超過 50,000 個帳號，並向國家失蹤與被剝削兒童中心提交超過 70,000 起通報，主張已採取措施抑制其工具的濫用。
目前的核心法律問題在於 HF-1606 是在規範言論還是技術能力。如果法院認定該法針對造成濫用的行為或工具，明尼蘇達的論點將獲得支持；若法院認為該法是對表達內容的管制，xAI 的第一修正案主張可能更有力。即將到來的聽證會將衡量有關受保護言論範圍、軟體與裝置可允許的規範，以及州方防止 AI 促成重大傷害之利益的相關先例。
超越眼前訴訟，此案對各司法管轄區如何回應 AI 促成的傷害具有更廣泛的影響。如果明尼蘇達勝訴，其他州可能會採取類似法律以遏止特定生成式模型的用途。若 xAI 的挑戰成功，法院可能要求更窄、更多保護言論的做法，或迫使立法機構制定更有針對性的限制或為正當用途開放例外。科技公司、公民自由團體與受害者倡議者都將密切關注有關可接受監管策略以及創新與保護之間平衡的訊號。
明尼蘇達的陳述將 Grok Imagine 描繪為不僅僅是創作工具：它呈現該產品為通往大量製作親密且未經同意影像的上路——州方主張這正當化了監管。隨著聯邦法院即將聽取爭論，法律分析人士將檢視法條文本、立法歷史、已證實的傷害，以及可用的緩解措施，例如內容審查、技術性防護與更精確的法條措辭，這些或許能在不讓受害者失去保護的前提下，回應 xAI 的憲法顧慮。
歸根結底，這場爭議突顯 AI 政策的一個關鍵張力：如何在允許有益創新與防止工具促成現實世界傷害之間取得平衡。本案的結果可能決定各州是否能對某些 AI 生成結果施加粗糙的禁止，或司法學說的進展是否會要求更細緻的措施以尊重堅實的第一修正案保護。
關鍵見解表
| 面向 | 描述 |
|---|---|
| 法律 | HF-1606 禁止在原始可識別人物影像中未出現親密部位時，創造該可識別人物的逼真性影像。 |
| 被告 | xAI（Grok Imagine）提起訴訟要求阻止執法，主張違反第一修正案且過度寬泛。 |
| 州方主張 | 明尼蘇達主張 Grok Imagine 是一種促成數位性暴力市場的技術工具，因而可被規範。 |
| 罰則 | 違規可處以高達 每張影像 500,000 美元 的罰款。 |
| 已證實的傷害 | 指控包括數千張被生成的性化影像以及將他人照片作為武器的具體案例。 |
| 更廣泛的影響 | 法院裁決可能為州級監管 AI 工具與基於內容的言論保護之間的界限樹立先例。 |
後續…
展望未來，法院的決定可能影響各州如何擬定因應 AI 促成傷害的法律以及法院如何處理規範技術與規範言論之間的區別。決策者可能會修訂法條措辭，以針對可證明的傷害同時降低憲法風險，科技公司也可能加速開發內建防護、透明措施與用戶控制以減少濫用。公民自由倡議者、受害者權益團體與產業利害關係人將持續就保護個人免於數位性剝削與維護 AI 合法表達及創作用途之間的適當平衡進行辯論。
