前言

摘要：Google 已在紐約對一個被指控使用該公司 Gemini 人工智慧來自動化大規模詐騙簡訊活動並建立釣魚網站、針對美國消費者的組織提起聯邦訴訟。起訴書指稱該團體在法庭文件中被稱為 Outsider Enterprise，利用 AI 產生程式碼、範本與訊息，將攻擊擴展到數十萬名受害者。本文說明了這些指控、所稱損害的範圍以及 AI 驅動金融詐欺的更廣泛背景。目的是提供一個客觀、簡明的概覽，讓讀者了解此法律行動及其對 AI 濫用於金融犯罪的影響。

懶人包

重點摘要： 訴訟指稱 Outsider Enterprise 使用 Gemini AI 大規模生成釣魚網站與詐騙訊息，發送數百萬條詐騙訊息並設置數千個假站點。當局估計該計畫導致數百萬張卡號被竊，自 2023 年中以來造成近 20 億美元的損失。此案凸顯 AI 可能被犯罪份子重新利用 來自動化並加速金融詐騙，促使法律與執法部門採取回應。

正文

Google 在美國聯邦法院提起的訴訟指出，一個在文件中稱為 Outsider Enterprise 的有組織網路犯罪集團，利用包括 Google 的 Gemini 在內的人工智慧工具，協助針對美國消費者的大規模釣魚行動。根據起訴書，被告據稱使用 AI 生成程式碼、設計範本並撰寫詐騙簡訊，引導收信者前往仿冒網站以竊取金融帳戶的憑證。

Google 援引的法庭文件與聲明描述了一項協調性活動，據稱該行動發送了約 250 萬條詐騙訊息，並在多國部署了超過 8,000 個釣魚網站。許多假站看似合法電信入口或金融服務，增加受害者輸入敏感資訊的可能性。調查該活動的 FBI 提供的估算顯示，大約有 387 萬個信用卡號遭到入侵，且自 2023 年 7 月以來與該行動相關的總損失接近 19 億美元。

Google 報告在截至 6 月 1 日的兩週期間內，透過其 Messages 平台收到大約 55,000 起可疑訊息通報，調查人員將其中許多通報與該被指控的網絡聯繫起來。公司的訴訟不僅旨在制止即時活動，還尋求可破壞被告用以擴展行動的基礎設施與軟體工具的救濟措施。Google 在公開貼文中將此提訴描述為「永久摧毀」該團體利用 AI 進行大規模詐騙的能力的努力。

據稱這些釣魚網站與訊息鎖定的金融資產範圍廣泛，從傳統銀行帳戶與信用卡憑證，到加密貨幣錢包與交易所帳戶。詐騙者日益關注數位資產持有人，部分原因是遭受去中心化或代管型加密系統資金損失的受害者，較難像受規管的銀行那樣取得救濟。FBI 在 2025 年的網路犯罪申訴統計反映此趨勢：提交的總投訴超過一百萬件，而與加密相關的事件佔了報告損失的一大部分。

隨著 AI 能力的進步，執法機構與研究人員對其被濫用的擔憂日增。FBI 的網路犯罪投訴中心在近 25 年的歷史中，在接獲數萬起相關投訴並報告數億美元損失後，新增了一個專門的 AI 相關詐騙類別。該局於 2024 年啟動的「升級行動」（Operation Level Up）旨在處理網路犯罪與數位金融交叉問題，公開聲明指出已通知數千名疑似受害者並協助阻止大額潛在損失。

法律專家與技術人員視 Google 的訴訟為科技公司嘗試透過訴訟追究被指控惡意行為者責任的一個早期範例，這些被指控者利用開發者工具與面向消費者的 AI。此案提出了平台營運者與 AI 供應商在防止濫用上的責任問題、民事訴訟在打擊複雜跨境犯罪網絡上的限制，以及協同執法在追查與沒收來自網路詐騙的資產方面的角色。

關鍵在於，起訴書中的指控需在法庭上裁定。該起訴僅代表對抗程序的一方陳述，並構成尋求禁制令與其他救濟的初步步驟。如果法院判 Google 勝訴，救濟可能包括命令停用伺服器或帳戶、追繳不當利得，或其他旨在防止未來利用 AI 生成材料濫用的措施。相反地，支持廣泛 AI 工具的人士警告過度嚴格的責任可能扼殺創新；在促進技術與防止濫用之間的法律平衡仍未定案。

被指稱的行動利用 AI 自動化先前需較多人工的任務——例如撰寫具說服力的釣魚訊息、生成欺騙性網站與簡化部署——展示了 AI 如何放大詐騙者的影響力與效率。這種放大效應對預防工作有實際影響：組織與消費者必須調整偵測與回應策略，而政策制定者與業界團體則需考慮在不扼殺有益用途下限制濫用的監管與技術緩解措施。

在短期內，Google 的訴訟突顯出科技公司、執法部門與金融部門之間協調回應的迫切需求。強化通報機制、改進驗證與鑑別方法，以及對詐騙網站的快速下架程序，皆可降低傷害。同時，關於釣魚手法的公共教育、更強的帳戶保護做法（例如多重驗證）以及平台與當局之間更快速的資訊共享，仍然是限制 AI 驅動詐騙影響的關鍵。

最終，此案可能會受到開發 AI 工具的公司、制定政策的政府以及致力遏止日益自動化威脅的資安專業人員的密切關注。它概括了一個更廣泛的動態：隨著 AI 在合法領域擴展能力，對手也會試驗這些能力，促使法律、技術與合作性回應以保護消費者與金融體系。

重點洞見表