佛羅里達女子的 AI 日記在 Anthropic 審查後導致警方接獲線報

重點整理

調查人員表示，Carli Michelle Heller 在她的 Anthropic Claude 帳戶中寫下具攻擊性的日記條目，稱她會「射擊」李郡警長辦公室，後來又提到她已取得一把新槍。Anthropic 的自動過濾系統標記了該內容，並由人工審查團隊將該資料轉交執法機關。 Anthropic 的條款明確允許公司向警方通報使用者輸入，且被標記的資料可能會被保留用於安全訓練。此事件凸顯了使用者對隱私期待與平台安全責任之間的緊張關係。

情感分析

• 文章整體情緒是混合的：它表達了對隱私和使用者信任的關切，同時也承認平台防止傷害的意圖。對於一則被描述為私人日記的條目被公司審查並轉交當局，公眾明顯感到不安，這引發了關於同意和透明度的疑問。與此同時，文章也呈現了公司的觀點：自動系統與人工審查的存在是為了識別可信威脅並保護公共安全，部分讀者可能會視此為負責任的立場。報導在不做過多社論化的情況下平衡了雙方觀點。
  60%

文章正文

當地當局在發現 Carli Michelle Heller 在她使用的 Anthropic 會話式 AI 帳戶中有威脅性貼文後，逮捕了這位來自 Bonita Springs 的女子，她曾將該工具當作個人日記使用。根據逮捕報告和地方新聞報導，九月底的條目中包含她會「射擊」李郡警長辦公室的陳述，以及隨後表示她已取得一把新槍的訊息。那些訊息被 Anthropic 的自動偵測系統標記，並升級至人工審查團隊，該團隊隨後通知了執法部門。

Anthropic 在公開文件中所述的內部流程，將演算法篩檢與對觸發安全門檻的內容進行人工審查相結合。公司的消費者條款保留在「其自行決定」下向當局披露使用者輸入、輸出或行為的權利。其隱私政策也允許在公司有誠信相信披露在合理必要以防止嚴重傷害的情況下與執法部門分享資料。實務上，這表示使用者可能認為是私人內容的互動——例如個人日記條目——在被安全系統標記時，可能會被檢視並通報。

報告指出，警員在收到轉介後認出 Heller 並在她住所將其拘留，過程中無意外事件。她面臨書面威脅暴力的指控。此案說明當聲明被解讀為可信威脅時，AI 平台上的內容審查和安全協定如何對刑事司法產生直接影響。

過去的案例顯示，這種做法並非某家公司獨有。早期報導指出，Anthropic 也曾在針對涉公眾人物的威脅性內容後將另一名用戶轉介警方，其他主要 AI 供應商也有類似的審查人員轉介流程。例如，OpenAI 已記錄將疑慮重大的威脅路由給人工審查員，並在可能發生嚴重傷害時可能通知執法機關。公司將這些步驟描述為保護使用者與公眾所需的做法，儘管具體門檻與處理方式可能各有不同。

觀察人士與隱私倡議者指出，安全與保密之間存在緊張關係。將會話式 AI 工具視為私人日記的使用者，可能不預期內部審查會導致對外通報。 這種期待上的差異——感知隱私與平台政策之間的差別——是爭議的核心。關於觸發人工審查與通報的條件透明化，以及更明確的使用者控制，常被建議為減少混淆與不信任的方法。

Anthropic 的政策也指出，被標記以供安全審查的內容可用於改進偵測系統，這意味著被標記的條目可能會被保留或在一段時間內納入訓練資料。公司將此說明為一種迭代努力的一部分，旨在更好地識別有害內容並防止現實世界暴力。批評者則反駁，保留與重用此類資料進一步複雜化了隱私與資料處理的主張，尤其是針對敏感的個人條目。

此類與類似事件提出的法律與倫理問題仍在持續討論中。法院、立法者與產業團體持續評估結合自動監測與人工監督的平台所應承擔的責任。對於使用者而言，這一事件提醒人們檢視服務條款與隱私政策，並理解與 AI 平台分享的內容可能會受到安全篩檢，且在某些情況下會通報執法機關。

Heller 的案件排定在十一月的未來庭期。同時，關於在 AI 驅動服務中平衡個人隱私與社群安全的更廣泛辯論仍在進行，相關利害關係人主張需要更清晰的標準與更佳的使用者溝通。

關鍵見解表