訴訟指控人在未明確同意下閱讀 ChatGPT 對話

重點

兩名加州用戶在加州北區聯邦地方法院提出擬定類別訴訟，指控 OpenAI 在未明確揭露的情況下允許第三方承包商閱讀真實的 ChatGPT 對話。訴訟聚焦於一個名為「Project Lily」的內部計畫，承包商透過人力派遣公司被聘用來審閱提示、摘要使用者意圖，並為模型回應評分。原告尋求賠償並請求禁制令，要求在人類審查前取得選擇性同意，且將「為所有人改進模型」設定預設為關閉。 核心主張是未明確通知使用者：不僅自動系統，還可能有人工會存取私人對話。

情緒分析

• 文章整體情緒介於中性偏負面，反映了使用者對隱私的疑慮以及對 OpenAI 的法律挑戰。報導記錄了一個常見的業界做法——使用人工審查員為模型輸出評分以供從人類反饋進行強化學習，但同時強調揭露和過濾程序的被認為不足之處。語氣突顯潛在的隱私入侵，引用了審查員看到的摘要可能揭露個人資訊的例子，儘管使用者名稱被移除。該文在技術說明與法律指控之間取得平衡，但聚焦於訴訟和要求採取補救措施，使其帶有審慎且批判的基調。
  70%

文章內容

一宗在美國加州北區聯邦地方法院提出的擬定類別訴訟指控 OpenAI 在未充分告知使用者的情況下，允許外部承包商閱讀真實的 ChatGPT 對話。此一由兩名加州居民提出的訴狀，集中在報導中所指的內部審查計畫「Project Lily」。根據訴狀，透過第三方人力派遣公司招募的承包商執行的工作包括摘要使用者提示、識別使用者意圖，以及以數值尺度評分多個模型回應。這些人工評估被描述為用以改善聊天機器人未來回應之反饋循環的一部分。

原告將審查員的角色描述為一種在該領域被稱為「從人類反饋進行強化學習（RLHF）」的訓練方法的核心，在該方法中，人類判斷會引導模型行為。雖然人工審查是將模型與使用者偏好對齊的一種公認方法，但訴狀主張是程序上的缺失：使用者並未被明確告知承包商可能閱讀其對話。據報導，OpenAI 在讓人類審查前會套用自動過濾，但原告主張這些防護並不完美，可能仍會讓會揭露個人資訊的內容通過自動檢查。

構成訴狀的報導指出，審查員透過包含先前使用者互動濃縮摘要的儀表板工作。即使使用者名稱被移除，這些摘要仍可能顯示使用者的大致所在地、職業或個人情況。原告主張，許多人使用 ChatGPT 處理敏感或個人事務——健康問題、人際關係疑慮、稅務或法律問題——因此期望獲得一定程度的隱私。訴狀主張，OpenAI 的隱私政策並未清楚指出資料標註或人工評估供應商為可能存取對話內容之當事方。

在法律面向，訴狀提出多項依據加州法與普通法的主張，包括違反不公平競爭法與加州消費者隱私法，以及一項侵犯隱私權（intrusion-upon-seclusion）之主張，該項主張涉及未經授權的隱私侵入。原告尋求補償性與懲罰性損害賠償及返還。此外，他們請求的禁制救濟旨在改變公司的作法：具體要求在第三方審查前取得明確同意、將模型改進選項預設為關閉，以及在聊天介面中提供更清楚的人類審查可能性的警示。

在程序時程上，OpenAI 於九月較早時已被送達訴狀，並有法定期間回應法院。這場爭議凸顯了業界普遍使用的標準模型訓練方法與使用者對隱私與揭露的期待之間的緊張關係。原告的提案較少著眼於禁止人工審查，而是著重於提高透明度並改採選擇參與（opt-in）模式，以便使用者能在知情的情況下決定他們的對話是否可能被公司外的人閱讀。

OpenAI 表示，人工審查有助於處理模型行為，例如過度擬人化的表現與諂媚行為——當人工智慧迎合使用者想聽到的內容而非提供正確資訊時的現象。儘管如此，訴狀強調自動過濾的有效性很重要：如果此類過濾未能在人工審查前移除敏感內容，隱私風險仍然存在。因此，此案提出更廣泛的問題：公司應如何在產品設定與文件中揭露資料使用、如何使自動與人工審查流程互動，以及在涉及個人資料時何種同意機制才足夠。

雖然結果尚不確定，但若法院或監管機關裁定需更清楚的通知與選擇性同意，該訴訟可能促使業界做法改變。原告亦要求刪除與已識別對話相關的審查員產出物，並重新訓練那些納入此類註解的模型。 訴訟核心訴求在於使用者自主權：讓使用者能知道並選擇是否允許人類閱讀使用者有合理期待為私密的對話。

關鍵洞見表