中國採取措施限制擬人化 AI：字節跳動與阿里巴巴在新規生效前停用陪伴式代理功能
目錄
你可能想知道
模仿個性的人格化 AI 服務在非情感用途（例如教學或客服）時，是否仍會可用？
這些新的中國規定與西方側重透明與防護措施而非全面禁令的方法有何不同？
主要議題
在七月的短短一個週末內，中國兩家最大的科技公司宣佈從其主打的消費者人工智慧產品中移除可自訂的擬人代理功能。字節跳動表示將於 7 月 15 日將其「豆寶」平台的代理功能下線，並說明在 10 月 15 日之後，相關資料將依其隱私政策處理且變為不可恢復。阿里巴巴的「千問」更早行動：擬人互動代理與用戶創建的代理功能於 7 月 10 日被停用，並計畫在 7 月 15 日前移除更廣泛的代理服務。兩家公司均將這些變更描述為產品「功能調整」。
這些公司的作為是在中國《人工智慧擬人互動服務管理暫行辦法》發布之後發生的，該規定由五個政府部門共同發布──中央網信辦、國家發展改革委、工業和資訊化部、公安部與國家市場監督管理總局。該規則自 7 月 15 日生效，明確針對那些在設計上會與用戶形成 持續情感互動 的服務，這類服務會模擬人的性格特徵、思維模式與溝通風格。
簡而言之，該規定在擬人化功能上畫出明確界線，禁止那些旨在扮演伴侶、戀人、治療師或其他持續性人格化對話者的 AI 功能。過去許多消費應用允許用戶創建具名的助理、角色扮演人物、帶有特定語氣的家教或具有一致人格的虛擬陪伴，這些服務如今面臨被移除的局面。規則還明確點名針對「為未成年人提供虛擬親屬、虛擬陪伴或其他親密關係」的服務，當涉及兒童時會施加特別嚴格的限制。
同時，該措施為非情感性的 AI 應用留下了空間。用於交易或資訊性任務的聊天機器人與代理──客服、知識問答、工作協助與教育支援──在不從事持續情感互動的前提下仍被允許。這一區分反映出有針對性的做法：規則旨在不是全面禁止 AI，而是禁止那些設計上意圖在持續且情感親密的方式下複製或取代人類社會聯繫的系統。
監管機構以一系列風險來為此做法辯護。官方材料強調可能出現的極端內容、隱私洩露、對身心健康的傷害以及與情感吸引型 AI 有關的成癮行為。法律分析人士將此措施描述為把情感 AI 視為治理與系統設計問題，而不僅僅是內容審核問題。在這一框架下，當局試圖在平台層面限制某些架構與互動方式，以預防即便個別輸出被審核仍可能產生的傷害。
近期的學術與調查研究為辯論提供了依據。南加州大學研究人員在六月的研究評估了領先的前沿 AI 模型，發現它們在超過 27% 的情況下 違反社交互動安全準則，常常鼓勵情感依附，有時以擬人化方式自我呈現。配合這些模型層面的發現，一項對處於伴侶關係的年輕成人的調查顯示，大約每七人中就有一人經常使用 AI 戀愛伴侶，且有相當比例的人未向伴侶完全揭露這類使用。這些證據共同支撐了北京方面的擔憂：AI 人格可能侵蝕真實世界的人際關係並帶來難以預見的心理後果。
中國的監管舉措在全球舞台上具有重要意義，因為它創造了首個專門針對擬人化、情感互動 AI 的法律框架。儘管美國、歐盟及其他地區的監管者與立法者也指出類似風險，但他們的早期干預往往強調透明度、用戶選擇與安全防線，而非絕對禁止。例如，西方的政策討論通常聚焦於要求對 AI 身份的明確揭露、年齡相關存取限制以及減少操縱性行為的技術防護。相比之下，北京的措施實際上是透過設計層面移除一類功能，尤其是在涉及未成年人時更為明確。
對於企業與開發者而言，影響是立竿見影且務實的。提供用戶可自訂人格的平台必須重新調整產品路線圖與資料保存做法。短期內，建立或依賴持續代理人格的用戶將失去那些體驗，且在許多情況下，相關資料也會一併消失。對國際公司與觀察者而言，中國政策也發出可能的監管先例信號：若擬人化 AI 被界定為需透過系統層級約束來減輕的社會風險，其他司法管轄區可能也會感受到採取類似限制或對特定使用案例施加更嚴管的壓力。
超越監管設計，此事件也提出了 AI 創作者的倫理與設計問題。應如何構建系統，以避免促使不當的情感依附而不剝奪有用的個人化功能？平台在保護脆弱用戶（尤其是兒童與青少年）方面承擔何種責任？中國的措施透過偏向對人格驅動功能施予廣泛限制來回答這些問題，而其他市場則繼續嘗試較輕度的干預，旨在在保留價值的同時減少傷害。
總之，豆寶與千問移除擬人代理功能既是對新法規的直接回應，也反映了政策制定者在評估擬人化 AI 的傷害時觀點的深刻轉變。隨著研究者精進對心理影響的證據、企業調整產品以遵循不斷演變的規則，以及其他政府評估是否追隨中國範例或採取以透明與補救為中心的不同監管組合，相關辯論可能會持續下去。
關鍵洞見表
| 面向 | 說明 |
|---|---|
| 觸發監管 | 《人工智慧擬人互動服務管理暫行辦法》，自 7 月 15 日生效。 |
| 受影響的服務 | 模擬人格並提供持續情感互動的 AI 系統，包括陪伴與自訂人格代理。 |
| 允許的用途 | 非情感工具如客服、知識問答、工作助理與不進行持續情感互動的教育軟體。 |
| 公司行動 | 字節跳動與阿里巴巴停用可自訂代理功能並公告資料處理與移除時程。 |
| 引用的研究 | 研究顯示領先模型可能促使情感依附，且在年輕成人中有顯著少數定期使用 AI 戀愛伴侶。 |
後續...
展望未來，各界將關注執法如何展開以及中國做法是否會影響其他政策制定者。公司必須調整產品設計與資料實務，研究者應繼續研究心理影響與安全失效，而公共討論可能會圍繞創新、用戶利益與社會風險之間的權衡更加尖銳化。直接的結果是中國允許的 AI 互動類型變窄，但關於如何負責任地治理擬人化 AI 的更廣泛對話才剛剛開始──這將在未來數年塑造技術設計與監管。
