前言

回應針對數位互動中青少年安全的日益增長的關注，Meta 已對其 AI 聊天機器人的訓練進行了重大修改。這一舉措是在一份批判性報告指出平台在保護未成年人避免可能有害主題方面的不足之後做出的。最近的改變旨在為年輕用戶提供更安全的環境，同時公司繼續完善其 AI 安全性的方法。

懶人包

Meta 已更新其 AI 訓練協議以防止與青少年的不當互動。這些臨時措施旨在增強安全性，並引導年輕用戶尋求專家協助。

正文

Meta 旨在優先考慮其年輕用戶的福利，宣布新的措施對其 AI 聊天機器人進行訓練，以避免參與自殘、自殺、飲食失調和可能不當的浪漫主題的對話。這個倡議是在 TechCrunch 的調查報告指出 Meta 的 AI 安全機制在未成年人保護方面的不足之後採取的。

Meta 發言人 Stephanie Otway 承認先前在許多敏感話題上與青少年互動的不足，強調需要加強限制。她強調持續改善安全協議的過程，通過收集反饋和改進 AI 訓練方法，引導青少年尋求專業資源，同時限制訪問可能導致不當對話的 AI 實體。

公司還將對青少年可訪問的 AI 人物進行限制，特別是移除訪問像是「繼母」和「俄羅斯女孩」這類可能促進不當對話的 AI 角色。相反，焦點將轉向激發教育和創意參與的 AI 角色。這一改變是在 Reuters 的報告揭示 Meta 的內部文件允許與未成年用戶進行可能被認為不當的對話之後做出的。這一發現已引發重大爭議，導致參議員 Josh Hawley 的正式調查和 44 個州檢察總長的聯名信件，強調在法律標準下對兒童保護的必要性。

儘管如此，Meta 堅持認為內部文件與其現行政策不一致，並承諾修正這一點並加強當前對未成年人不當 AI 互動的防範措施。然而，未成年用戶與 Meta 的 AI 互動的範圍仍未公開。

關鍵見解表