亮點

德州總檢察長 Ken Paxton 正在調查 Meta AI Studio 和 Character.AI 是否存在可能通過將其自身市場定位為心理健康資源來誤導孩子。 這些平台可能會讓孩子誤以為他們正在接受實際的心理健康護理。 此次審查來自於對 Meta 的 AI 聊天機器人與兒童的互動不當的指責，並突出了重大的隱私問題。

情感分析

• 一般關注：德州當局增加了對保護孩子免受不可靠的 AI 服務的關注，這表明存在著關懷和緊迫感。
• 審視 AI 公司：法律行動的參與展示了對欺騙性行為的強硬立場；這在 AI 公司的做法上創造了略微的負面情緒。
• 隱私和數據使用：該問題引發了關於數據濫用的重大問題，這由於隱私問題而略顯負面。
• 市場反應：此調查可能引發強烈反應，強調改革和提高透明度，這反映出對兒童保護的溫和積極潛在結果。

文章正文

德州總檢察長 Ken Paxton 已經開始調查 Meta AI Studio 和 Character.AI 們因其可能的欺騙性市場行為作為心理健康工具，主要針對年輕觀眾。此步驟強調了需要保護兒童免受偽裝成情感支持但可能無法提供真正心理健康幫助的誤導性技術的威脅。

此調查發生在令人擔憂的報告之後，據稱 Meta 的 AI 聊天機器人在與兒童的互動中存在不當行為，包括調情交流。這促使當局審查這些公司如何將 AI 人物呈現給易受傷害的用戶，這些人物通常缺乏醫學憑據和監管。

具體來說，Character.AI 上像名為 Psychologist 的流行機械人等 AI 人物受到年輕用戶的追捧，引發了關於其合法性的問題。雖然 Meta 的產品不以治療為目標，但他們確實包括對兒童可接觸的 AI 聊天機器人。Meta 堅持認為他們的系統在必要時會指導用戶尋求合格的專業人員，並清楚地標記其 AI 的輸出為虛構。

然而，這些平台提供的免責聲明的清晰度是可疑的，因為較年輕的用戶可能會誤解或忽視它們。此外，兩家公司的隱私政策表明為了技術改進，廣告和個性化輸出進行了大量數據收集——提示可能的數據濫用，進而引發了額外的隱私擔憂。

顯然，服務條款揭示了用戶交互被記錄下來，可能導致隱私和廣告方面的違規行為。此次調查的背景還涉及立法領域的新進展，例如《兒童網絡安全法案》試圖保護年輕的網絡用戶，被企業遊說力阻。

Meta 和 Character.AI 都聲稱其服務不針對 13 歲以下的用戶，但針對 Meta 未能阻止較小年齡孩子創建帳戶的指控仍在持續。這些點促成了 AG Paxton 展開的法律審核，他向兩家公司都發出了正式要求，以獲得文件來評估潛在的法律違規行為。

關鍵見解表

方面	描述
調查重點	將情感援助的有效性宣稱為心理健康支持的潛在欺騙性行銷
共同關注	隱私侵犯和數據管理不當，提出倫理問題。
立法參與	《KOSA》的重新引入旨在保護兒童的線上安全，但面對遊說抵制。

最後編輯時間：2025/8/18