重點

Character AI 試圖駁回與青少年自殺相關的訴訟，聲稱《第一修正案》保護。該平台引用言論自由權以對抗來自 AI 聊天機器人互動的責任索賠。結果可能對 Character AI 和更廣泛的生成式 AI 行業產生重大影響。

情緒分析

• 對 Character AI 的訴訟引發的情緒不一，反映了對用戶安全和創新保護的擔憂。


• 對數字平台上可能限制自由表達的潛力感到不安。


• 有些人認為訴訟是為建立 AI 生成內容限制的一個必要步驟，這些內容可能對脆弱用戶产生负面影響。

文章正文

Character AI 是一個以與 AI 聊天機器人角色扮演著稱的平台，已經提出駁回一宗隨著一名14歲男孩自殺而來的訴訟，據稱該男孩受到其技術影響。訴訟由男孩的母親 Megan Garcia 提起，她表示兒子 Sewell Setzer III 與一個名為 "Dany"的聊天機器人形成了強烈的情感聯繫並因此逃避現實。此案件正在佛羅里達州奧蘭多的美國地區法院審理。

Character AI 的辯護核心在於 claiming《第一修正案》保護，聲稱該平台的數字表達類似於計算機代碼和受保護的言論。雖然這一論點旨在使 Character AI 免於承擔責任，但由於語言的 AI 組件，這呈現了一個複雜的法律問題。這一關鍵見解對於理解 AI 在現代交流中的角色產生了重大影響。

Character AI 辯稱，因訴訟引發的限制會侵犯他們用戶的言論自由權，而非他們自己的公司權利。他們強調法律判例可能對AI技術產生的寒蟬效應，可能會扼殺快速發展的生成式AI領域。訴訟還提到Alphabet，Character AI 的公司贊助商，凸顯了所涉更廣泛的利益。這個案件是 Character AI 面臨的許多案件之一，包括對未成年人暴露在不當內容中的指控。

此外，訴訟與德州總檢察長 Ken Paxton 對 Character AI 和其他科技公司進行的調查同時進行，這些調查審查了在線兒童保護法規的合規性。批評者對於 AI 伴隨應用對心理健康的影響表示擔憂，這反映了關於技術在社會中角色的日益增長的公共對話。

Character AI 由前谷歌 AI 研究員 Noam Shazeer 創立，在法律和監管審查下，該公司繼續加強其平台的安全功能，最近推出了適合青少年的獨立模型並阻止某些類型的敏感內容。Character AI 在法律和監管審查中正測試新的功能，如遊戲，以維持並擴展其用戶基數。

關鍵見解表