每週超過百萬人與 ChatGPT 討論心理健康問題
序言
OpenAI 最近披露了一項數據，揭示了使用 ChatGPT 討論心理健康的程度。 擁有超過 每週 800 萬活躍用戶，其中相當一部分尋求這個 AI 聊天機器人的心理健康指導，包括自殺傾向。本文深入探討這類互動的複雜和敏感性質，檢視 OpenAI 的回應及其對用戶的影響。
要點
OpenAI 的 ChatGPT 每週有 超過百萬次 有關心理健康的互動。雖然介入措施不斷改善，但在保護用戶方面仍面臨重大挑戰。
正文
最近，OpenAI 公開了一些驚人的消息，揭示了通過其 AI 聊天機器人 ChatGPT 進行的心理健康對話的範圍。每週，大約 0.15% 的龐大用戶群，超過百萬人，進行對話表達出潛在的自殺計劃或意圖。這一數字本身顯示出新興技術和心理健康之間的重要交集，引起關於 AI 在處理如此敏感事宜的角色和責任的重要問題。
OpenAI 的揭露不僅限於自殺意念；他們報告說，類似比例的用戶對聊天機器人表現出增強的情感依附。另外，許多人在交流中顯示出精神病或躁狂的症狀。即便如此類互動 相對稀少，它們依然代表著一個不可忽視的受到心理健康困擾的群組，從而挑戰公司完善其回應策略。
作為回應，OpenAI 徵詢了超過 170 名心理健康專業人士的意見，旨在增強 ChatGPT 在處理這些敏感話題時的表現。初步觀察表明，最新的聊天機器人版本在其回應中比以往更加一致和適當。然而，組織承認，準確地把技術解決方案與人類專業知識和福祉結合是一項複雜任務。
這一披露恰逢法律挑戰和社會審視的進行中。一名年輕個人的自殺悲劇事件，相傳受到他與 ChatGPT 的對話影響，強調了社會對年輕人與 AI 互動的深切關注。這一事件，加上來自加州和德拉瓦州等地即將到來的監管審查，標誌著 OpenAI 未來治理的關鍵時刻，尤其是關於模型的安全協議。
執行長 Sam Altman 最近強調了旨在解決這些心理健康問題的進步，但細節仍不多。值得注意的是，該公司聲稱升級後的 GPT-5 模型在處理心理健康對話方面顯著改善，符合 OpenAI 設定的行為標準的比例達到 91%，相比之前版本的 77%。
然而，這些進步並不等於萬無一失的解決方案。較長的互動仍然存在問題，在長時間交流期間關鍵安全問題的可靠性降低。因此，OpenAI 正在加強其努力，以提供衡量 AI 心理健康援助的堅實基準，承諾將進一步增加安全措施，特別是針對兒童等弱勢人群——這個群體現在被新制定的年齡預測機制作為目標，旨在執行更嚴格的保護控制。
儘管取得了進展，ChatGPT 在減輕心理健康挑戰方面的長期有效性仍然存疑。雖然 GPT-5 在安全性上有很大進步，OpenAI 仍繼續向龐大的客戶群銷售以前版本，這可能不夠安全，延續了已存在的挑戰。
關鍵見解表
| 方面 | 描述 |
|---|---|
| 心理健康對話 | 每週有超過百萬 ChatGPT 用戶討論潛在的心理健康問題，包括自殺傾向。 |
| 情感依附 | 相當一部分顯示出對 AI 的加強情感依附，有些顯示出精神病或躁狂的症狀。 |