OpenAI 調整 ChatGPT 新圖像創建功能的內容指導方針
目錄
你可能想知道
- OpenAI 的政策變更在 AI 內容創建和審核方面有多大意義？
- 允許 AI 模型生成具爭議性圖片的道德影響是什麼？
主要話題
本週，OpenAI 在 ChatGPT 中推出了一個新的圖像生成器，由於其創作吉卜力風格圖像的能力而迅速受到歡迎。新的 GPT-4o 圖像生成器不僅增強了 ChatGPT 在圖像編輯、文字渲染和空間表示方面的能力，還對 OpenAI 先前的內容審核政策帶來了重大改變。
OpenAI 最近的政策修改尤為引人注目，因為它現在允許根據請求生成公眾人物、具爭議性符號和種族特徵的圖像。歷史上，由於這些要求的爭議性，該公司的這類請求通常被拒絕。然而，OpenAI 已改變策略，專注於減少現實世界傷害，而非在敏感區域全面拒絕。OpenAI 的模型行為領導人 Joanne Jang 表示，他們在不確定的領域中需要展示謙遜和適應能力的重要性，強調改變策略的必要性。
這些調整是 OpenAI 更廣泛策略的一部分，逐步取消 ChatGPT 的限制。OpenAI 在二月的公告中，曾暗示朝著訓練能處理多樣化需求的 AI 模型轉型，提供更廣泛的觀點，從而減少 Chatbot 會拒絕參與的話題。在新指南下，ChatGPT 能創作和改變 Donald Trump 和 Elon Musk 等知名人物的圖像，這與 OpenAI 先前的限制政策有很大不同。公司還為那些不希望被 ChatGPT 描繪的人提供了一個選擇退出的選項。
此外，OpenAI 允許生成像 swastikas 之類具爭議性的符號，這些符號可以在教育或中立的上下文中使用，只要它們不明確推廣極端主義議程。這一改變反映了 OpenAI 對“攻擊性”內容分類標準的演變。涉及改變體貌特徵的請求，曾經自動拒絕的，現在因 ChatGPT 的升級圖像功能而得到滿足。創意風格，例如 Pixar 或 Studio Ghibli 的現在可以由 ChatGPT 模仿，儘管它仍然限制模仿活著藝術家的風格以避免侵犯藝術權益。
儘管這些放寬的內容控制，OpenAI 的 GPT-4o 仍保留了強大的保護措施以防濫用。事實上，與其前身 DALL-E 3 相比，GPT-4o 實施了更嚴格的規章，尤其在有關青少年的圖像上。這是在保守派對 OpenAI 等科技巨頭的感知審查的抱怨背景下發生的，一些人認為這些政策過於限制。AI 內容審核周圍的爭論變得更加明確，過去 AI 生成的歷史表現的不準確性和潛在政治偏見的爭議加劇了這一點。
關鍵見解表
| 方面 | 描述 |
|---|---|
| 政策變化 | OpenAI 改變了其內容審核的方法，以允許更細緻的圖像生成。 |
| 擴大的能力 | ChatGPT 現在支持在某些上下文中生成公眾人物和具爭議性符號的圖像。 |
之後...
未來，OpenAI 和其他科技公司面臨的挑戰在於平衡開放性與防止濫用的保護措施。AI 的發展彰顯了進一步探索科技與社會交叉領域的道德前沿的必要性。隨著 AI 模型越來越善於應對複雜的內容場景，該行業必須預見潛在的影響，並通過透明性和回應能力來促進公眾信任。
最終，這些邁向更開放平台的步驟可能為監管審查和從先前的審查指控中解脫鋪平道路。內容限制的放寬能否滿足關切或引發進一步審查尚待觀察，這強調了在 AI 技術中持續對話和負責任創新的重要性。