重點

ChatGPT 新推出的影像生成器是其先進 4o 模型的一部分，大大提升了在影像中嵌入文字的能力。用戶已經利用這項功能創造出極度真實的偽造餐廳收據，為潛在的欺詐用途提供了風險。TechCrunch 的實驗證實了這項能力，儘管在數學計算上有些小錯誤，但使用者可以輕易地修正這些錯誤。

情感分析

• ChatGPT 新功能的最初反應不一，既引發了讚賞也帶來了擔憂。
• 正面方面：技術進步、在教育和藝術中的創意應用。
• 擔憂：在欺詐活動中可能的濫用，倫理問題。
45%

文章內容

最近，ChatGPT 展示了一項創新的影像生成功能，作為其 4o 模型的一部分。這一突破性技術改善了在影像中生成文字的能力，從而製作出極具說服力的偽造收據。此能力擴大了 AI 生成的深度偽造範疇，詐欺者已利用其在欺詐活動中。

社交媒體著名人物 Deedy Das 在平台 X 分享了一張偽造的收據影像，聲稱來自舊金山一家真正的牛排館，由此技術生成。其他用戶亦能重現類似結果，甚至模擬食物污漬以增強真實感。法國的一個突出案例是為一家本地餐廳生成了一張皺巴巴的偽造收據。

TechCrunch 進行了自己的測試，成功製作了一份 Applebee's 的假收據。然而，此測試揭示了一些顯著跡象，如數學計算錯誤和格式不一致，例如用逗號代替句號，顯示 LLM 的數學能力尚有改進空間。

儘管存在微小的不準確性，通過基本的圖片編輯或精煉指令，修正數字仍是可行的，這顯示在如報銷不存在費用等欺詐美式中的潛在利用。

OpenAI 代表 Taya Christianson 向 TechCrunch 保證，每張 AI 生成的影像都附有元數據，可以追溯到來自 ChatGPT 的起源。Christianson 強調 OpenAI 致力於解決政策違規問題，並將通過用戶反饋進行調整。

當被問及在 OpenAI 的反欺詐準則下允許偽造收據生產的原因時，Christianson 為其政策辯護，並強調他們致力於為用戶提供廣泛的創意自由。她主張 AI 生成的收據可以在負責任使用的條件下用於財務知識的教育目標，以及藝術和廣告創新。

關鍵見解表格