ChatGPT 可以生成以假亂真的收據，有圖也沒真相？
GPT-4o 強大的文字生成能力，有造成濫用的風險。
OpenAI 稍早推出了以 4o 模型為基礎的影像生成器，雖然說大部份人都是用它來玩照片的「吉卜力化」，但其實因為 4o 大幅增強了影像中的文字生成準確性，這也產生了一種新的「深偽」—— 由 AI 假造的收據。
You can use 4o to generate fake receipts.
There are too many real world verification flows that rely on “real images” as proof. That era is over. pic.twitter.com/9FORS1PWsb— Deedy (@deedydas) March 29, 2025
由上面的例子可以看到，雖然說乍看之下好像有點不協調（主要是分隔線沒有隨著紙面的皺折而曲折，墨水的顏色也太均勻），但乍看之下好像還蠻逼真的。更何況，真正有心造假的人士可以很簡單地在影像編輯軟體中進行小幅度的修改，或甚至可能在下提示詞時更精準一點，就有可能讓它更加以假亂真了。下面就是另一位網友以前圖為基礎，加上了更多指示的結果，好像確實是又逼真了一點呢。
I think in the original image the letters are too perfect and they don’t bend with the paper. They look like hovering above the paper. Here is my attempt to make it more realistic. Let me know what you think. pic.twitter.com/EixRSHubeY
— Michael Gofman (@michaelgofman) March 29, 2025
顯然，這讓「有圖有真相」又再次打上了一個巨大的問號，並且為不法份子「報銷」虛假的開銷提供了門路OpenAI 的發言人 Taya Christianson 向 TechCrunch 表示，他們所有的圖像都包含元數據（metadata），標明是由 ChatGPT 生成的。Christianson 並補充說，當用戶違反其使用政策時，OpenAI 會「採取行動」，並且他們會「持續從用戶在真實世界中的使用與反饋中學習」。
至於為什麼 ChatGPT 一開始就允許人們生成偽造收據，以及這是否符合 OpenAI 禁止詐欺的使用政策？對此Christianson 表示，OpenAI 的目標是「給予用戶盡可能多的創作自由」，而且假收據可能用於非詐欺的情境，例如教導人們金融知識，或是創作原創藝術和產品廣告等。
相關新聞：
