OpenAI 打造了一個辨識自家 AI 影像的工具，效果…微妙

一個影像是否為 AI 所創作，目前多多少少還是有跡可循的。破綻通常是影像背景中奇怪的外星文字、違反物理定律的離奇現象，又或是 AI 通常難以自然呈現的手部動作或甚至手指數量。然而，隨著 AI 技術不斷發展，恐怕要不了多久就算是人類都將難辨真偽了。為此，業界領導者 OpenAI 正試圖開發了一套工具，可以檢測其自家 DALL-E 3 AI 影像生成器所產生的圖像，但結果嘛… 有些微妙。

以最單純的情況來說，OpenAI 表示該工具可以 98% 的準確率識別出 DALL-E 3 生成 的圖片。這辨識率相當不錯，但仔細看的話，它還是存在著相當大的限制。首先，自然是圖像必須由 DALL-E 3 創建，但 DALL-E 3 只是坊間諸多圖片生成引擎和工具的其中一個。根據 OpenAI 提供的數據，如果換成其他 AI 模型生成的圖像的話，該系統就只能成功識別出當中的 5% 到 10% 了。

此外，如果圖像經過任何形式的修改，該工具的可靠性都會受到影響。對於輕微的修改（例如剪裁、壓縮和調整飽和度）來說，這問題還不算太大。辨識率仍然有大約在 95% 到 97% 左右。然而，如果是調整色相的話，辨識成功率就會大降至 82%。如果再進一步用該工具識別經過大幅度修改的圖像時，那就更不好說了 —— OpenAI 甚至沒有公布這些情況下的成功率，只是簡單地表示「其他修改將會降低辨識表現」。

顯然會使用 AI 工具來生成影像的人，應該都有準備要對影像進一步進行修正，讓其更符合需求，因此這工具到底最終能有多少效果，還真不好說。至少 OpenAI 對其檢測技術的局限性持透明態度，同時據《華爾街日報》報導 ，他們甚至還開放外部測試人員測試上述工具，來幫助修正這些缺陷。該公司還與好夥伴 Microsoft 一同向一個「社會韌性基金（Societal Resilience Fund）」注資了 200 萬美元，希望能擴大 AI 相關的教育，來強化人們辨識造假圖片的能力。

不幸的是，美國即將在今年舉辦總統大選，而以 AI 生成的誤導性的競選廣告和虛假的圖像，進行認知作戰，已經是在選戰中切實發生的事。無論是辨識工具還是相關教育，恐怕都已經來不及控制 AI 圖像對本屆選舉的影響力了。

緊貼最新科技資訊、網購優惠，追隨 Yahoo Tech 各大社交平台！

🎉📱 Tech Facebook：https://www.facebook.com/yahootechhk

🎉📱 Tech Instagram：https://www.instagram.com/yahootechhk/

🎉📱 Tech WhatsApp 社群：https://chat.whatsapp.com/Dg3fiiyYf3yG2mgts4Mii8

🎉📱 Tech WhatsApp 頻道：https://whatsapp.com/channel/0029Va91dmR545urVCpQwq2D