在行動網路和智慧型手機普及後，上網門檻降低，內容審核也隨之成為了網路上最棘手的問題之一。面對這種情況，OpenAI 相信 ChatGPT 可以提供幫助。他們正在嘗試利用該大型多模模型打造一套「具備擴展性、一致性、可訂製的內容審核系統」，它不僅可以幫助平台做出審核決定，還能協助制定政策並快速實施政策的迭代變更。

「我們相信這能為數位平台的未來提供更積極的願景，AI 可以根據平台特定的政策調節線上流量，並減輕內容審核員的精神負擔。」OpenAI 在官方部落格中寫道，「任何使用 OpenAI API 的人都可以透過這種方法來創建自己的 AI 輔助審核系統。」根據他們的測試結果，GPT-4 加持的審核工具能夠在一天內完成常規方案六個月的工作量。

實際上，在此之前許多平台都已經引入了 AI，但大多是「小型垂直細分類的機器學習模型」，能提供的幫助相對有限。即便有這類技術，人類審核員的心理健康仍可能受到影響。比如在 2020 年時，Meta 就同意向 10,000 多名審核員支付每人不低於 1,000 美元的補償，以彌補其受到的精神傷害。而基於 ChatGPT 的新系統應該可以減少人力的投入，但它仍需要「讓人類參與其中以監控、驗證和完善結果和輸出」。