OpenAI 探索用於內容審核的 GPT-4

根據OpenAI官方博客最近的一篇文章，GPT-4在內容審核中的應用可以顯著減少開發和定制內容策略所需的時間。傳統上，這個過程可能需要幾個月的時間，但使用 GPT-4，它可以壓縮到僅僅幾個小時。以下是該過程的簡要概述：

制定政策指南：首先制定政策指南。此後，政策專家會整理出一組“黃金”數據，標記具體示例並根據政策對其進行標記。

GPT-4 的作用：此後，GPT-4 對策略進行獨立評估，並為數據集分配標籤，而無需事先了解專家提供的響應。

迭代細化：仔細檢查 GPT-4 提供的評估與人類專家提供的評估之間的任何不一致之處。這需要 GPT-4 詳細闡述某些標籤的基本原理，從而使專家能夠識別政策定義中模糊的領域。之後，可以定義並改進該策略。這個週期由第二階段和第三階段組成，一直持續到政策質量被認為是足夠的為止。

更細緻的內容限制的製定代表了這一迭代過程的成功完成。之後，這些規則可能會轉換為分類器，這將使政策付諸實施變得更加容易，並且可以在更大範圍內調節材料。此外，GPT-4 所做的預測可用於微調較小的模型，從而保證即使在處理大量數據時也能保持效率。

總之，OpenAI 一直在進行的以內容審核為目的的 GPT-4 研究為提高內容審核程序的有效性和準確性提供了潛在的途徑。