人工智能初創(chuàng)公司OpenAI稱其正在測試基于GPT-4的內(nèi)容審核系統(tǒng)，有望大幅縮短內(nèi)容審核時間。

(資料圖片僅供參考)

當(dāng)?shù)貢r間8月15日，OpenAI在官網(wǎng)上發(fā)布文章稱，將GPT-4用于內(nèi)容策略開發(fā)和內(nèi)容審核決策的測試已經(jīng)取得了很好的效果，能夠?qū)崿F(xiàn)更一致的標(biāo)簽、更快的策略優(yōu)化反饋閉環(huán)，并減少人工審核人員的參與。OpenAI認(rèn)為，GPT-4內(nèi)容審核工具可以幫助公司在一天內(nèi)完成大約六個月的工作。

OpenAI表示，內(nèi)容審核向來是一項既耗時又具有挑戰(zhàn)性的工作，需要很高的細致度、敏感度、對語境的深刻理解和對新案例的快速適應(yīng)，還會對人工審核人員造成情緒負(fù)擔(dān)。通常，內(nèi)容策略中的變更由于需要大量人力介入調(diào)整，往往要經(jīng)過數(shù)月才能落實到整個系統(tǒng)，而作為大型語言模型（LLM）的GPT-4可以將這一過程從數(shù)月縮短到數(shù)小時。

在具體的訓(xùn)練過程中，制定好策略指南后，策略專家就可以通過識別少量示例、為其分配標(biāo)簽來創(chuàng)建一組黃金數(shù)據(jù)。然后，GPT-4會讀取策略指南，并在看不到答案的前提下為同一數(shù)據(jù)集分配標(biāo)簽，由專家來檢查這些標(biāo)簽是否分配正確。

策略專家還可以要求GPT-4給出標(biāo)簽背后的推理，分析策略指南中可能存在的歧義，并在指南中做出相應(yīng)澄清。這些步驟可以被不斷重復(fù)，直到對AI審核的質(zhì)量感到滿意。

另外，為了大規(guī)模地處理大量數(shù)據(jù)，可以在正式處理前先使用GPT-4的預(yù)測功能來微調(diào)一個較小的模型。

OpenAI一直在對該技術(shù)進行測試，也歡迎用戶加入訓(xùn)練。任何擁有OpenAI API訪問權(quán)限的人都可以采用這種方法來創(chuàng)建自己的人工智能輔助審核系統(tǒng)。

不過，OpenAI承認(rèn)GPT-4的標(biāo)記質(zhì)量與經(jīng)過輕度訓(xùn)練的人類審核員相似，但與經(jīng)驗豐富、訓(xùn)練有素的人類審核員相比仍有差距。對此，OpenAI強調(diào)，審核的過程不應(yīng)該完全自動化。在新的內(nèi)容審核系統(tǒng)中AI仍然需要人的領(lǐng)導(dǎo)。

值得一提的是，在此之前，已經(jīng)有多款由AI驅(qū)動的審核工具面世，其中較為出名的是谷歌（Google）的Perspective API，由谷歌反濫用技術(shù)團隊和Jigsaw聯(lián)合開發(fā)，被包括Reddit論壇、《紐約時報》和《金融時報》在內(nèi)的一系列世界著名發(fā)布商、平臺和研究機構(gòu)所使用。

不過，比起運用審核工具，許多企業(yè)仍然選擇將審核工作完全外包給其他人力公司來節(jié)省研究成本。據(jù)《華爾街日報》7月24日報道，在過去的幾年，OpenAI自己就為了清洗ChatGPT的數(shù)據(jù)雇傭了大量來自肯尼亞的廉價勞工。

而就在一周前的8月10日，印度媒體Analytics India Magazine剛發(fā)布了驚人的推論，稱OpenAI可能會在2024年底破產(chǎn)，因為僅僅運營ChatGPT，OpenAI每天的成本就高達70萬美元，馬斯克新成立的xAI和GPU短缺問題更是為還沒有盈利的OpenAI雪上加霜。

據(jù)網(wǎng)站數(shù)據(jù)分析工具SimilarWeb調(diào)查顯示，ChatGPT訪問量增長率在過去幾個月內(nèi)一直在下滑，7月份的用戶數(shù)量為15億，環(huán)比下降了12%。

今年1月底，OpenAI曾推出一款A(yù)I工具AI-Text-Classifier（AI文本分類器），旨在用來識別由AI生成的文本內(nèi)容。不過，在誕生還不滿半年后，這個新AI工具就在今年7月被OpenAI以“準(zhǔn)確率太低”為由關(guān)停了。

關(guān)鍵詞：