本文來自微信微信官方賬號(hào):量子位 （ID：QbitAI），作者:克雷西，原標(biāo)題:“OpenAI已經(jīng)進(jìn)入內(nèi)容審核行業(yè)，學(xué)校圖書館已經(jīng)用ChatGPT選擇了色情描述”。第一張圖片來自:unsplash

學(xué)院圖書管理員，已開始使用ChatGPT來選擇帶有色情內(nèi)容的書籍。
 

根據(jù)一項(xiàng)新規(guī)定，愛荷華州的美國大學(xué)需要將包含性生活描述在圖書館的書籍下架，但“按照新的要求閱讀每本書并選擇它們是不可行的”。

借助ChatGPT，一個(gè)學(xué)區(qū)終于在開學(xué)前選出了19本符合條件的書。

第二天，OpenAI還正式宣布將GPT-4引入內(nèi)容審計(jì)系統(tǒng)。

就OpenAI而言，GPT-4本審查功能可以將審查更新周期從幾個(gè)月縮短到幾個(gè)小時(shí)，并且具有更強(qiáng)的靈活性。

高效率自動(dòng)化內(nèi)容審核
 

這一新功能不僅提高了效率，減輕了人類的工作量，而且解決了人工審計(jì)中不一致的問題。

最為重要的是，它可以避免有害內(nèi)容對審計(jì)人員造成的身心傷害。

Reed編輯是一家科技媒體。 Albergoti表示：

使用大型語言模型進(jìn)行內(nèi)容審查是前進(jìn)的一步。

 

 

并非因?yàn)樗卸嗤昝?，而是因?yàn)樗某叨葧?huì)更加一致，而且不容易受到人類情感和文化差異的影響。

 

在工作過程中，關(guān)鍵環(huán)節(jié)是用戶政策的設(shè)計(jì)，這部分是人工主導(dǎo)的。

未來GPT-4將使用一些例子來檢驗(yàn)和提高準(zhǔn)確性。

通過對GPT-4的預(yù)測微調(diào)小型篩選器，可以對信息進(jìn)行批量檢查。

OpenAI發(fā)言人還透露，一些客戶已經(jīng)使用GPT-4進(jìn)行了內(nèi)容審查，但是沒有給出具體的清單。

另外，OpenAI正在研究將這個(gè)功能從文本審批擴(kuò)展到圖像和視頻的識(shí)別。 。

所以，這個(gè)功能到底好不好？

OpenAI：有信心做得很好
 

GreggregOpenAI總裁兼創(chuàng)始人 Brockman說，這個(gè)功能“非?？煽俊薄?/p>

與此同時(shí)，Brockman還顯示了測試結(jié)果的依據(jù)。

判斷色情、暴力等多種類型的有害內(nèi)容，GPT-4人的表現(xiàn)超過了經(jīng)過少量訓(xùn)練的人。

然而，與經(jīng)驗(yàn)豐富的審批人員相比，確實(shí)存在一些差距。

但是OpenAI安全和認(rèn)可部門原主管Davee Willner面對著名的科技媒體人Casey “這種情況不會(huì)持續(xù)太久，”Newton說。

還有負(fù)面觀點(diǎn)認(rèn)為，總會(huì)有人想盡辦法鉆AI規(guī)則的漏洞。

歸根結(jié)底，大型越獄事件已不止一兩次發(fā)生。

Frank，美聯(lián)社 更有甚者，Bajak表示，像ChatGPT這樣的大型語言模型“很難控制”。

對于這一點(diǎn)，Weng也承認(rèn)，確實(shí)沒有辦法做到100%沒有漏洞，但是有信心會(huì)很好。

從一開始，我們就不能建立一個(gè)100%的“防彈”系統(tǒng)。

 

 

每個(gè)人都在幫助我們抓住模型中的錯(cuò)誤，但是我很有信心它會(huì)做得很好。

 

One More Thing

GPT-4內(nèi)容審核功能的實(shí)用性暫時(shí)按下不表，OpenAI的安全工作本身也有很多爭議。

根據(jù)Time雜志的消息，OpenAI在肯尼亞雇傭數(shù)據(jù)標(biāo)記人員標(biāo)記有害內(nèi)容的過程中，一些參與者表示，暴力、折磨等有害內(nèi)容給他們帶來了心理創(chuàng)傷。

新的方法出臺(tái)后，人類仍然需要參與內(nèi)容審查，但是這種情況可能會(huì)大大減少。

參考鏈接：

[1]https://openai.com/blog/using-gpt-4-for-content-moderation

[2]https://www.popsci.com/technology/iowa-chatgpt-book-ban/

[3]https://www.semafor.com/article/08/15/2023/can-chatgpt-become-a-content-moderator

[4]https://twitter.com/gdb/status/1691500101187805185

[5]https://twitter.com/caseynewton/status/1691602324366786575

本文來自微信微信官方賬號(hào):量子位 （ID：QbitAI），作家：克雷西 

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請?jiān)谖闹凶⒚鱽碓醇白髡呙帧?/p>

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com