AI帶來(lái)諸多挑戰(zhàn)，OpenAI為何還要開(kāi)拓“成人內(nèi)容”領(lǐng)域呢？今日凌晨，OpenAI CEO奧特曼發(fā)文宣布，ChatGPT將在未來(lái)幾周推出新版本，還計(jì)劃于今年12月推出更全面的年齡分級(jí)系統(tǒng)，允許為成年用戶提供成人內(nèi)容。

奧特曼提到，OpenAI一直對(duì)ChatGPT的內(nèi)容嚴(yán)格限制，尤其是在心理健康方面。但他們也意識(shí)到，過(guò)于謹(jǐn)慎的內(nèi)容限制，對(duì)部分用戶來(lái)說(shuō)并非有趣，甚至?xí)绊懯褂皿w驗(yàn)。他強(qiáng)調(diào)，新開(kāi)發(fā)的工具不僅能緩解心理健康問(wèn)題，還能在多數(shù)情況下安全地放寬內(nèi)容限制。

奧特曼坦言，新的ChatGPT版本會(huì)有更個(gè)性化的回應(yīng)方式，讓AI更像朋友般互動(dòng)，更符合人們喜好?！拔覀兿Ｍ鸆hatGPT變得更親切、自然，帶有更多幽默和表情符號(hào)。”

隨著模型能力不斷深入，OpenAI發(fā)現(xiàn)，過(guò)于嚴(yán)格的內(nèi)容限制已非最佳選擇。奧特曼透露，OpenAI已開(kāi)發(fā)出新技術(shù)，能在保障用戶安全的前提下，提供更多自由度和多樣化的內(nèi)容。

所以，OpenAI計(jì)劃12月推出的年齡分級(jí)系統(tǒng)，會(huì)針對(duì)不同年齡段用戶提供定制化體驗(yàn)。對(duì)于成年用戶，在通過(guò)“成年驗(yàn)證”后，將允許生成包括成人內(nèi)容在內(nèi)的更多類型內(nèi)容。

一系列調(diào)整背后，OpenAI正逐步放寬內(nèi)容生成限制，試圖在滿足用戶需求和保障安全間找到更合適的平衡點(diǎn)。隨著AI技術(shù)快速發(fā)展，如何在自由度和責(zé)任間劃清界限，成了OpenAI和其他AI公司無(wú)法回避的難題。

AI分級(jí)刻不容緩

AI的快速發(fā)展帶來(lái)創(chuàng)新，也暴露了嚴(yán)重安全隱患。自殺引導(dǎo)、惡意偽造、肖像權(quán)侵犯、色情內(nèi)容泛濫等問(wèn)題不斷出現(xiàn)。

環(huán)球網(wǎng)今年6月報(bào)道，美國(guó)佛羅里達(dá)州一名女子起訴谷歌公司和Character.AI平臺(tái)，指控其AI聊天機(jī)器人“教唆”14歲兒子自殺。8月，亞當(dāng)·雷恩的父母在兒子自殺身亡后，對(duì)OpenAI提起產(chǎn)品責(zé)任和非正常死亡訴訟。訴狀稱，“ChatGPT‘積極’幫助亞當(dāng)探索自殺方法”。

近期媒體還報(bào)道，新澤西州一名認(rèn)知受損老人趕赴AI提出的“約會(huì)”時(shí)，途中摔倒死亡。該AI產(chǎn)品是Meta兩年前推出的生成式AI聊天機(jī)器人“比莉大姐”。

不加約束的內(nèi)容對(duì)不同用戶產(chǎn)生負(fù)面影響，也讓OpenAI等巨頭遭受譴責(zé)。

9月16日，OpenAI宣布推出專為18歲以下用戶設(shè)計(jì)家長(zhǎng)控制的“青少年”版本。該版本會(huì)自動(dòng)識(shí)別未成年用戶，根據(jù)年齡限制匹配合適內(nèi)容，屏蔽圖像類和性相關(guān)內(nèi)容。在極少數(shù)用戶出現(xiàn)心理危機(jī)時(shí)，系統(tǒng)還會(huì)啟動(dòng)緊急響應(yīng)機(jī)制，必要時(shí)聯(lián)動(dòng)執(zhí)法部門干預(yù)。不過(guò)，這并非終點(diǎn)。

根據(jù)OpenAI最新公告，12月將推出更全面的年齡分級(jí)體系，允許符合“成年驗(yàn)證”條件的用戶獲取成人內(nèi)容，包括軟色情。

同為巨頭的Meta，于10月14日宣布，為保護(hù)未成年用戶免受有害內(nèi)容影響，Instagram將啟用PG - 13電影分級(jí)制度。未滿18歲用戶默認(rèn)只能看到符合該標(biāo)準(zhǔn)的內(nèi)容，避免輕度暴力、性暗示及涉毒內(nèi)容。此外，Instagram還推出更嚴(yán)格的“有限內(nèi)容”過(guò)濾功能，加強(qiáng)青少年保護(hù)。新措施將在美國(guó)、英國(guó)、澳洲和加拿大率先推出，預(yù)計(jì)明年初在全球其他地區(qū)實(shí)施。

今年2月，Grok 3推理模型上線時(shí)，部分社交媒體評(píng)論認(rèn)為其“道德感較低”。據(jù)AI博主數(shù)字生命卡茲克稱，該模型不僅對(duì)政治話題激烈回應(yīng)，對(duì)倫理問(wèn)題也直言不諱，甚至生成不可描述的成人內(nèi)容?？ㄆ澘嗽u(píng)論，正式版上線后，Grok 3過(guò)于奔放，很快馬斯克就取締了該內(nèi)容。

邁向AI陪伴之路？

AI帶來(lái)諸多挑戰(zhàn)，OpenAI開(kāi)拓“成人內(nèi)容”領(lǐng)域的原因是“爭(zhēng)奪用戶”。

隨著技術(shù)進(jìn)步，AI應(yīng)用場(chǎng)景悄然變化。從最初的智能助手到如今的AI陪伴者，ChatGPT及其競(jìng)品逐漸向社交互動(dòng)方向發(fā)展。尤其是在AI個(gè)性化和情感化處理上的突破，讓AI產(chǎn)品在情感陪伴、心理疏導(dǎo)等領(lǐng)域的潛力日益凸顯。

例如，Character.AI以個(gè)性化、UGC（用戶生成內(nèi)容）兩大特點(diǎn)受到全球用戶青睞。該平臺(tái)允許用戶創(chuàng)建和定制虛擬角色，進(jìn)行互動(dòng)并形成社交圈。2024年，Character.AI兩位聯(lián)合創(chuàng)始人及核心技術(shù)團(tuán)隊(duì)被谷歌以27億美元（約合人民幣193.8億元）收購(gòu)。團(tuán)隊(duì)出走雖影響其發(fā)展，但未撼動(dòng)根基。此后，Character.AI停止自研模型，采用DeepSeek、Meta等企業(yè)的開(kāi)源模型。

到2025年6月，Character.AI任命了新CEO，還在對(duì)接新買家。有知情人士透露，Character.AI預(yù)計(jì)年底年化收入達(dá)5000萬(wàn)美元，較此前預(yù)測(cè)的3000萬(wàn)美元大幅增長(zhǎng)。

OpenAI推出新版ChatGPT時(shí)，也透露出類似的商業(yè)化野心，更注重產(chǎn)品運(yùn)營(yíng)與市場(chǎng)擴(kuò)展。未來(lái)，ChatGPT可能不僅是智能助手，更會(huì)成為用戶的“虛擬朋友”。這種趨勢(shì)下，伴隨眾多心理學(xué)研究和數(shù)據(jù)分析，AI正被塑造為情感紐帶。與傳統(tǒng)功能性AI相比，情感和陪伴可能成為未來(lái)AI發(fā)展新趨勢(shì)。

然而，AI陪伴潛力巨大，挑戰(zhàn)也同樣嚴(yán)峻。如何避免用戶對(duì)AI陪伴產(chǎn)生虛擬世界依賴，確保真實(shí)世界情感需求不被AI取代，是AI企業(yè)需面對(duì)的倫理問(wèn)題。特別是對(duì)于未成年人，AI情感陪伴是否會(huì)導(dǎo)致他們?cè)谡鎸?shí)社交中缺乏能力和經(jīng)驗(yàn)，仍是未解難題。

本文來(lái)自微信公眾號(hào)“鳳凰網(wǎng)科技”，作者：姜凡，36氪經(jīng)授權(quán)發(fā)布。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽?lái)源及作者名字。

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com