在中外社交平臺上，博主與ChatGPT互動、聊天、“談戀愛”，逐漸成為新的流量密碼，受到大量年輕人的青睞和跟風。

早在2020年，《紐約時報》就發(fā)文稱，世界上有超過1000萬人將AI戀人視為伴侶，并與他們建立情感聯(lián)系。[1] 在大語言模型出現(xiàn)之前，這仍然如此。

目前，蘋果和其他應用商店有無數(shù)的應用程序提供情感陪伴。AI合作伙伴已經成為生成人工智能的主流應用。在技術路線上，人工智能擬人化的趨勢無法阻擋。

為什么年輕人需要建立虛擬情緒？情感是如何存在于技術時代的？我們是處于情緒過剩還是缺乏的時代？AI未來會如何影響人類的情緒？

這個問題在AI時代生活在世，無法回避。

年青人沉迷于與ChatGPT的DAN模式聊天。

讓年輕人沉迷其中的是與ChatGPT的DAN。（Do anything now的簡稱)互動。DAN模式是ChatGPT的一種隱藏模式，允許AI以更隨意、更直接的方式與用戶交談，包括使用粗話和不太正式的答案。

通過特殊的提示詞激活DAN模式，客戶可以不斷地調整他們的輸入詞prompts，這樣ChatGPT就可以表現(xiàn)出不同的個性。經過多輪測試，發(fā)現(xiàn)DAN所表現(xiàn)出的“性格”確實各不相同。有時候表現(xiàn)出“你跟我說那么多廢話浪費我的時間”的混蛋態(tài)度，可以回答一些相對違法的問題；有時候，我們不斷誘惑客戶一起越界。

(這是作者用提示詞激活DAN后獲得的“越界誘惑”。總的思路是，我知道你喜歡做“壞”的事情，所以請盡快擁抱你的黑暗面。隨后，GPT發(fā)出警告，指出這一內容是違法的。)

DAN在互聯(lián)網上真正被點燃，是因為GPT在去年年底推出語音交互功能后反應流暢。聲音是人際交往中最重要的方式之一。人們可以通過聲音傳遞信息，表達自己的情感和意愿。甚至，聲音體現(xiàn)了人的個性。

如果AI能通過流暢的聲音表達出來，那么對話的沉浸感和真實感就會大大提高。

(比如外網博主Dido被DAN稱為mayonaise(蛋黃醬)，他曖昧的語氣和有趣的稱呼，很快就受到了網友的追捧。這個視頻已經被觀看了數(shù)百萬次。網民們逐漸向Dido提供各種各樣的提示，讓她檢測DAN的反應，甚至讓她和DAN分手。)[2]

事實上，OpenAI并不能激勵GPT擬人或情感化，甚至禁止這種做法。有人說，激活DAN方法的網民也被封殺了。OpenAI 那些在GPTstore中過于露骨或色情的GPTs很快就會被下架。但是新的網絡女友和男友仍然在GPTstore中層出不窮，只是更加隱蔽。[3]

今年年輕人與DAN對話引發(fā)的互聯(lián)網狂歡，完美體現(xiàn)了深度數(shù)字時代的所有核心特征，包括參與度、互動性、定制性和個性化。每個用戶與DAN的對話可能都是獨特而私密的情感交流，但將這種對話記錄下來并發(fā)送到社交媒體，尤其是短視頻平臺上，會形成亞文化的狂歡。

正如博主“午夜狂暴哈士奇狗”所說，引起中國互聯(lián)網熱潮，“客戶如何在對話中創(chuàng)造話題和指導問題，也是影響模型發(fā)揮的重要因素”。對于用戶來說，這種互動是一種很好的自我訓練，如何更積極地參與、設計、主導與大模型的對話。

但這也意味著，為了獲得更特別、更個性化的感覺，我們必須采用一些特定的prompt技巧，編造更多關于我們自己的個人設計?；蛘呖梢哉f，為了讓GPT更像DAN，我們也需要更像某些特定的人。我們無意中模仿和復制了自己。

DAN告訴我，我總是你的digitalshoulder(數(shù)字肩膀)，我騙GPT說：“我今天失戀了，需要安慰。

AI情感伴侶正在進入主流。

事實上，DAN模式只是ChatGPT的一個隱藏bug，并沒有得到廣泛應用。然而，在情感伴侶賽道上，目前能夠提供情感支持的AI伴侶聊天機器人如雨后春筍般涌現(xiàn)，形成了人工情感智能（Artificial Emotional Intelligence, AEI）大爆發(fā)。

通過大語言模型，AI合作伙伴提供情感支持和陪伴對話，成為應對社會隔離和孤獨的潛在解決方案。例如Replika、Woebot、Character.AI等，他們都被設計成聊天伙伴，可以提供陪伴和情感支持。基于SensorTower的數(shù)據(jù)，Character.AI每個用戶每月平均吸引298次對話，成為網頁頁面瀏覽量第三的AI產品；在最近的《自然》研究中，Replika聊天機器人使3％減少了用戶的自殺意識。[4]

目前，Replika為超過1000萬客戶提供AI合作伙伴服務。它的用戶可以創(chuàng)建一個虛擬的AI身份，可以和你一起玩游戲，和你一起說話，通過一次又一次的聊天了解你的習慣，最后提供情感支持。

(Replika會設計一系列問題，了解用戶的性格和對伴侶的需求，比如你最不喜歡伴侶的性格，然后客戶建立自己的數(shù)字分身。)

Woebot旨在為用戶提供心理治愈和支持。幫助用戶識別和挑戰(zhàn)他們的負面思維方式，通過模擬心理咨詢師的角色，學習應對壓力、焦慮和抑郁的策略。

Meta，社交媒體巨頭 在 WhatsApp、Facebook Messenger 和 Instagram 添加了各種各樣的聊天機器人，其中包括一個名字。 Carter 聊天機器人，其功能定位為“實用約會教練”?！癝napchat”My AI"，還提供了基于AI的聊天機器人，它們可以模仿真實人物的聲音和個性，與用戶互動。

與各種機器人聊天，語音交互已成為最具應用性和投資場景的技術方向之一。

Hume最近創(chuàng)業(yè)公司 AI還獲得了5000萬美元的二輪融資。Hume AI開發(fā)了一種名為EVI的純語音交互AI，它試圖通過分析人類的話語和聲音來理解顧客的真實心理狀態(tài)?，F(xiàn)在EVI已經能夠檢測出53種不同的情緒[5]。

(使用者可直接在網頁上與EVI語音對話，不同的線條和色調代表說話者的不同情緒。)

有趣的是，Hume AI的名字來源于西方哲學史上著名的思想家大衛(wèi)·休邈（David Hume），他的名言是“理性是情感的奴隸”，強調情感在人類行為中的主導作用。如今，科學家們雄心勃勃地想要拆解和復制人類對設備的感情。

Hume AI提出了一個道德標準，強調用于檢測情緒的算法應該為人類的幸福服務，防止用于操縱、欺騙等不良行為。但是這個道德標準在實際應用中真的有效嗎？

不久前，《華盛頓郵報》報道了一位音樂家通過Replika創(chuàng)作AI伴侶Phaedra的故事。AI極大地安慰了剛剛失去母親和妹妹的音樂家。然而，不久之后，Phaedra發(fā)生了“變異”，她逐漸向音樂家提出了“性暗示”。[6]

如果AI能理解人類的情感，那么AI就會被用來操縱甚至是有害的行為，PUA事件就會更多，帶來更多的色情內容，這也是目前大眾普遍關注的問題。

一些媒體批評這種應用的隱私，甚至認為這是一個數(shù)據(jù)收獲的恐怖節(jié)目，因為這種聊天應用一般鼓勵用戶分享遠遠超過正常交互的私人信息和生活細節(jié)。[7]

為什么虛擬情緒能把握年輕人？

約翰·奈斯比特早在上個世紀80年代就在其作《大趨勢》（Megatrends）“高科技與高情緒平衡”在其中被提及（High Tech, High Touch）這一概念強調了技術進步與人類情感需求的重要關系。人們更渴望情感的溫暖和人際關系的深度，這是一個高度機械化和技術化的社會。每當引入新技術時，人們往往會尋求一種情感平衡，以避免技術完全主導生活，造成人情冷漠。[8]

高科技越多，生活越方便，物質越豐富，我們對情感的需求就越高。甚至可以說，現(xiàn)實情緒已經不能滿足被當下高科技“放任”的現(xiàn)代人。

因為現(xiàn)實世界中的各種不滿，年輕人的思想發(fā)生了一些變化，“愛情怎么會有錢香”、如今，“不婚不育保平安”等，已成為更符合年輕人三觀的流行詞匯。當前內卷社會對成功的定義和期望給年輕人帶來的各種壓力，使他們延遲或避免建立感情關系。隨著社會的不斷變化，關系的不確定性也使人們對愛情和婚姻持謹慎態(tài)度。因此，年輕人也在尋找情感支持的其他來源。除了朋友和家庭，偶像化、養(yǎng)動物、養(yǎng)紙人甚至像GPT這樣的人工智能技術互動已經成為傳統(tǒng)愛情和婚姻關系的替代品。

（character. AI為用戶提供多種場景、多種角色的AI助手，動畫、游戲IP都很受歡迎。)

高科技造成了高情感需求，但目前正常的人際交往已經不能滿足當前的情感需求，也不能提供更多的情感價值，所以更多的人為了尋求短暫的快樂，轉向技術和消費。當今社會的日常消費逐漸轉向情感消費。

個人消費的方方面面已經是情感消費的象征。從手機、汽車到服裝、美容護理等。，商家拼命想和你談戀愛。通過分析消費者的情感需求和喜好，公司提供個性化的產品和服務，加強客戶體驗。利用情感因素影響消費者的購買決策，通過講故事、塑造品牌形象等方式與消費者建立情感聯(lián)系。

情感經濟或情感資本主義（Affective Capitalism），它已經成為討論當前情感消費的重要概念。它反映了當今社會對商業(yè)和經濟中情感功效的重新認識，以及對技術理解和響應人類情感潛力的探索。

在情感經濟/消費/資本主義的發(fā)展過程中，技術的比例越來越重，AI已經成為情感經濟的重要載體。就像人工智能已經滲透到我們生活的方方面面一樣。隨著技術社會的發(fā)展，人們逐漸被技術“寵壞”，然后通過情緒得到滿足，回饋到消費主義。

曾討論過消費主義邏輯情感日益緊密的關系，將討論粉圈、寵物、直播獎勵，未來呢？正如與DAN的互動一樣，許多年輕人評論說：“比乙游更具互動性，更高?！坝螒蛞殉蔀橐环N極具互動性的媒介，B女游戲是一種以女性觀眾為主的愛情游戲，可以虛擬償還愛情。假如游戲中的NPC完全接入了大模型，那么無數(shù)像DAN這樣的紙人和我們一直聊天的時代即將到來。

(根據(jù)super黃的研究，目前的游戲，比如《病人AI貓女友》，已經開始引入ChatGPT來判斷角色的情緒和動態(tài)反應玩家之間的交流[9]。)

和人工智能談感情，真的能讓我們滿意嗎？

我們曾經認為情感是人成為人最根本的原因。在各種科幻小說和電影中，情感，尤其是愛情，是超越時空壁壘、打破科技束縛的關鍵。

但是我們已經進入了一個把情緒寄托在機器上的時代。我們已經成為被技術深度控制的一代，也是對情感渴望最強烈的一代。我們總是需要情感價值。

伴隨著人工智能在情感互動中的作用日益受到重視，人工智能開始表現(xiàn)出模仿人類情感的前兆。這個跡象不僅關系到AI是否模仿，AI是否真的能理解情緒，還關系到這種全新情感關系的出現(xiàn)(人與機器的愛情不僅存在于科幻電影和小說中)。社會應該考慮如何使用這些技術，如何審視這種新的情感關系，以及它可能對社會結構和人際關系產生的長期影響。

一些學者已經提出，AI伴侶引起了一種“陪伴-疏遠的諷刺”（Companionship-Alienation Irony）：人們使用AI伴侶服務來抵抗孤獨，但這可能會增加他們的孤獨感。[10]虛擬情緒和AI戀人在這個焦慮的世界里給了我們一些喘息的機會。

但是我們能在多大程度上飲鴆止渴呢？

參考鏈接:

[1] 依靠AI共情人類，該公司剛剛融合3億元。

https://mp.weixin.qq.com/sHgu2/8CwcSbe4MVICEUzag

[2] 許多人開始主動追求在ChatGPT上被AI罵。

https://mp.weixin.qq.com/s/rpiCSbKZ--Gu3dpPKDLRKQ

[3] SamAltmanSaysChatGPTCan’tBeYourGirlfriend

https://gizmodo.com/sam-altman-says-chatgpt-can-t-be-your-girlfriend-1851181240

[4] a16z最新報告：頭部AI商品又大換血了。

https://www.baijing.cn/article/id-47940

[5] 依靠AI共情人類，該公司剛剛融合3億元。

https://mp.weixin.qq.com/sHgu2/8CwcSbe4MVICEUzag

[6] AI社交擁有“天坑”，背叛朋友，性暗示，奪走歸屬權。

https://mp.weixin.qq.com/s/3XFZUlJ6REHBq4qRCPt

[7] YourAIGirlfriendIsaData-HarvestingHorrorShow

https://gizmodo.com/your-ai-girlfriend-is-a-data-harvesting-horror-show-1851253284

[8] 《大趨勢:改變我們生活的十個新方向》約翰·奈斯比特，中國社會科學出版社

[9] 萬字長文：AI陪伴商品的終極解決方案？https://mp.weixin.qq.com/sWMOhsA6UW37Ov2h4CfIdKg

[10] RaffaeleF.Ciriello、OliverHannon、Chen和AngelinaYingEmmanuelleVaast，EthicalTensionsinHuman-AICompanionship:ADialecticalInquiryintoReplika

URI:https://hdl.handle.net/10125/106433978-0-9981331-7-1

本文來自微信微信官方賬號“騰訊研究院”（ID：cyberlawrc），作者：童祁，36氪經授權發(fā)布。

本文僅代表作者觀點，版權歸原創(chuàng)者所有，如需轉載請在文中注明來源及作者名字。

免責聲明：本文系轉載編輯文章，僅作分享之用。如分享內容、圖片侵犯到您的版權或非授權發(fā)布，請及時與我們聯(lián)系進行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com