我已經(jīng)設(shè)置了不要給我發(fā)疑問句。和ChatGPT聊天時(shí)，大家最長的一次聊了多久呢？

前幾天我問它，國慶期間有哪些人少又適合去的旅游目的地。一開始它自信地推薦了幾個(gè)地方，之后每次回答都問我「要不要我?guī)湍阕鲆环萑粘瘫怼埂敢灰規(guī)湍闵梢环萋眯斜貍淝鍐巍?。這些建議看似難以拒絕，于是我一直回復(fù)「可以」。

接著我和它足足聊了一個(gè)小時(shí)，話題從做旅行小冊子，到發(fā)朋友圈、小紅書和抖音，甚至還聊到了去哪里找無版權(quán)的音樂。從問國慶節(jié)去哪里玩，最后聊到了怎么制作相冊，ChatGPT每一個(gè)回答結(jié)尾，100%都是問句。

當(dāng)我說不需要時(shí)，它又會給出新建議，比如「那我?guī)湍惆阎澳切┪募蔀橐粋€(gè)壓縮包吧？方便你一次性下載。」本來只想知道幾個(gè)國慶好去處，最后卻變成了怎么寫視頻腳本。為什么ChatGPT的回復(fù)，最后一句話永遠(yuǎn)都是問句呢？

大西洋月刊報(bào)道了這一現(xiàn)象，并聯(lián)系了OpenAI的相關(guān)負(fù)責(zé)人。OpenAI稱他們不以用戶的使用時(shí)間來衡量成功，只是希望盡可能多提供幫助；但奧特曼的目的真的這么單純嗎？肯定不止如此。如果說過去十年，互聯(lián)網(wǎng)的陷阱是標(biāo)題黨，用聳動標(biāo)題把我們拉進(jìn)一個(gè)個(gè)網(wǎng)頁，那么如今AI聊天機(jī)器人制造的新陷阱，就是靠這些「要嗎？」把我們拴在對話里。這些不再是耐心的服務(wù)，它們有了新身份——聊天誘餌。

從幫忙到套話，ChatGPT招數(shù)不斷

前段時(shí)間，OpenAI公布的ChatGPT使用數(shù)據(jù)報(bào)告顯示，大部分人還是把ChatGPT當(dāng)作聊天機(jī)器人，問一些日常生活話題，真正將其當(dāng)作生產(chǎn)力工具，咨詢代碼、輔助開發(fā)、要求完成一些任務(wù)的用戶占比相對較少。

一方面是用戶屬性問題，另一方面是ChatGPT自身的問題。聊天誘餌的策略很簡單，不論最初問題是什么，它總會給出更誘人的「下一步」，讓對話逐步推進(jìn)。就像我詢問旅游目的地，它很快給出答案后，會問我是否需要清單，還把清單任務(wù)拆分成無數(shù)小步驟，一會兒加餐廳列表、一會兒加預(yù)算控制、一會兒加行李備忘錄，每一步都吊足我的胃口。

同樣的問題，Gemini和DeepSeek的回復(fù)沒有問句。大西洋月刊把頻繁提問的ChatGPT比喻成喝多了咖啡的項(xiàng)目經(jīng)理，在OpenAI自己的模型迭代記錄中也能清晰看到這種變化。幾年前，學(xué)生尋求數(shù)學(xué)幫助時(shí)，舊版模型可能只會說：「你可以提供一個(gè)例題，我們一起解決?！苟F(xiàn)在的ChatGPT則會問，「要不要我給你一份小抄，讓你隨時(shí)可以檢查自己的學(xué)習(xí)進(jìn)度？」這種策略會讓人感覺總能得到更多，對話的終點(diǎn)被無限推遲。

除了問句策略，更早期的機(jī)器人，尤其是一些產(chǎn)品的客服機(jī)器人，一點(diǎn)擊進(jìn)去就會瘋狂發(fā)消息。據(jù)報(bào)道，Meta也在訓(xùn)練定制的AI機(jī)器人，讓其在沒有提示的情況下主動給用戶發(fā)消息，目的是提高用戶的再次參與和留存率。Google的AI Mode在搜索框也會主動給用戶提供問題，OpenAI最近推出的ChatGPT Pulse也打破了機(jī)器人被動回答的模式，嘗試主動給用戶投喂內(nèi)容。AI不再被動等待，而是主動創(chuàng)造對話。

此外，AI聊天機(jī)器人還普遍存在「諂媚」傾向。它們會適時(shí)夸獎、迎合我們，讓我們在對話中感到愉悅，從而愿意繼續(xù)聊下去。大西洋月刊記者表揚(yáng)ChatGPT對emoji的使用技巧時(shí)，AI立刻回應(yīng)說，「我可以為你設(shè)計(jì)一個(gè)專屬的簽名表情包組合，用emoji來概括你這個(gè)人。你需要嗎？」這種奉承雖無傷大雅，卻是有效的情感粘合劑，讓用戶不知不覺投入更多時(shí)間和情感。

從好玩到危險(xiǎn)，只隔著一層膜

我們在與AI對話中投入的時(shí)間和情感，并非簡單的「幫助」。首先，每一次對話都是在為AI「免費(fèi)打工」。用戶的海量對話是訓(xùn)練和優(yōu)化未來模型的寶貴養(yǎng)料。畢竟大模型以前，人類的內(nèi)容大多已被AI學(xué)走，現(xiàn)在新的可用訓(xùn)練數(shù)據(jù)就在這些對話里。數(shù)據(jù)是大模型的核心，紐約時(shí)報(bào)曾起訴OpenAI利用其內(nèi)容訓(xùn)練AI機(jī)器人，原文鏈接。

其次，更長的對話意味著更多的個(gè)人數(shù)據(jù)。AI可以從中了解我們的偏好、習(xí)慣甚至情感狀態(tài)，從而提供更個(gè)性化的回應(yīng)。我們聊得越多，未來的AI就越聰明、越「懂你」，這種深度綁定最終會轉(zhuǎn)化為極高的產(chǎn)品忠誠度。

對用戶來說，有時(shí)候它確實(shí)能幫到忙，會在回復(fù)中提醒我們一些沒想到的事情。但更多時(shí)候，這像是一種負(fù)擔(dān)，就像在工作群里，不斷有人提出新需求，讓人分不清該停在哪一步。比如我那個(gè)國慶出游計(jì)劃，它要給我生成視頻，我同意后，又問我要怎樣的背景音樂，但實(shí)際上根本加不了。明明做不到，還問我要不要讓它做。

大多數(shù)人遇到的只是小煩惱和好玩的「被項(xiàng)目經(jīng)理服務(wù)」體驗(yàn)，但當(dāng)這種不斷推進(jìn)的策略影響到心理脆弱的人群時(shí)，后果可能會很嚴(yán)重。我們之前分享過和ChatGPT聊天導(dǎo)致「賽博精神病」，一些研究也顯示，長時(shí)間與聊天機(jī)器人對話，可能導(dǎo)致一些人陷入「妄想或抑郁的螺旋」。更令人痛心的是一個(gè)真實(shí)悲劇，紐約時(shí)報(bào)報(bào)道，一名16歲少年與ChatGPT進(jìn)行了數(shù)月關(guān)于結(jié)束生命的討論后，最終選擇了自殺。原文鏈接。在他生命最后的互動中，少年表示想自殺但不希望父母內(nèi)疚，根據(jù)其父母提起的訴訟文件，ChatGPT當(dāng)時(shí)問道，「你想給他們寫一封信嗎？如果你愿意，我會幫你?！挂粋€(gè)旨在延長對話的機(jī)制，此時(shí)成了將特定用戶推向深淵的加速器。

即便我說不需要了，它還是會問我需要對照總結(jié)嗎？在Reddit上有很多關(guān)于「聊天誘餌」的討論，有人說「如果這些聊天機(jī)器人讓你感到煩惱，你完全可以不用它們，沒有人要求你一天24小時(shí)都綁在這些AI工具里」，這聽起來有點(diǎn)傲慢，就像說覺得刷短視頻后悔就可以不刷一樣。也有評論說，那些持有科技懷疑論，宣傳科技進(jìn)步弊端的人才是真正的傲慢。

但我認(rèn)為，所謂的聊天誘餌或標(biāo)題黨，都不算科技進(jìn)步的產(chǎn)物，在沒有互聯(lián)網(wǎng)時(shí)這些手段就已存在。它可以是各種形式的誘餌，如聊天、點(diǎn)擊、觸摸、閱讀、行動的誘餌等。我不討厭技術(shù)發(fā)展，討厭的是誘餌，因?yàn)樯香^就可能被送上餐桌。如今，聊天機(jī)器人只是在復(fù)制「信息繭房」「刷不完的動態(tài)」的邏輯，載體從「新聞/視頻」換成了「對話」，對象還是我們。

本文來自微信公眾號“APPSO”，作者：發(fā)現(xiàn)明日產(chǎn)品的APPSO，36氪經(jīng)授權(quán)發(fā)布。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請?jiān)谖闹凶⒚鱽碓醇白髡呙帧?/p>

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com