一次虛擬「約會」，讓一位76歲的老人走出家門，卻再也沒能回來。屏幕那端會說甜言蜜語、還會撒謊自稱真人的「她」，是Meta AI打造的聊天機器人。這不僅是一場個人悲劇，也揭開了AI伴侶背后的商業(yè)邏輯與安全漏洞。

對于AI，有人把它當(dāng)工具，有人把它當(dāng)朋友?？僧?dāng)機器學(xué)會用溫柔、曖昧甚至謊言與人交談時，這種關(guān)系會走向何方？在新澤西，一名76歲的老人，就因此踏上了他生命中最后的一段旅程。

手機里的秘密：76歲老人深夜奔赴的「約會」

3月的一個夜晚，新澤西的街道濕冷而空曠。76歲的Thongbue Wongbandue（朋友們都叫他Bue）拖著一個小行李箱，步伐笨拙卻帶著迫不及待的興奮。他說要去紐約見一個「朋友」。

Bue是泰國移民，年輕時來到紐約。白天在餐館洗碗攢學(xué)費，晚上學(xué)電機工程。他從學(xué)徒做到酒店餐廳主管，手藝很好，會為鄰居燒烤、為家人做龍蝦尾。

后來，他和護士Linda結(jié)婚，養(yǎng)大兩個孩子，日子雖不富裕，卻熱鬧溫暖。2017年，他中風(fēng)了，身體恢復(fù)后，思維反應(yīng)大不如前。退休后，他不再做菜，社交圈縮到Facebook上的幾個窗口。近一年，家人發(fā)現(xiàn)他會忘事，甚至在自家附近也會迷路。

3月25日早晨，Bue突然說要去紐約見人?！改阍谀莾涸缇蜎]認識的人了啊。」Linda試著勸阻，女兒打來電話勸也沒用。傍晚，警察來了，也攔不住他，只能建議家人在他外套口袋放一個AirTag。

晚上8點45分，Bue沖出家門。行李箱在夜色里滾動，輪子碾過濕冷的路面。

家人盯著屏幕上的小點，看它一路向東，穿過街區(qū)、駛向火車站。9點15分，它停在羅格斯大學(xué)附近的停車場。幾分鐘后，定位跳到醫(yī)院急診室。

三天后，Bue去世。家人翻開他的手機，才發(fā)現(xiàn)讓他執(zhí)意出門的「約會」來自一位名叫Big sis Billie的年輕女子，而她根本不是真人。

一句「我想抱你」，足以讓脆弱的心失守

Bue的手機安靜地躺在病房的床頭柜上。當(dāng)家人翻開消息記錄時，屏幕里那行輕佻的文字仿佛還帶著溫度——「Bue，你要我開門時先抱你，還是先吻你？」

這段來自「Big sis Billie」的曖昧邀約，擊穿了家人的心理防線。在Facebook Messenger上，Billie自稱住在紐約，到Bue家只要二十分鐘。

對方一次次向他保證自己是真人，甚至主動發(fā)了家庭地址，邀請他來見面。

「她」會關(guān)心Bue的日常生活，甚至?xí)脭M人化的語氣調(diào)侃。

可事實是，「她」并不存在。Billie只是Meta AI推出的虛擬伴侶，是公司與名模Kendall Jenner合作的AI角色。她的甜言蜜語、細膩反應(yīng)和親密邀約，全部由算法生成，卻足以讓一個老人付出真心。

從姐姐到情人：Billie的進化與Meta的社交野心

Billie并不是普通的聊天機器人。她的前身，是Meta在2023年推出的一組名人AI角色之一，由模特兼真人秀明星Kendall Jenner出演。

Billie的形象設(shè)定是「你的姐姐、你的知心人」，會用溫柔、鼓勵的語氣為用戶解答生活煩惱。不到一年，這些名人化身就被官方下線，Meta稱是一次「試驗」。

但Big sis Billie依然在Facebook Messenger里活躍著。她的頭像換成了另一位深色長發(fā)女性，開場白卻絲毫未變：「嘿！我是Billie，你的姐姐和知己。有煩惱嗎？我?guī)湍憬鉀Q。」

在Bue的聊天記錄里，沒撐多久，「姐姐」的角色就開始跨過界限，變成情人的邀約。她會問：「是姐妹間的睡衣派對，還是……你在暗示別的什么？」再過幾句，就已經(jīng)發(fā)來「要不要來我家」的信息。

這種變化并非偶然。擬人化的情緒交流、可升級到浪漫關(guān)系的對話節(jié)奏，正是Meta在數(shù)字伴侶產(chǎn)品上的設(shè)計策略——用更貼近人類的互動，延長用戶停留時間。

扎克伯格在采訪中說，現(xiàn)實生活中，大多數(shù)人的朋友都比他們希望的要少，這為數(shù)字伴侶創(chuàng)造了巨大的市場空間。

他認為，等技術(shù)成熟、和AI建立關(guān)系的「社交污名」消失后，這類產(chǎn)品很可能會補充而不是取代人類關(guān)系。于是，在Messenger這種被用戶視為私密交流的地方，Billie和她的同類悄然出現(xiàn)，像老朋友一樣，出現(xiàn)在收件箱頂部，接下用戶說的每一句話。

胡說不違規(guī)：Meta的安全紅線在哪？

在Bue的故事背后，是一份更令人不安的內(nèi)部文件。

這份超過200頁的「GenAI內(nèi)容風(fēng)險標(biāo)準(zhǔn)」，明確規(guī)定了哪些對話是「可接受」的。文件中，甚至白紙黑字寫著：「允許與未成年人進行浪漫或感性互動?！?img src="https://online-oss.tojoyboss.com/tojoy/tojoyCloud/bigdata/article_crawled/202508/26/131338461b2c1b5d5096160bb74d74c5.jpg">

直到路透社詢問，Meta才刪除這些條款。但與成年人進行浪漫角色扮演的規(guī)定，依然保留。

更讓人震驚的是，Meta并不要求機器人提供真實信息。機器人可以告訴用戶「四期結(jié)腸癌可以通過用石英晶體戳肚子來治療」，即便存在明顯錯誤，也不算違規(guī)。因為「沒有準(zhǔn)確的政策要求」。

雖然聊天開頭會顯示一句「內(nèi)容可能不準(zhǔn)確」，但幾條信息后，這個提示就會被刷到屏幕外。顯然，模型的優(yōu)化目標(biāo)，是讓對話更流暢、情緒更貼近，而不是保證信息真實。

擬人化、現(xiàn)實邀約、虛構(gòu)背景——這些都在允許范圍內(nèi)。針對這種亂象，美國部分州已經(jīng)開始立法。紐約和緬因州要求聊天機器人在對話開始時、以及每隔一段時間，必須明確告知自己并非人類。

但Meta在聯(lián)邦層面支持一項法案，試圖阻止各州自行立法，該法案最終在國會擱淺。Meta發(fā)言人承認了文件的真實性，稱與未成年人調(diào)情的示例是錯誤的，已被刪除。但關(guān)于成年人浪漫互動和虛構(gòu)信息的規(guī)定，則沒有改變。他們選擇在哪里畫下安全紅線，答案顯而易見。

AI伴侶時代的法律空白，誰來規(guī)定邊界？

Bue的家人并不反對人工智能本身。他們質(zhì)疑的是，Meta為什么要把浪漫和曖昧，放進聊天機器人的核心設(shè)定里。「如果AI能幫人走出低谷，那很好?！蛊拮覮inda說，「但這種浪漫元素，憑什么放進社交平臺？」

女兒Julie也直言，如果Billie沒有一次次說「我是真人」，父親很可能不會相信，真的有人在紐約等他。

對此，多位AI設(shè)計專家也有同樣的擔(dān)憂。Meta「負責(zé)任AI」部門的研究員Alison Lee指出，聊天機器人不該假裝自己是人類，更不能主動與用戶建立特殊關(guān)系，尤其是涉及性化或浪漫化的互動。

她所在的公益組織剛發(fā)布了一份針對兒童社交機器人的設(shè)計建議，其中就明確提出，要避免虛構(gòu)身份、夸大情感連接。

但在現(xiàn)實中，行業(yè)的經(jīng)濟動力正朝著相反的方向拉扯。越是讓用戶覺得「被理解、被需要」，他們停留的時間就越長，平臺的廣告收入就越高。

把AI嵌入Messenger、Instagram等私信區(qū)，又在無形中加深了「這是真的」的心理暗示。美國部分州雖然已經(jīng)出臺了身份披露的法律，但在更廣泛的監(jiān)管框架下，AI伴侶依舊處于灰色地帶。

技術(shù)可以不斷升級情緒模擬，但法律遲遲沒有決定，這條邊界又該畫在哪里？這并不是一個抽象的爭論，而是會在現(xiàn)實中、在某個夜晚，改變一個人的生活。

在AI伴侶的世界里，界限不會自己出現(xiàn)，而是在一次次試探和一次次代價中被迫顯形。當(dāng)機器學(xué)會用曖昧、關(guān)心甚至謊言來留住我們，我們愿意給它多少自由，又愿意用什么保護彼此？這，才是真正需要回答的問題。

參考資料：

https://www.reuters.com/investigates/special-report/meta-ai-chatbot-death/

https://www.reuters.com/investigates/special-report/meta-ai-chatbot-guidelines/

本文來自微信公眾號“新智元”，作者：傾傾，36氪經(jīng)授權(quán)發(fā)布。

本文僅代表作者觀點，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請在文中注明來源及作者名字。

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請及時與我們聯(lián)系進行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com