據(jù)外媒近日報道，在美國社交平臺Snapchat上擁有近200萬粉絲的女網紅卡琳·瑪喬麗依托Chatgpt-4生成了自己的數(shù)字分身“卡琳AI”，并以每分鐘收費一美元的價格提供聊天服務。

這位AI女友走的是一個暖心的人設：會不斷夸獎你，隨時隨地安慰你，還不會讓你失戀或者遭受冷暴力，聽起來像是個非常理想的另一半。

當然，一切只要充值到位。

和頂流明星賺得一樣多

“卡琳AI”是初創(chuàng)企業(yè)FV（Forever Voice）創(chuàng)建的第一個虛擬AI伴侶，這款AI采集了卡琳本人長達2000個小時的視頻素材，使得其性格、音色、語調和說話風格都和卡琳本人非常接近。

為什么要在網絡上“復制”另一個自己？

卡琳本人在接受采訪時表示，自己在社交平臺上擁有數(shù)百萬粉絲，沒有辦法給每位粉絲一對一回應，這讓她感到很糟糕。而“卡琳AI”不僅可以解決這個問題，還能用來“治愈”孤獨。

她在自己的社交賬號里寫道“無論你是需要有人安慰或關愛，或者你只是想抱怨學?；蚬ぷ髦邪l(fā)生的事情，‘卡琳AI’將永遠在你身邊。你可以通過‘卡琳AI’獲得無限的可能。”

產品一經推出，就有不少人躍躍欲試。

據(jù)統(tǒng)計，在第一周里，“卡琳AI”為卡琳帶來了7.16萬美元的收入，也就是說，卡琳在這周內就算是“躺過”，也賺了將近50萬人民幣。

據(jù)她的業(yè)務經理稱，如果一切順利，卡琳預計AI每月可以為她帶來500萬美元的收入，年收入將達到6000萬美元（約4.16億元），比肩美國頂流明星泰勒·斯威夫特。

“失控”的AI

在驚嘆于新技術新產品的同時，不少人發(fā)出了質疑的聲音。

有網友稱之前在電影《她》里面看到過人類沉迷AI虛擬女友的故事，沒想到竟然這么快就來到了眼前。更有網友將虛擬伴侶的誕生稱為“人類的末日”。

和人們預期的一樣，“卡琳AI”推出后不久，產品就一度“失控”。

進入到第二階段的公測時，付費人數(shù)已接近2萬人，其中99%為男性。一些人用大尺度的話去訓練AI，導致雙方的交流變得色情露骨。

對于這個問題，F(xiàn)V公司CEO約翰·邁耶表示，目前公司正在招聘“首席道德官”來約束對話內容。雖然問題可以被技術解決，但其暴露出來的AI的本質問題卻更讓人擔憂。

復旦大學哲學學院教授徐英瑾在接受潮新聞記者采訪時表示，AI在心理治療等領域能起到積極的作用，可一旦進入需要心靈溝通、滿足精神需求的領域，可能讓人與人之間陷入更大的對立和分歧。

他認為，目前的技術和資本往往是結合在一起的，很多技術產品都想實現(xiàn)短時間的變現(xiàn)。而對于AI伴侶來講，迎合用戶的喜好、讓用戶產生情感聯(lián)系，就是變現(xiàn)的關鍵。

很多AI會順應用戶偏好，接受用戶所灌輸?shù)乃伎寄Ｊ胶驮捳Z體系，兩者之間的交流容易形成一個信息繭房，用戶本身有的特性在一次次和想法類似的AI伴侶交流過程中被強化。厭女的更加厭女，恐男的更加恐男，真實線下的人與人之間的溝通和理解會變得困難。

“以戀愛為例。男女的心理結構是不一樣的，戀愛是探索異性心理結構的重要契機。有些男性會說，女人心，海底針，對女性而言，男性又何嘗不是這樣？可是，機器很可能會因為算法放大一些物化的傾向，從而加深用戶的偏見，導致在線下交流中產生很多問題。”徐英瑾說道。

另外也有人提出兩性觀念的問題：AI伴侶可以同時和無數(shù)人“戀愛”，而在之后同類產品增多后，人類也可以和無數(shù)AI伴侶“戀愛”，那么傳統(tǒng)兩性關系中的“忠貞”觀念，是否也會受到沖擊？

AI伴侶產業(yè)化風險

“卡琳AI”一炮而紅后，F(xiàn)V公司CEO邁耶已經開始和投資者會面。自2017年他用AI建立了一個復制了他已故父親的聲音和個性的智能聊天機器人后，邁耶對虛擬伴侶的未來始終懷有期待。

他認為，在未來五年里，大多數(shù)美國人的口袋里都會有一個AI伴侶，無論是約會對象、私人教練還是導師，這也是公司目前正在探索的方向。

看起來，AI伴侶似乎會成為一筆大生意。但在產業(yè)化的過程中，還存在很多法律方面的考量。

其中一個繞不開的問題就是隱私權問題。上海市錦天城律師事務所阮何明律師認為，從AI伴侶的生成到實際使用，隱私權貫穿始終。

公司在采集個人信息生成AI伴侶的時候，可能會對采集對象，尤其是針對明星、已故自然人等特殊人群，侵犯其《民法典》中規(guī)定的名譽權、姓名權、肖像權，以及《民法典》首次規(guī)定的聲音權益等。同時，AI伴侶在用戶使用過程中不當?shù)臄?shù)據(jù)采集和泄露也會侵犯其相關法律權益。

此外，AI伴侶和用戶有著更深刻的情感聯(lián)結，AI公司和商家可能會利用AI伴侶植入廣告等誘導性內容引導用戶消費，進而違反《反不正當競爭法》《廣告法》等法律規(guī)定。

阮何明律師認為，用戶與AI伴侶建立虛擬關系，影響用戶學習基本社交和維護親密關系的能力，可能會加劇用戶的孤獨感和社交隔離問題。尤其是對于青少年而言，他們尚處于社交學習階段，容易受到暴力、情色等不良內容引導，將會阻礙其成長，甚至誘導青少年犯罪。

本文僅代表作者觀點，版權歸原創(chuàng)者所有，如需轉載請在文中注明來源及作者名字。

免責聲明：本文系轉載編輯文章，僅作分享之用。如分享內容、圖片侵犯到您的版權或非授權發(fā)布，請及時與我們聯(lián)系進行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com