競(jìng)爭(zhēng)秩序場(chǎng)課題組 北京報(bào)道

2025年被稱作“智能體元年”，這是AI發(fā)展路徑上的一次范式突變。AI從“我說(shuō)AI答”轉(zhuǎn)變?yōu)椤拔艺f(shuō)AI做”，從對(duì)話生成躍遷至自動(dòng)執(zhí)行，智能體正成為最重要的商業(yè)化錨點(diǎn)和下一代人機(jī)交互范式。

然而，越接近落地，風(fēng)險(xiǎn)就越真切。

一方面，作為市場(chǎng)上最熱門(mén)的概念，當(dāng)下不少討論中的智能體定義混亂，要警惕一些夸大產(chǎn)品能力的現(xiàn)象，特別是將自動(dòng)化軟件或?qū)υ捠街职b成智能體。

另一方面，隨著智能體的產(chǎn)業(yè)生態(tài)和應(yīng)用場(chǎng)景逐漸明晰，關(guān)于安全和技術(shù)發(fā)展的爭(zhēng)端再次出現(xiàn)。業(yè)內(nèi)哪方聲音占主流？不同產(chǎn)業(yè)角色如何看待這一問(wèn)題？行業(yè)是否存在共識(shí)？急需找到一條認(rèn)知水位線。

結(jié)合調(diào)查問(wèn)卷和行業(yè)深入訪談，南財(cái)推出最新專題報(bào)告《智能體體檢報(bào)告——安全全景掃描》，從最新發(fā)展?fàn)顩r、合規(guī)認(rèn)知度、合規(guī)實(shí)際案例三個(gè)角度，對(duì)智能體的安全合規(guī)問(wèn)題進(jìn)行掃描。

以下是八點(diǎn)核心發(fā)現(xiàn)以及報(bào)告全文：

1、概念正熱。垂直智能體領(lǐng)先，編程場(chǎng)景已誕生ARR破5億美元的產(chǎn)品。

2、地圖擴(kuò)張中。從AI手機(jī)到AI瀏覽器，智能體正在掌控日常入口。

3、誰(shuí)更“能自理”誰(shuí)能走得遠(yuǎn)。容錯(cuò)性與自主性可劃分智能體的價(jià)值象限。

4、“安全重要，但不著急”。業(yè)內(nèi)普遍認(rèn)可智能體安全合規(guī)很重要，但優(yōu)先級(jí)排不進(jìn)TOP 3。

5、出錯(cuò)與泄露。業(yè)內(nèi)最關(guān)注的智能體風(fēng)險(xiǎn)仍是AI幻覺(jué)和用戶數(shù)據(jù)泄露。

6、下一代應(yīng)用商店？智能體廣場(chǎng)的安全監(jiān)測(cè)、安全標(biāo)識(shí)還不完善。

7、智能體進(jìn)化之路。智能體協(xié)作是落地關(guān)鍵，安全風(fēng)險(xiǎn)問(wèn)題待解決。

8、多工具調(diào)用暗角叢生。用戶數(shù)據(jù)流向和責(zé)任分配問(wèn)題待解決。

《智能體體檢報(bào)告——安全全景掃描》

指導(dǎo)單位 : 南方財(cái)經(jīng)全媒體集團(tuán)

主辦單位 :21世紀(jì)經(jīng)濟(jì)報(bào)道

編寫(xiě)單位 : 南財(cái)合規(guī)科技研究院 競(jìng)爭(zhēng)秩序場(chǎng)課題組

策劃 : 王俊

統(tǒng)籌 : 王俊 肖瀟

編寫(xiě) : 肖瀟 王俊 章馳 陳勇杰 張傳文

設(shè)計(jì)統(tǒng)籌 : 林軍明

設(shè)計(jì) : 陳國(guó)麗

圖表設(shè)計(jì) : 黎旭廷

校對(duì) : 黃志明

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽?lái)源及作者名字。

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com