使AI從“使用”到“有意義”,火山引擎的大型金融模式是如何煉成的?
5月15日,火山引擎升級(jí)并正式發(fā)布了火山引擎金融行業(yè)大模型解決方案,以與多位客戶的實(shí)際合作案例為重點(diǎn),聚焦金融行業(yè)大模型應(yīng)用。
目前,以大模型為代表的AI技術(shù)正在全球掀起新一輪的產(chǎn)業(yè)技術(shù)變革。金融業(yè)已經(jīng)成為引領(lǐng)時(shí)代潮流的中堅(jiān)力量,因?yàn)樗鼘?duì)時(shí)代潮流的敏感洞察和對(duì)新技術(shù)的快速接受。如今,金融業(yè)的創(chuàng)新火炬已經(jīng)傳遞到大模型技術(shù)手中。如何賦能金融技術(shù)正成為大模型的重要使命。
大型模型如何賦能金融業(yè)?
AI模型正在加速千行百業(yè)的升級(jí),金融業(yè)同時(shí)掀起了一股熱潮,因?yàn)樗徽J(rèn)為是一個(gè)更好的落地場(chǎng)景。根據(jù)清華大學(xué)經(jīng)濟(jì)管理學(xué)院最近發(fā)布的一份研究報(bào)告,生成式AI正在席卷金融業(yè),釋放新的生產(chǎn)力,以前所未有的方式重塑全球金融業(yè)的格局。
“一般認(rèn)為,數(shù)字金融是金融企業(yè)適應(yīng)數(shù)字經(jīng)濟(jì)的金融創(chuàng)新,既包括自身高質(zhì)量的數(shù)字化轉(zhuǎn)型,也包括為數(shù)字經(jīng)濟(jì)建設(shè)提供高質(zhì)量服務(wù)?!被鹕揭娼鹑谛袠I(yè)總經(jīng)理劉俊如在本次活動(dòng)的開場(chǎng)演講中提到。
從匹配度來看,金融業(yè)是一個(gè)典型的需求場(chǎng)景復(fù)雜、數(shù)據(jù)密集的行業(yè),大模型技術(shù)最突出的特點(diǎn)之一就是數(shù)據(jù)分析和理解能力強(qiáng),可以提高數(shù)據(jù)創(chuàng)造價(jià)值的效率。如果把大模型的能力放在金融行業(yè),解決一些原有的任務(wù),會(huì)對(duì)很多工作產(chǎn)生質(zhì)量提升和效率提升的效果。
從市場(chǎng)需求反饋來看,目前國(guó)內(nèi)外金融行業(yè)對(duì)大模型表現(xiàn)出開放的態(tài)度,各機(jī)構(gòu)都在積極擁抱大模型。
根據(jù)國(guó)際數(shù)據(jù)公司IDC的一項(xiàng)調(diào)查,超過一半的金融企業(yè)在2023年投資生成人工智能技術(shù)。包括BloombergGPT在內(nèi)的一系列金融模型已經(jīng)出現(xiàn)在海外。當(dāng)前,我國(guó)已有6家上市銀行公開發(fā)布大型技術(shù)開發(fā)與應(yīng)用信息。
在實(shí)際使用場(chǎng)景中,目前大型金融模型的應(yīng)用已經(jīng)涉及到風(fēng)險(xiǎn)控制、客戶服務(wù)、投資決策、反欺詐等諸多領(lǐng)域。大型金融機(jī)構(gòu)和科技公司也積極布局或應(yīng)用大型模型技術(shù)來提高業(yè)務(wù)水平。

火山引擎金融行業(yè)總經(jīng)理劉俊
對(duì)火山引擎而言,劉俊提到,根據(jù)不同的服務(wù)對(duì)象,火山引擎的金融大模型應(yīng)用可以歸為BCDE四大場(chǎng)景,即Business公共賬戶、Customer對(duì)客、Developer對(duì)開發(fā)者、Employee對(duì)企業(yè)經(jīng)理和員工?;鹕桨l(fā)動(dòng)機(jī)正在與金融機(jī)構(gòu)共同探索“情景” 模型 “計(jì)算率”的落地方式,促進(jìn)了金融業(yè)大模型技術(shù)的應(yīng)用。
情景 模型 算率 有助于釋放大規(guī)模金融模型的價(jià)值
火山機(jī)相應(yīng)的技術(shù)業(yè)務(wù),常年在金融行業(yè)提供服務(wù),如今已有深厚的積累。
官方數(shù)據(jù)顯示,近四年來,火山發(fā)動(dòng)機(jī)為200多家金融機(jī)構(gòu)提供了技術(shù)支持和創(chuàng)新解決方案,形成了“行業(yè)-增長(zhǎng)-云”的數(shù)字金融解決方案體系,即根據(jù)銀行、資產(chǎn)管理、保險(xiǎn)、泛金融細(xì)分等領(lǐng)域的業(yè)務(wù)特點(diǎn),打造行業(yè)情景解決方案;內(nèi)容、數(shù)據(jù)、算法、音視頻等智能技術(shù)的靈活運(yùn)用,構(gòu)建體驗(yàn)創(chuàng)新和數(shù)據(jù)驅(qū)動(dòng)的增長(zhǎng)計(jì)劃;以自主創(chuàng)新、云原生結(jié)構(gòu)、開放解耦的敏捷底座,構(gòu)建云底座方案。
火山引擎憑借體驗(yàn)創(chuàng)新、數(shù)據(jù)驅(qū)動(dòng)、敏捷迭代的12字價(jià)值核心,不僅幫助金融企業(yè)加快數(shù)字化轉(zhuǎn)型,也提高了金融服務(wù)的質(zhì)量和效率。

火山引擎金融行業(yè)總經(jīng)理劉俊
現(xiàn)在,進(jìn)入大模型時(shí)代,不僅要考驗(yàn)?zāi)P湍芰?,還要考驗(yàn)對(duì)業(yè)務(wù)的理解和整體工程化能力,讓大模型大規(guī)模應(yīng)用于金融行業(yè),這也對(duì)廠商提出了更高的要求。
對(duì)此,火山引擎金融行業(yè)解決方案負(fù)責(zé)人王建軍認(rèn)為,最好的方法是找到與業(yè)務(wù)應(yīng)用相結(jié)合的大型飛輪,即以模型-應(yīng)用-數(shù)據(jù)為核心,以計(jì)算率為基礎(chǔ),即模型驅(qū)動(dòng)飛輪啟動(dòng),并應(yīng)用于需求場(chǎng)景。業(yè)務(wù)生成新數(shù)據(jù),反饋模型迭代。三者相互作用,釋放效果強(qiáng)化的飛輪效應(yīng),而底層則由穩(wěn)定安全的計(jì)算能力平臺(tái)增加動(dòng)力支撐。
火山引擎在這方面已經(jīng)找到了自己的解決辦法。
在計(jì)算率方面,火山發(fā)動(dòng)機(jī)新發(fā)布了混合云 veStack 智能版,擁有萬卡集群網(wǎng)絡(luò),3.2T 高性能無損網(wǎng)絡(luò)的超大規(guī)模優(yōu)勢(shì);端到端工程支撐的終極性能可以發(fā)現(xiàn)和自愈97.78%的訓(xùn)練加速比和分鐘級(jí)故障;具有多種異構(gòu)能力,可適應(yīng)十余種 GPU,支持主流產(chǎn)業(yè)化 GPU。
在模型方面,火山引擎結(jié)合行業(yè)屬性,升級(jí)為“1” 1 N“模型生態(tài)。公共云上,字節(jié)跳動(dòng)自主研發(fā)豆包大模型已正式提供服務(wù)。在私有化部署方面,與合作伙伴智能譜AI聯(lián)合打造的火山引擎——智能譜AI金融行業(yè)大模型,可以滿足對(duì)數(shù)據(jù)安全要求較高的私有化場(chǎng)景;此外,火山引擎還以開放的態(tài)度,生態(tài)支持和對(duì)接更多的開源和商業(yè)模式,以滿足金融企業(yè)的個(gè)性化需求。
應(yīng)用方面,在發(fā)布會(huì)當(dāng)天,火山引擎分享了展業(yè)助手、智能信貸管理、智能客戶服務(wù)、智能體構(gòu)建、代碼生成、ChatBI、員工服務(wù)等7個(gè)已與客戶共建的應(yīng)用示例,重點(diǎn)介紹了新一代AI應(yīng)用開發(fā)平臺(tái)的紐扣和企業(yè)專屬AI應(yīng)用創(chuàng)新平臺(tái)HiAgent,在不同布局環(huán)境下滿足客戶構(gòu)建低代碼智能體的需求。

王建軍火山引擎金融行業(yè)解決方案負(fù)責(zé)人
目前,火山引擎已與招商銀行、華泰證券、海爾黃金等多家機(jī)構(gòu)進(jìn)行情景探索和實(shí)踐。未來,它將繼續(xù)以大規(guī)模落地為核心,與金融企業(yè)合作伙伴AI攜手。 創(chuàng)新。
在大模型時(shí)代做好數(shù)字原力工作。
在火山引擎的每一個(gè)合作伙伴中,招商銀行、華泰證券、海爾黃金作為金融行業(yè)三大細(xì)分賽道的代表,是大模型應(yīng)用的三大經(jīng)典案例。
招商銀行作為金融行業(yè)AI轉(zhuǎn)型的實(shí)踐者,正在尋找數(shù)百家智能外呼、數(shù)字人、智能數(shù)據(jù)助手等。 AI 探索和投入服務(wù)場(chǎng)景。招商局?jǐn)?shù)字金融發(fā)展辦公室主任高旭磊表示,大型模型將為銀行全鏈業(yè)務(wù)帶來改造與優(yōu)化。與火山引擎攜手,雙方將共同打造大型應(yīng)用領(lǐng)域和高性能基礎(chǔ)設(shè)施,對(duì)當(dāng)前系統(tǒng)和商品進(jìn)行改造,催生大量產(chǎn)品。 AI 智能體應(yīng)用是核心應(yīng)用。
以華泰證券為例。之前建立的證券客服系統(tǒng)存在產(chǎn)品形態(tài)獨(dú)立、意圖識(shí)別泛化不足、缺乏多輪對(duì)話理解能力等問題,客戶體驗(yàn)需要加強(qiáng)。如今,華泰證券正在利用AI模型優(yōu)化財(cái)富管理助手。新一代財(cái)富管理助手通過引進(jìn)大模型技術(shù),結(jié)合傳統(tǒng)模型算法和業(yè)務(wù)交易流程,解決了傳統(tǒng)技術(shù)無法準(zhǔn)確識(shí)別意圖、無法與客戶進(jìn)行多輪互動(dòng)的問題。
通過觀察華泰證券財(cái)富管理助手從思考到產(chǎn)品打磨的過程,我們可以發(fā)現(xiàn),很多企業(yè)都有大量的用戶場(chǎng)景,知識(shí)壁壘很強(qiáng)。引進(jìn)先進(jìn)技術(shù)的前提之一是方案必須優(yōu)化到相對(duì)成熟的階段。其中,關(guān)鍵是統(tǒng)一應(yīng)用架構(gòu)、新一代知識(shí)庫(kù)等。面向不同場(chǎng)景的大模型。作為技術(shù)提供商,火山引擎提供了云計(jì)算能力、安全沙盒等多種模型調(diào)用、靈活可觀測(cè)的能力支持?;鹕揭嬖谀P蛻?yīng)用階段采用“1” 1 N“模型能力矩陣,提供國(guó)內(nèi)更好的模型組合,防止硬決策壓力,保證模型選擇的競(jìng)爭(zhēng)力,同時(shí)實(shí)現(xiàn)模型調(diào)用的觀察能力和模型版本的平滑升級(jí),保證模型訪問的升級(jí)、回滾和觀察。
海爾黃金消費(fèi)者首席信息官梁樹峰表示,引入大模型后,實(shí)際落地效果非常顯著,最典型的是海爾黃金消費(fèi)者的貸后管理。此外,在客服領(lǐng)域,自動(dòng)識(shí)別客戶意圖,可以更準(zhǔn)確地理解客戶意圖,便于以后管理客戶。
在信貸管理業(yè)務(wù)中,客服代理人通常需要與客戶溝通,以識(shí)別客戶的還款能力和還款行動(dòng)計(jì)劃。為了更好地為客戶提供服務(wù)和貸款后的管理,客戶的信息需要在整個(gè)互動(dòng)過程中人工介入,這實(shí)際上需要很高的人工成本。
梁樹峰表示,在信貸管理場(chǎng)景中,通過與火山發(fā)動(dòng)機(jī)的合作,可以引入大模型能力。即使在目前的初始應(yīng)用階段,整個(gè)業(yè)務(wù)的產(chǎn)能也可以提高15-20%。海爾消費(fèi)金融代理助理不僅解決了摘錄過程中95%的質(zhì)量問題,每天節(jié)省專員1-3個(gè)小時(shí),還提高了智能問答系統(tǒng)的答案準(zhǔn)確性。
當(dāng)然,任何技術(shù)都是一把雙刃劍。作為金融行業(yè)的一線從業(yè)者,梁樹峰還提到了信息安全、模型差異化等大型技術(shù)在應(yīng)用中面臨的一些挑戰(zhàn)。
大模型技術(shù)的應(yīng)用就像硬幣的正反兩面。正面是技術(shù)應(yīng)用將信息處理和智能決策帶入新時(shí)代。背面是一系列可能存在的問題,如大模型訓(xùn)練和微調(diào)面臨的數(shù)據(jù)問題、合規(guī)性和法律法規(guī),以及大模型固有的“幻覺”問題。
與其他行業(yè)相比,金融行業(yè)對(duì)數(shù)據(jù)安全、隱私合規(guī)、時(shí)效性和準(zhǔn)確性有更嚴(yán)格的要求,這決定了金融大模型的應(yīng)用實(shí)踐面臨更復(fù)雜的約束。
本次活動(dòng)當(dāng)天,國(guó)家金融與發(fā)展實(shí)驗(yàn)室副主任楊濤認(rèn)為,大型模型在金融行業(yè)有著廣泛的應(yīng)用,但其合規(guī)應(yīng)用需要面對(duì)諸多風(fēng)險(xiǎn)。應(yīng)該引導(dǎo)金融機(jī)構(gòu)根據(jù)自己的資源優(yōu)勢(shì)選擇多元化的技術(shù)路線,防止他們一哄而上。
但是,無論如何,屬于大模型的時(shí)代已經(jīng)到來,這項(xiàng)技術(shù)正以前所未有的深度和廣度重塑千行百業(yè)。對(duì)于金融行業(yè)來說,大模型一切都是方興未艾的。隨著技術(shù)的不斷發(fā)展和場(chǎng)景的不斷拓展,相關(guān)應(yīng)用將更加廣泛和深入,不僅將進(jìn)一步提高金融服務(wù)的質(zhì)量和效率,還將在防范金融風(fēng)險(xiǎn)、促進(jìn)經(jīng)濟(jì)結(jié)構(gòu)調(diào)整、促進(jìn)社會(huì)公平正義等方面發(fā)揮不可估量的作用。
劉俊表示,“火山引擎將不斷深化模型、應(yīng)用和場(chǎng)景整合能力,促進(jìn)金融機(jī)構(gòu)大模型技術(shù)的大規(guī)模應(yīng)用,增強(qiáng)價(jià)值獲取感,共同撰寫金融行業(yè)新篇章?!崩^續(xù)滾動(dòng),看下一篇原文。

財(cái)聯(lián)社向上滑動(dòng),看下一個(gè)
原題:“讓AI從“使用”到“有意義”,火山引擎的金融大模型是怎樣煉成的?”
閱讀原文
本文僅代表作者觀點(diǎn),版權(quán)歸原創(chuàng)者所有,如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽碓醇白髡呙帧?/p>
免責(zé)聲明:本文系轉(zhuǎn)載編輯文章,僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布,請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除,您可以發(fā)送材料至郵箱:service@tojoy.com