大模型想要賺錢,首先要經(jīng)過這七個(gè)難題。
大型落地,誰先集齊七顆龍珠召喚神龍?
近日,中關(guān)村科金CTO李智偉博士發(fā)現(xiàn),大型商業(yè)閉環(huán)正在被提及一個(gè)非常重要的位置。
與過去20年中國IT產(chǎn)業(yè)的發(fā)展不同,燒錢可以快速積累客戶,通過估值和廣告實(shí)現(xiàn)商業(yè)變現(xiàn);在大型時(shí)代,投資市場更加理性,迫使行業(yè)加快商業(yè)閉環(huán)。
不久前,在華為HDC開發(fā)者大會(huì)上,云軍團(tuán)CEO在華為主機(jī)上。、尚海峰混合云總裁強(qiáng)調(diào),加快商業(yè)閉環(huán),是使用大模型最關(guān)鍵的一點(diǎn)。,最終,市場要回歸理性,只有真正為用戶創(chuàng)造價(jià)值,實(shí)現(xiàn)商業(yè)閉環(huán),才能有更長遠(yuǎn)的未來。
經(jīng)過幾個(gè)月的探索,業(yè)內(nèi)也有一些方法論可以引導(dǎo)客戶從試點(diǎn)探索走向大規(guī)模支付,加快商業(yè)閉環(huán)。
01價(jià)值共識(shí),如何解決1000客戶1千哈姆雷特?
"以前買軟件,有什么功能,給個(gè)清單,顧客一眼就知道了;但是大模型時(shí)代不同,顧客對(duì)這件事的認(rèn)識(shí)也不統(tǒng)一,可能有1000人有1000人有哈姆雷特?!敝嘘P(guān)村科金李智偉告訴數(shù)智前線,當(dāng)你需要與客戶溝通時(shí),有一套方法論來正確地引導(dǎo)客戶的價(jià)值。。
歸根結(jié)底,在模型落地這件事上,期望值過高或過低,都會(huì)對(duì)企業(yè)應(yīng)用閉環(huán)的形成產(chǎn)生很大的影響。快遞100總經(jīng)理陳登坤說:“大型模型基于Transformer,我們自己也成為了Transformer,是一個(gè)看得見、摸得著的應(yīng)用轉(zhuǎn)換器。
"為降低溝通成本,如今,我們所有的產(chǎn)品都在公共云上有試用版。。"李智偉介紹,這樣一個(gè)小小的原型系統(tǒng),有利于顧客快速了解大模型可以使用。實(shí)現(xiàn)什么效果,界限在哪里?,這樣可以加快從前期討論到PoC,再到落地部署的推進(jìn)。
此外,幫助企業(yè)計(jì)算ROI(投資收益率),也是加速落地的一種常見做法。。中國工業(yè)互聯(lián)網(wǎng)董事長智振表示,這不僅包括短期ROI,還包括長期ROI,如大模型后能提高多少效率,節(jié)省多少人,從多方面減少對(duì)關(guān)鍵人員的依賴,降低人為錯(cuò)誤的概率。
它還使他們?cè)谂c客戶溝通時(shí),最核心的工作之一,就是引導(dǎo)用戶在整個(gè)價(jià)值鏈中找到最痛苦、最珍貴的點(diǎn)。。比如設(shè)備的運(yùn)維場景往往與知識(shí)管理密切相關(guān)。如果一個(gè)設(shè)計(jì)文檔出了問題,通??赡軙?huì)造成幾百萬元的損失。但是,原本是手動(dòng)檢查的。如果漏檢的概率需要兩個(gè)小時(shí)或者千分之一,大模型可以在十分鐘內(nèi)手動(dòng)完成,漏檢率降低90%。
“我們先給他做這樣的場景?!敝钦裾f,這對(duì)企業(yè)建立對(duì)大模型的信心非常有幫助,包括實(shí)施更多更深層次的場景。
02 實(shí)施期限為3-6個(gè)月?
在過去的一年里,客戶和行業(yè)探索了很多場景,但并不是每一個(gè)場景都能真正從PoC走向商業(yè)閉環(huán)。
面臨著這一波大模型掀起的新變化,也很少有企業(yè)愿意在一開始就花上千萬、幾年的時(shí)間去做。
“一年可以退貨,客戶很容易認(rèn)可;三五年后,客戶要注意考慮;七年后,政策必須硬性要求?!敝钦裾f:“目前大家普遍可以接受的價(jià)格范圍是50萬到200萬,實(shí)施周期一般限制在3~6個(gè)月。?!坝行┐笮晚?xiàng)目雖然會(huì)跨年,但通常會(huì)分成幾個(gè)月作為一期進(jìn)行觀察。

有些小項(xiàng)目,上架時(shí)間可以更短?!罢缥覀円粯印!?strong>它還為一些電子商務(wù)用戶提供售前和售后的大型技術(shù)服務(wù)。它的決策周期和試用周期很短,甚至每月收費(fèi)。?!敝钦裾f。
“我們現(xiàn)在所有的項(xiàng)目都是以‘穩(wěn)定、準(zhǔn)確、無情’的方式實(shí)施的,這將幫助客戶把大需求切成相對(duì)較小的點(diǎn),一點(diǎn)一點(diǎn)地嘗試和犯錯(cuò),一點(diǎn)一點(diǎn)地突破。與以前的軟件不同,只有一個(gè)項(xiàng)目做了一年半,客戶才能看到效果?!毙萝浖笨偨?jīng)理曹璽告訴數(shù)智一線。
就場景而言,與大語言模型相關(guān)的知識(shí)場景,成為企業(yè)選擇的首選閉環(huán)方向。
泰康科技公司人工智能部AI架構(gòu)師朱興杰介紹,上半年,他們首先通過知識(shí)助手、銷售助手等方式,努力加工重塑知識(shí),賦能代理人,形成初步效果。后續(xù)將提高理賠等場景的風(fēng)險(xiǎn)識(shí)別能力。
中國工商銀行軟件開發(fā)中心大數(shù)據(jù)與人工智能實(shí)驗(yàn)室副主任夏知淵在華為HDC大會(huì)相關(guān)大模型混合云論壇上公布了工行“1” X"在工程化解決方案中,除了1指代的是智能體,X類解決方案也大多與知識(shí)類情景有關(guān),比如多模式的知識(shí)搜索,互動(dòng)的智能搜索等等?;谶@些能力,工行在遠(yuǎn)程銀行的場景構(gòu)成了大模型的全過程賦能,降低了10%的通話時(shí)間和18%的員工座位效率。
03 大型中臺(tái),防止“散稱戰(zhàn)斗”
為加快各行各業(yè)大模型的應(yīng)用,各大主流大模型廠商紛紛強(qiáng)調(diào)模型“最佳性價(jià)比”,輕量化模型,MoE、價(jià)格戰(zhàn)輪番上陣。再加上開源武林的不斷繁榮,企業(yè)對(duì)模型的選擇越來越多樣化。。
泰康科技朱興杰告訴數(shù)智前線:“各種大型開閉源模型,只要我們能夠安排推理,我們就會(huì)嘗試,看到效果。泰康科技支持整個(gè)集團(tuán)的數(shù)千個(gè)應(yīng)用,集團(tuán)各部門可以根據(jù)不同的場景選擇不同的模型。,辨別一條最好的路徑。
不可否認(rèn),開源比閉源更受歡迎,出于成本考慮。比如在行政執(zhí)法領(lǐng)域,北京可以通過開源模式為政府用戶提供私有部署,為高科技信息技術(shù)有限公司。在金融領(lǐng)域,中關(guān)村科金首席執(zhí)行官李智偉觀察到,開源是關(guān)閉的,源代碼是開放的。還有“源代碼” 在開源三種模式中,銀行客戶更希望第三種模式。
除了開合源,業(yè)內(nèi)一個(gè)很大的共識(shí)就是混合大小模型正在成為常態(tài)。比如中關(guān)村科金的混合模型質(zhì)檢平臺(tái),讓小模型負(fù)責(zé)聲音、圖片等數(shù)據(jù)的質(zhì)檢,高頻易檢場景,低頻難檢內(nèi)容的大模型,為質(zhì)檢結(jié)果提供判斷原因,幫助人工快速審核,幫助某頭部金融企業(yè)完成了1000倍的檢測效率,大大降低了人工檢測成本。
李智偉說:“這就像一家公司有分工才能更有效地運(yùn)作。
而且更深一層,一些企業(yè)已開始建立統(tǒng)一的大模型中臺(tái),N個(gè)大小模型,以及安全、知識(shí)注入、工具、服務(wù)分配等?!?strong>這能有效防止散稱戰(zhàn)斗造成資源浪費(fèi)。,泰康科技朱興杰表示,這也有利于后續(xù)迭代升級(jí)。
大型模型也在成為企業(yè)的基礎(chǔ)。智振透露,他們目前已經(jīng)向客戶提出了“三個(gè)平臺(tái)”的思路,即基于大型模型基礎(chǔ)做數(shù)據(jù)平臺(tái)、業(yè)務(wù)平臺(tái)、知識(shí)平臺(tái)。過去,工業(yè)互聯(lián)網(wǎng)平臺(tái)主要處理數(shù)據(jù)不連接和業(yè)務(wù)不暢的痛點(diǎn),但很難解決知識(shí)難以沉淀的問題。大模型很可能會(huì)帶來很大的改進(jìn)。
智振看到了,現(xiàn)在包含大型底座 平臺(tái)項(xiàng)目,基本上是百萬元量級(jí)。。然而,企業(yè)不會(huì)在第一階段完成整個(gè)建設(shè),也不會(huì)完全推翻舊系統(tǒng),而是由淺入深?!氨热绗F(xiàn)在知識(shí)平臺(tái)好,我就先去知識(shí)平臺(tái),和相關(guān)的業(yè)務(wù)系統(tǒng)打通。如果使用得當(dāng),我會(huì)逐漸更換其他系統(tǒng)?!?/p>
04 數(shù)據(jù)飛輪,是難點(diǎn)也是勝利點(diǎn)。
數(shù)據(jù)作為大模型三要素中的關(guān)鍵環(huán)節(jié),無疑是影響大模型商業(yè)閉環(huán)形成的一個(gè)重要因素。
特別是缺乏過程數(shù)據(jù),是我們?cè)诼涞剡^程中遇到的最大障礙。北京可以告訴創(chuàng)始人曾明,除了金融、電子商務(wù)等數(shù)字化進(jìn)程相對(duì)成熟的行業(yè),大量行業(yè)企業(yè)都存在數(shù)據(jù)相關(guān)問題。
比如在法律領(lǐng)域,有大量的案例公開數(shù)據(jù),但大部分只是簡單的案例描述?!叭绻谝粋€(gè)案例中,正常的思維過程是從A到B。、b到c……x到y(tǒng)、y到z,那個(gè)大模型只學(xué)a到z,是不能學(xué)的?!痹髡f,他說:“目前最缺乏的是b到y(tǒng)的過程數(shù)據(jù)。?!?/p>
“如果數(shù)據(jù)只是缺乏知識(shí)之間的相關(guān)性,我們可以用大模型自己的知識(shí)結(jié)構(gòu)來彌補(bǔ)。但如果是事實(shí)數(shù)據(jù)不足,只能通過傳統(tǒng)方式收集?!敝嘘P(guān)村科金李智偉告訴數(shù)智一線。
曾明透露,他們目前正在通過數(shù)據(jù)清理和數(shù)據(jù)標(biāo)注來幫助企業(yè)補(bǔ)充歷史存量數(shù)據(jù),并在大模型落地過程中加快收集增量數(shù)據(jù),同時(shí)填補(bǔ)數(shù)據(jù)空白。
大型廠商也在從工具鏈入手,幫助企業(yè)加快數(shù)據(jù)治理,建立自己的數(shù)據(jù)飛輪。事實(shí)上,在很多人眼里,越往后走,越不能只盯著模型本身的練習(xí)。在加速大型商業(yè)閉環(huán)的過程中,工具鏈的建設(shè)將占據(jù)越來越重要的地位。
李智偉告訴數(shù)智前線,不僅在數(shù)據(jù)方面,在模型布局、安裝、運(yùn)維、日常優(yōu)化調(diào)整等方面,都可以通過工具鏈進(jìn)行改進(jìn)。所以,今年他們推出了PowerAgent平臺(tái),大型模型的部署效率可提高2~3倍。
05 計(jì)算率選擇,混合云最經(jīng)濟(jì)?
在加速大模型落地和商業(yè)閉環(huán)的過程中,計(jì)算率是另一個(gè)引人注目的問題?!盎趯?duì)數(shù)據(jù)安全、開發(fā)成本和訓(xùn)練效率的綜合要求,目前,混合云已成為越來越多市企的首選。。“華為尚海峰在HDC期間大模型混合云論壇上強(qiáng)調(diào),它是目前最合規(guī)、最經(jīng)濟(jì)的方法之一。。

在此之前,《深度用云展望2025》白皮書也曾指出,2025年,75%AI大模型將被公司使用,基于混合云的AI大模型比例將達(dá)到38%。
舉例來說,在華為HDC開發(fā)者大會(huì)上,廣州市政務(wù)服務(wù)與數(shù)據(jù)管理局副局梁文謙介紹,為兼顧數(shù)據(jù)不出域和大模型訓(xùn)練的需要,它們構(gòu)建了人工智能公共算率中心,公共云和政務(wù)云混合在一起。,其中,100P部署在政務(wù)云中,提供良好的培訓(xùn)或精調(diào)模型,應(yīng)用于人力資源和社會(huì)保障部門、城市管理部門等。此外,200P公共云被用作培訓(xùn)應(yīng)用。
在金融、汽車等領(lǐng)域,許多企業(yè)也采用了公共云和私有云的協(xié)同結(jié)構(gòu)。泰康科技公司人工智能部AI架構(gòu)師朱興杰告訴數(shù)智一線,這是出于成本考慮。“我們?cè)u(píng)價(jià)私有算率是幾千萬的投資,這樣才能取得好的效果。”。另外,業(yè)界普遍認(rèn)為,國產(chǎn)計(jì)算率仍然需要在規(guī)模、性能、底層生態(tài)等方面進(jìn)行完善。
“對(duì)核心商業(yè)知識(shí),必須要求私有云,所以我們現(xiàn)在會(huì)有少量的本地私有化集群,同時(shí)也會(huì)調(diào)整公共云服務(wù),進(jìn)行混合布局?!敝炫d杰說,每個(gè)人的普遍做法是,利用公有云的高彈性和高可擴(kuò)展性,可以靈活租賃計(jì)算率,在AI場景創(chuàng)新中嘗試多種場景,然后在驗(yàn)證一個(gè)場景的價(jià)值后通過私有云進(jìn)行部署。,快速實(shí)現(xiàn)本地安全數(shù)據(jù)不出域。"下一步,一旦我們看到效果,我們就可以建立一個(gè)很大的私人計(jì)算率"。
除了混合云,公司還可以選擇“公有云私有化”的方式,即在公有云上開設(shè)私有化環(huán)境,達(dá)到降低成本的目的。目前,許多企業(yè)選擇了這種模式,用于零售、酒店和文化旅游等數(shù)據(jù)控制不那么嚴(yán)格的行業(yè)。
中關(guān)村科金CTO李智偉建議,中央國有企業(yè)帶頭建立專有云,可以使大模型的計(jì)算效率和成本更加經(jīng)濟(jì)?!?strong>例如某一區(qū)域形成一家能源產(chǎn)業(yè)鏈主公司,提供公有云,服務(wù)區(qū)域內(nèi)所有能源企業(yè)。”
06 定制化,“老大難”有新的解決方案
在To B市場,定制化一直是一個(gè)不可避免的問題,也是影響商業(yè)閉環(huán)形成速度的重要因素之一。
業(yè)界觀察,在過去的30年里,信息化和智能化的整個(gè)發(fā)展過程,也是一個(gè)定制化的簡化過程。以人工智能為例。在上一個(gè)AI時(shí)代,AI技術(shù)的泛化能力很差,甚至有產(chǎn)品面向同一個(gè)場景,不能直接在同一家銀行的不同部門重用。定制已經(jīng)成為必然。在大模型時(shí)代,我們發(fā)現(xiàn)它的泛化性在一定程度上解決了定制化問題。
但是,隨著大模型的真實(shí)落地,行業(yè)發(fā)現(xiàn)定制化的需求仍然很大,“甚至在某種意義上得到了加強(qiáng)?!?/strong>李智偉告訴中關(guān)村科金CTO數(shù)智前線,特別體現(xiàn)在多樣化的客戶需求和尚未穩(wěn)定或收斂的技術(shù)階段。。對(duì)他來說,擁抱這種需求比避免定制更好。
“我們正在做許多工具化和配置化工作,百度智能云知識(shí)管理產(chǎn)品部總經(jīng)理宋勛超說:“讓這些大模型所依賴的定制產(chǎn)品的基礎(chǔ)設(shè)施更高效,實(shí)施成本更低。
中關(guān)村科金李智偉告訴數(shù)智一線,一方面需要產(chǎn)品經(jīng)理對(duì)客戶情況有更好的了解,產(chǎn)品標(biāo)準(zhǔn)能力要盡可能多地滿足項(xiàng)目需求,即提高產(chǎn)品滿意度。另一方面,在產(chǎn)品交付過程中,我們還應(yīng)該提供服務(wù)/咨詢能力,與客戶一起,賦能客戶成長。這在行業(yè)應(yīng)用領(lǐng)域非常重要。
中國工業(yè)互聯(lián)網(wǎng)董事長智振舉例說,定制企業(yè)就像定制西裝一樣。量身定制的效果肯定會(huì)更好,但是成本和時(shí)間會(huì)更多。如果你想降低定制的成本和時(shí)間,你必須增加標(biāo)準(zhǔn)化的比例,即標(biāo)準(zhǔn)化產(chǎn)品和更標(biāo)準(zhǔn)化的服務(wù)流程。
"從今年開始,我們已經(jīng)把過去一年探索出來的所有方向都實(shí)用化了。?!爸钦裾f。這不僅有利于公司在大模型應(yīng)用過程中更快地獲得能力的交付,還能加快服務(wù)商大模型落地能力的推廣和復(fù)制速度。智振透露,他們目前不僅為客戶提供產(chǎn)品 整個(gè)服務(wù)計(jì)劃,也將標(biāo)準(zhǔn)產(chǎn)品賣給合作伙伴,然后由合作伙伴向顧客提出計(jì)劃。
07 操作維護(hù),讓投資不打水漂。
“許多人往往忽視了大型運(yùn)行和維護(hù),但我認(rèn)為它和大型運(yùn)行一樣重要,值得我們長期投資。,不然你根本用不上?!比A為主機(jī)上云軍團(tuán)CEO、混合云總裁尚海峰表示,這包括系統(tǒng)建設(shè)、AI培訓(xùn)、技術(shù)運(yùn)營、場景運(yùn)營、生態(tài)運(yùn)營、市場推廣、門戶運(yùn)營等待多個(gè)環(huán)節(jié)。

舉例來說,鄂爾多斯市政府和華為聯(lián)合打造了以行業(yè)AI大模型為核心的工業(yè)互聯(lián)網(wǎng)平臺(tái),選擇了“前店后廠”的方式。鄂爾多斯創(chuàng)新投資集團(tuán)有限公司副總經(jīng)理廉詠梅表示,在這種模式下,“后廠”不斷匯聚生態(tài)合作伙伴,拓展新場景,開發(fā)新的大模型應(yīng)用產(chǎn)品。同時(shí),“前店”還可以通過網(wǎng)上應(yīng)用商城實(shí)現(xiàn)商業(yè)實(shí)現(xiàn),實(shí)現(xiàn)成果轉(zhuǎn)化和商業(yè)閉環(huán)。
但是,另一方面,這也對(duì)公司和服務(wù)提供商提出了新的要求。
對(duì)企業(yè)而言,必須盡快通過服務(wù)商提供的AI賦能、AI培訓(xùn)等模式,打造落地大模式的內(nèi)生能力。
對(duì)于服務(wù)商來說,也更需要長期的服務(wù)和陪伴能力?!皌o B企業(yè)軟件領(lǐng)域的一個(gè)邏輯是,如果每年不更新,就會(huì)失去15%的能力?!敝钦窀嬖V數(shù)智前線。
顯然,在當(dāng)今大模型時(shí)代,技術(shù)的變化和優(yōu)化更快。這也意味著公司和大模型服務(wù)提供商都需要更頻繁地總結(jié)和更新經(jīng)驗(yàn)和方法論。
本文來自微信微信官方賬號(hào)“數(shù)智前線”(ID:作者:周享玥,編輯:趙艷秋,36氪經(jīng)授權(quán)發(fā)布,szqx1991)。
本文僅代表作者觀點(diǎn),版權(quán)歸原創(chuàng)者所有,如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽碓醇白髡呙帧?/p>
免責(zé)聲明:本文系轉(zhuǎn)載編輯文章,僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布,請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除,您可以發(fā)送材料至郵箱:service@tojoy.com




