亚洲欧美日韩熟女|做爱高潮视频网址|国产一区二区三级片|国产Av中文字幕www.性色av|亚洲婷婷永久免费|国产高清中文字幕|欧美变态网站久re视频精品|人妻AV鲁丝第一页|天堂AV一区二区在线观看|综合 91在线精品

英偉達(dá)CPU野心盡顯:巴掌大設(shè)備也能跑大模型,首秀便引關(guān)注

3分鐘前

從個人工作站到AI工作站,市值剛破4萬億美元的英偉達(dá)仍在積極拓展業(yè)務(wù)版圖。日前,黃仁勛到訪中國,英偉達(dá)宣布恢復(fù)H20在中國市場的供貨,還將推出全新且完全兼容的NVIDIA RTX PRO GPU,黃仁勛稱該產(chǎn)品是“為智能工廠和物流打造數(shù)字孿生AI的理想選擇”。

在穩(wěn)固GPU市場領(lǐng)先地位的同時,英偉達(dá)正加速進(jìn)軍CPU市場。在前段時間的臺北電腦展上,英偉達(dá)正式發(fā)布GB10超級芯片,以此作為進(jìn)軍CPU市場的先鋒。此前雷科技曾詳細(xì)分析過GB10在CPU市場的定位,沒想到首款產(chǎn)品這么快就問世了。

最新消息顯示,華碩將于7月22日舉辦發(fā)布會,正式推出搭載英偉達(dá)GB10的Ascent GX10,華碩稱其為“掌上AI超算”。由此不難猜到,Ascent GX10是一款超迷你的AI工作站。

說實話,此前很難想象一臺工作站級別的AI PC能做得只有巴掌大小。英偉達(dá)似乎正以一種大膽的方式,重塑整個AI PC市場。

巴掌大的工作站,性能是否足夠?

從華碩公布的數(shù)據(jù)來看,Ascent GX10搭載了一顆NVIDIA GB10,算力約為1000 TOPS(FP4),配備128 GB LPDDR5X統(tǒng)一內(nèi)存,256 - bit位寬,總帶寬為273GB/s,標(biāo)配1TB固態(tài)硬盤,官方最高可選配4TB。

從配置上看,其最大特點是高達(dá)128GB的內(nèi)存,不過GB10的內(nèi)存直接集成在芯片內(nèi)部,不支持單獨升級。英偉達(dá)配備如此大容量內(nèi)存,是為了確保PC性能能滿足AI模型的推理需求,后續(xù)或許會增加其他內(nèi)存規(guī)格,如192GB版本,以適配更大參數(shù)規(guī)模的AI模型。

在不考慮其他因素的情況下,這款PC在FP4精度下最高可運行參數(shù)規(guī)模達(dá)200B的AI大模型(FP4精度),F(xiàn)P8精度下則為100B參數(shù)規(guī)模。雖然與一些大規(guī)模的AI模型相比有差距,但已足以部署一個或多個專業(yè)垂類AI模型。

由此可見,英偉達(dá)對這款產(chǎn)品的定位并非運行超大規(guī)模AI模型,而是作為企業(yè)的桌面AI解決方案。一些不便放在云端的數(shù)據(jù)和AI模型可直接在Ascent GX10上運行,避免數(shù)據(jù)在云端泄露的風(fēng)險。

不過,這款PC售價高達(dá)2999美元(約合人民幣21494元),給每人配備一臺不太現(xiàn)實。實際上,AI PC工作站與傳統(tǒng)PC的使用方式不同,可將其視為部署在身邊的小型服務(wù)器,周圍的PC可通過無線或有線網(wǎng)絡(luò)連接到Ascent GX10,調(diào)用AI功能時將運算交給它。

以這種方式部署,理論上一臺Ascent GX10可滿足一個小組(10人以內(nèi))的輕度AI需求,或4 - 5人的常規(guī)AI需求,分?jǐn)偝杀竞螅鋵嵅⒉凰阗F(尤其對歐美企業(yè)而言)。

對于AI研究、開發(fā)人員來說,Ascent GX10就像一個可隨身攜帶的AI開發(fā)套組,性能比一般筆記本電腦強(qiáng)很多,無論接入隨身屏幕還是酒店屏幕,都能隨時進(jìn)行AI開發(fā)和調(diào)試。

據(jù)英偉達(dá)透露,采用GB10的AI PC工作站均支持雙機(jī)直連(通過ConnectX - 7),可使算力和統(tǒng)一內(nèi)存直接翻倍,且性能損失在可接受范圍內(nèi)。這種情況下,將支持最高405B的AI模型運行,參數(shù)規(guī)模接近滿血版DeepSeek的三分之二。

除了作為桌面AI工作站,Ascent GX10僅3L大小的機(jī)身使其也成為邊緣計算設(shè)備的選擇之一,可部署在關(guān)鍵邊緣網(wǎng)絡(luò)節(jié)點,充當(dāng)AI推理的計算中樞。

從AI性能看,一臺以GB10為核心的Ascent GX10與一張RTX 5070Ti差不多,但RTX 5070Ti性能過高、體積過大,配套硬件多,無法滿足對設(shè)備體積要求嚴(yán)格的場景,且顯存只有16GB,支持的AI模型數(shù)量遠(yuǎn)不及前者。

在迷你AI PC工作站這個領(lǐng)域,以Ascent GX10為代表的產(chǎn)品獨具特色,在同等體積下,很難找到性能更強(qiáng)的AI PC。

AI工作站迷你化成新趨勢

作為英偉達(dá)看重的首款A(yù)rm架構(gòu)CPU,GB10吸引了眾多品牌跟進(jìn)。從小雷查詢的信息來看,戴爾、惠普、聯(lián)想計劃在Q3季度發(fā)布基于GB10的迷你AI PC工作站,宏碁、技嘉、微星等品牌將在Q4季度跟進(jìn),相關(guān)產(chǎn)品的測試機(jī)已在臺北電腦展上展出。

可見,PC市場的一、二線國際品牌基本都參與其中,英偉達(dá)的號召力不容小覷。不過,進(jìn)一步搜索發(fā)現(xiàn),這些品牌的首批產(chǎn)品均屬于NVIDIA DGX Spark計劃,大概率采用相同的主板設(shè)計,只是在外觀等方面存在差異。

以華碩為例,其選擇了極致小型化路線,3L的體積甚至可單掌托起,是目前已公布的迷你AI PC工作站中最小的,其他幾款都在4L以上。盡管外觀不同,但硬件規(guī)格和接口配置基本相同,小雷猜測售價也會相近。

為了形成競爭優(yōu)勢,一些品牌也打造了獨特賣點。比如惠普的ZGX Nano AI Station主要面向媒體與教育市場,預(yù)計提供更多多媒體接口;聯(lián)想則為企業(yè)及用戶提供全棧解決方案,可幫助客戶快速完成Lenovo ThinkStation PGX及周邊配套設(shè)備(聯(lián)想的GB10迷你AI PC)的部署。

對于處于AI風(fēng)口的企業(yè)來說,Ascent GX10等迷你AI PC工作站提供了便捷、強(qiáng)大且具性價比的開發(fā)平臺,這是其他類型PC工作站難以做到的。從某種程度上說,以Ascent GX10為代表的PC正式開啟了“個人AI超算”時代。

此前,AI超算型PC體積大、價格高,用消費級顯卡組裝PC也存在同樣問題,而且消費級顯卡缺乏足夠的開發(fā)生態(tài)支持,而GB10的出現(xiàn)改變了這一局面。

很多人覺得花兩三萬買一臺迷你PC很貴,但這類產(chǎn)品對標(biāo)此前售價3萬 - 10萬元的傳統(tǒng)GPU工作站,而非普通個人電腦。對于企業(yè)來說,只要產(chǎn)品好用,兩三萬的生產(chǎn)工具投入成本不算高。

即便Ascent GX10等產(chǎn)品尚未正式開售,從英偉達(dá)官網(wǎng)及各品牌描述可知,它們走的是“企業(yè)線”,能獲得英偉達(dá)及品牌供應(yīng)商的企業(yè)生態(tài)支持(即使并非全部),具備消費級顯卡所沒有的優(yōu)勢,更適合AI開發(fā)和部署。

對于規(guī)模較大或有更高性能要求的企業(yè),GB10的性能可能不夠。不過英偉達(dá)早有應(yīng)對之策,在戴爾的Dell Pro Max展示頁面中,除了搭載GB10的迷你款,還有搭載GB300的桌面款。后者配置極為強(qiáng)大,擁有496GB LPDDR5內(nèi)存和288GB HBM3e顯存,F(xiàn)P4算力高達(dá)20000 TOPS,可支持最高10000B參數(shù)的AI模型。

過去,類似算力的AI工作站都是機(jī)柜級別,現(xiàn)在卻能濃縮到桌面機(jī)箱大小的設(shè)備中,可見半導(dǎo)體技術(shù)發(fā)展之快。

雷科技認(rèn)為,迷你化的AI工作站必將成為未來趨勢之一。就像普通計算機(jī)從占據(jù)整個房間到可隨身攜帶,隨著AI需求增長,AI工作站也會朝著個人化、便捷化、一體化方向發(fā)展,以適應(yīng)AI普及的需求。

不得不說,英偉達(dá)這一步棋很厲害,英特爾和AMD或許要重新規(guī)劃自己的AI戰(zhàn)略了。

本文來自微信公眾號“雷科技”,36氪經(jīng)授權(quán)發(fā)布。

本文僅代表作者觀點,版權(quán)歸原創(chuàng)者所有,如需轉(zhuǎn)載請在文中注明來源及作者名字。

免責(zé)聲明:本文系轉(zhuǎn)載編輯文章,僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布,請及時與我們聯(lián)系進(jìn)行審核處理或刪除,您可以發(fā)送材料至郵箱:service@tojoy.com