這是一個(gè) AI 時(shí)代，這是一個(gè)計(jì)算能力的時(shí)代。

不幸的是，我們已經(jīng)沒有機(jī)會接觸到最先進(jìn)的。 AI 使用硬件和計(jì)算率 H20 這種方法切割了兩次 N 卡片，還要交幾百億的費(fèi)用，真是憋屈。

面臨持續(xù)上漲的問題 AI 計(jì)算能力的需要，我們只能發(fā)展自己的國產(chǎn)計(jì)劃，發(fā)展自己的規(guī)模。 AI 計(jì)算集群，可以突破緊追不舍，走上康莊大路。

說到這里，很多人可能會第一時(shí)間想到華為，在美國制裁下頑強(qiáng)屹立突破的中國企業(yè)標(biāo)桿，升起騰騰。 910B 在 AI 在計(jì)算領(lǐng)域也取得了一定的成就。

中國僅僅依靠一個(gè)華為當(dāng)然是不夠的。在中國 AI 生態(tài)學(xué)需要蓬勃發(fā)展，才能有更多的突破，使生態(tài)學(xué)更加繁榮。

現(xiàn)在看來，摩爾進(jìn)程是多功能的。 GPU 走通用計(jì)算路線是另一條希望之路，尤其是它已經(jīng)成為華為之外的另一條全國性的產(chǎn)品，可以實(shí)現(xiàn)千卡千億參數(shù)的大模型訓(xùn)練。 AI 芯片公司。

說到這里，大家對摩爾的進(jìn)程并不陌生，它可以稱之為中國自主。 GPU 最大的希望，但是許多人對摩爾線程的認(rèn)識仍然停留在國產(chǎn)游戲顯卡上，其實(shí)并非如此，摩爾進(jìn)程在 AI 上面的力量也很突出。

摩爾的過程自成立以來就是通用的。 GPU，就像英偉達(dá)一樣，除了圖形渲染，它還可以用于 AI 加速人工智能，科學(xué)計(jì)算。

經(jīng)過三年多的潛心發(fā)展，摩爾進(jìn)程正在進(jìn)行。 AI GPU 從芯片、板卡、服務(wù)器到集群、軟件棧等方面都展現(xiàn)出了強(qiáng)大的實(shí)力，構(gòu)建了一個(gè)全棧。 AI 智算商品版圖，并已多點(diǎn)落地，處處盛開。

例如清華系 AI 大型公司無需詢問芯穹的合作。摩爾進(jìn)程是國內(nèi)第一家接入無問芯穹并成功完成千卡等級大模型培訓(xùn)的公司。 GPU 公司。

“夸娥”摩爾線程 ( KUAE ) 千卡智算集群，已與無穹 Infini-AI 大型模型開發(fā)與服務(wù)平臺完成系統(tǒng)級別的適應(yīng)，并完成 LLama2 700 一億參數(shù)大模型的練習(xí)測試。近日，雙方再次完成“ MT-infini-3B " 3B ( 30 億參數(shù) ) 實(shí)踐大模型。

這個(gè)意思是什么？這個(gè)行業(yè)是第一個(gè)基于國產(chǎn)的 GPU 芯片從 0 到 1 端到端大模型實(shí)踐案例。同時(shí)，夸娥也成為行業(yè)內(nèi)第一個(gè)成功運(yùn)行并完全運(yùn)行國產(chǎn)大模型千卡集群。

無問芯穹聯(lián)合創(chuàng)始人兼兼 CEO 夏立雪表示支持：“經(jīng)過無問芯穹 Infini-AI 平臺實(shí)踐與聯(lián)合優(yōu)化工作驗(yàn)證，摩爾進(jìn)程夸娥千卡智算集群在精度、性能、便捷性、計(jì)算利用率等方面表現(xiàn)突出，實(shí)踐中長期穩(wěn)定訓(xùn)練不中斷，可為千億參數(shù)級大模型訓(xùn)練提供持續(xù)高效的高性能計(jì)算率支持。"

此外，基于摩爾線程的夸娥千卡智算集群成功完成了不同參數(shù)量級的大模型分布式訓(xùn)練測試，具有完善的效率、精度和穩(wěn)定性。基于夸娥千卡智算集群的摩爾進(jìn)程，滴普科技成功完成 700 億參數(shù) LLaMA2 大型語言模型的預(yù)訓(xùn)練測試，總訓(xùn)練時(shí)間 77 小時(shí)，全程無故障連續(xù)運(yùn)轉(zhuǎn)，集群訓(xùn)練穩(wěn)定性達(dá)到 100%。

夸娥（KUAE）這是摩爾進(jìn)程推出的智算中心全棧解決方案，而夸娥這個(gè)名字來自于我國神話傳說中的大力神夸娥氏，

可以說，為 AI 算率集群取這樣一個(gè)名字，充分展現(xiàn)了獨(dú)一無二的中國人的堅(jiān)韌和浪漫。出自《愚公移山》："帝感其誠，命夸娥氏二子負(fù)二山，一厝朔東，一厝雍南。此后，冀之南，漢之陰，無隴斷。"

夸娥解決方案的基本節(jié)點(diǎn)是大型智算加速卡 MTT S4000 由兩路八卡組成 GPU 服務(wù)器" MCCX D800 "，以軟硬件一體化交付、開箱即用的方式，高度可靠地進(jìn)行大規(guī)模處理。 GPU 計(jì)算能力建設(shè)與運(yùn)營管理問題。

MTT S4000 是摩爾進(jìn)程的新一代專為摩爾進(jìn)程。 AI 基于其自主研發(fā)的第三代智算加速卡大模型， MUSA 架構(gòu)。

運(yùn)用自研的 MTLink 互連技術(shù)，MTT S4000 能高效平行千卡，線性加速比高達(dá) 91％以上。

最為重要的是，摩爾進(jìn)程具有自研多功能。 GPU MUSA 統(tǒng)一的系統(tǒng)架構(gòu)，包括指令集架構(gòu)，MUSA 編程模型、驅(qū)動(dòng)、運(yùn)行時(shí)間庫、算法庫、通訊庫、數(shù)學(xué)庫等。，并完全適應(yīng) CUDA 軟體生態(tài)，代碼幾乎可以零成本轉(zhuǎn)移，也不用擔(dān)心未來的可用性。

MTT S4000 不但可以大規(guī)模使用 AI 還具有領(lǐng)先的圖形渲染能力，視頻編碼解碼能力，8K 超高清晰度顯示能力。

這樣就可以支持?jǐn)?shù)字孿生、云游戲、云渲染、數(shù)字內(nèi)容創(chuàng)作等場景，配合大模型推理能力，服務(wù)于 AIGC 等待多模態(tài)需求場景。

從 2024 從年趨勢來看，多模態(tài)需求將迅速上升，英偉達(dá) CFO Colette Kress 曾經(jīng)預(yù)計(jì)這項(xiàng)業(yè)務(wù)將在零增長到數(shù)十億美元，國產(chǎn)芯片也是如此。

MCCX D800 作為 AI 大型訓(xùn)推一體機(jī)，是專門為支持而設(shè)計(jì)的。 MTT S4000 大型智能計(jì)算加速卡可以更好地發(fā)揮訓(xùn)練和推理性能、穩(wěn)定性和可靠性，同時(shí)適應(yīng)主流服務(wù)器系統(tǒng)。 GPU 軟件和硬件生態(tài)。

因此，從核心基礎(chǔ)方面來看， MUSA 在性能強(qiáng)大、可靈活部署的情況下，統(tǒng)一架構(gòu)芯片 MTT S 一系列智能計(jì)算加速卡，到高度集成和完整戰(zhàn)略的訓(xùn)練推動(dòng)一體機(jī)，到小型智能計(jì)算微模塊，最后到夸娥千卡集群，摩爾進(jìn)程提供了一套完整的多功能。 GPU 產(chǎn)品組合。

因此，不同需求的客戶，可以根據(jù)實(shí)際情況，選擇最適合自己的相應(yīng)級別方案。

夸娥智算中心全棧解決方案，包括以夸娥計(jì)算集群為核心的底層基礎(chǔ)設(shè)施、中間層基礎(chǔ)設(shè)施。 KUAE Platform 集群管理平臺，頂級管理平臺 KUAE Model Studio 大型平臺，軟硬一體開箱即用，一站式方案，一體化交付。

第一，在基礎(chǔ)設(shè)施方面，多功能 GPU 這是一個(gè)非常堅(jiān)定的基石， AI 加快計(jì)算，3D 圖形渲染、高清視頻編碼解碼、物理仿真、科學(xué)計(jì)算四大計(jì)算引擎，在功能上是國內(nèi)唯一可以比較的。 NVIDIA 多功能國產(chǎn)產(chǎn)品 GPU。

其次是軟硬結(jié)合，因?yàn)樗c傳統(tǒng)結(jié)合。 GPU 從芯片到卡路徑不同，摩爾的進(jìn)程走的是系統(tǒng)級的平臺路線，不僅包括千卡規(guī)模的算率集群，還包括集群管理平臺和大型平臺，從而實(shí)現(xiàn)軟硬結(jié)合，以集成交付的方式處理大規(guī)模。 GPU 計(jì)算能力建設(shè)與運(yùn)營管理問題。

最后，從底層基礎(chǔ)設(shè)施到中間層管理平臺，再到上層應(yīng)用，摩爾的過程得到了充分的覆蓋，具有云全棧的能力，能夠有效地為1000億參數(shù)的大模型訓(xùn)練和推理提供強(qiáng)有力的支持。

綜上所述，夸娥智算集群全棧方案有 8 核心優(yōu)勢：

第一，一般模型覆蓋，支持包括 LLaMA、GLM、Aquila、Baichuan、GPT、Bloom、在行業(yè)內(nèi)，如玉言等數(shù)十種主流模式的實(shí)踐和微調(diào)。

二是 CUDA 摩爾進(jìn)程代碼移植工具可用于主流生態(tài)適應(yīng)。 Musify，幾乎零成本的把手 CUDA 代碼自動(dòng)轉(zhuǎn)移到摩爾的統(tǒng)一系統(tǒng)架構(gòu) MUSA，再次有效地完成升級，并完全獨(dú)立可靠。

第三，斷點(diǎn)續(xù)訓(xùn)可以實(shí)時(shí)監(jiān)控訓(xùn)練任務(wù)集群，分鐘發(fā)現(xiàn)故障，自行恢復(fù)訓(xùn)練。此外，檢查點(diǎn)的備份恢復(fù)可以大大降低故障率，提高綜合訓(xùn)練效率。 15-50％。

第四，支持大模型分布式訓(xùn)練， DeepSpeed、Megatron-DeepSpeed、Colossal-AI、FlagScale 其他行業(yè)主流分布式框架，并結(jié)合多種平行算法策略，還支持大型分布式訓(xùn)練斷點(diǎn)續(xù)訓(xùn)，分布式推理。

第五，加快推理，包括 KUAEModel Studio 綜合應(yīng)用平臺，MUSA Serving 推理服務(wù)軟件，MT Transformer 分布式推理加速框架，TensorX 推理能有效支持主流大語言模型推理，加快四大框架。

第六，高性能通信，包括 2/4/8 卡片節(jié)點(diǎn)內(nèi)互連，PCIe 和自主研發(fā) MT-Link 環(huán)節(jié)帶寬匯聚，自研 MCCL 集合式通訊庫等，MT-Link 帶寬高達(dá) 112GB/s。

第七，高性能存儲，支持存儲數(shù)據(jù)。 RDMA 網(wǎng)絡(luò)讀寫、GPU Direct Storage、加快數(shù)據(jù)讀寫，加快數(shù)據(jù)緩存，AI 訓(xùn)練性數(shù)據(jù)集載入加速、高性能并行文件系統(tǒng)、冷熱數(shù)據(jù)與外部存儲交換等。

第八，集群的可靠性和性能完全可以支持萬卡以上的大規(guī)模。 GPU 集群運(yùn)轉(zhuǎn)。

歷史無數(shù)次證明，越是艱難的時(shí)刻，越需要中國人勇敢地站出來，自力更生，打破封鎖，AI 計(jì)算時(shí)代也是如此。

作為中國第一個(gè)落地的多功能 GPU 摩爾進(jìn)程夸娥千卡集群方案是國內(nèi)1000萬卡的基礎(chǔ)模型培訓(xùn)平臺，完成了軟硬設(shè)計(jì)、性能計(jì)算率、生態(tài)應(yīng)用等諸多突破。憑借自主研發(fā)的軟硬架構(gòu)、開發(fā)平臺和通用計(jì)算路線，在很多方面都有獨(dú)特的優(yōu)勢。

尤其在極端的國際形勢下，在我國 GPU 在技術(shù)相對薄弱的情況下，摩爾進(jìn)程是最有希望破局的，多功能 GPU 唯一能與英偉達(dá)相媲美的功能，尤其是摩爾線程的創(chuàng)始團(tuán)隊(duì)，幾乎都來自英偉達(dá)。創(chuàng)始人張建中是原英偉達(dá)全球副總裁和中國區(qū)總經(jīng)理。他不僅有豐富的行業(yè)經(jīng)驗(yàn)和豐富的技術(shù)基礎(chǔ)，而且能夠運(yùn)籌帷幄。

但是除了技術(shù)之外，GPU 該行業(yè)還迎來了優(yōu)惠政策，更有利于實(shí)現(xiàn)突破。

舉例來說，北京市最近發(fā)布的《北京市計(jì)算基礎(chǔ)設(shè)施建設(shè)實(shí)施方案(2024-2027 年)明確指出，要加快核心軟硬件產(chǎn)品的自主可控性，構(gòu)建自主可控率技術(shù)體系，推動(dòng)人工智能大模型適應(yīng)自主可控芯片。

自主可控的采購 GPU 根據(jù)投資額的一定比例，對芯片、進(jìn)行智能算率服務(wù)的企業(yè)給予支持，加快智算資源供給自主可控。

摩爾進(jìn)程夸娥千卡集群在各方面都有成熟的經(jīng)驗(yàn)，堪稱“中國英偉達(dá)”，最有希望實(shí)現(xiàn)國內(nèi)自主替代和國內(nèi)處理，從大模型訓(xùn)練與推理一體化到極高的穩(wěn)定性和可靠性。它是“中國英偉達(dá)”，最有希望實(shí)現(xiàn)國內(nèi)自主替代。 AI 計(jì)算率短缺的難題。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請?jiān)谖闹凶⒚鱽碓醇白髡呙帧?/p>

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com