最近這段時(shí)間國(guó)內(nèi)人工智能算力方面有了一定的技術(shù)進(jìn)步。我們國(guó)內(nèi)自主研發(fā)的算力硬件設(shè)備已經(jīng)成功適配了參數(shù)規(guī)模很大的MoE混合專(zhuān)家大模型。這次的技術(shù)落地彌補(bǔ)了國(guó)產(chǎn)算力之前存在的一些不足讓國(guó)內(nèi)自主算力體系變得更加完整也給國(guó)內(nèi)AI國(guó)產(chǎn)化的發(fā)展提供了硬件層面的支持。一、本次適配突破的核心價(jià)值現(xiàn)在市面上多數(shù)超大參數(shù)AI模型基本都會(huì)采用MoE架構(gòu)來(lái)開(kāi)發(fā)。這種模型整體結(jié)構(gòu)比較復(fù)雜參數(shù)數(shù)量很多運(yùn)行過(guò)程中需要消耗大量算力所以對(duì)配套硬件的整體性能要求比較嚴(yán)格。在這次突破之前國(guó)內(nèi)高端大模型運(yùn)行基本依賴(lài)國(guó)外高端算力硬件國(guó)產(chǎn)硬件難以完成完整適配。本次國(guó)產(chǎn)算力硬件適配MoE大模型的工作并不是簡(jiǎn)單的模型搬運(yùn)和運(yùn)行測(cè)試而是完成了全方位的適配調(diào)試。設(shè)備在架構(gòu)兼容、參數(shù)優(yōu)化、運(yùn)行穩(wěn)定性等多個(gè)方面都取得了不錯(cuò)的成果。國(guó)產(chǎn)算力硬件可穩(wěn)定支撐超大參數(shù)MoE大模型的訓(xùn)練與推理完全符合行業(yè)商用標(biāo)準(zhǔn)改善了國(guó)內(nèi)高端大模型依賴(lài)海外算力設(shè)備的行業(yè)問(wèn)題。國(guó)產(chǎn)算力順利適配MoE大模型圖二、適配落地帶來(lái)的產(chǎn)業(yè)改變一降低產(chǎn)業(yè)供應(yīng)鏈風(fēng)險(xiǎn)人工智能行業(yè)近幾年發(fā)展速度很快算力硬件作為核心基礎(chǔ)設(shè)備對(duì)整個(gè)行業(yè)的發(fā)展十分關(guān)鍵。之前國(guó)內(nèi)的各類(lèi)企業(yè)和科研機(jī)構(gòu)在研發(fā)大型AI模型的時(shí)候大多只能借助國(guó)外的算力設(shè)備來(lái)完成工作這種方式存在不少不確定的安全和技術(shù)風(fēng)險(xiǎn)。本次適配落地大幅提升國(guó)內(nèi)AI產(chǎn)業(yè)鏈自主能力有效降低外部技術(shù)制約風(fēng)險(xiǎn)。二拓寬國(guó)產(chǎn)算力應(yīng)用場(chǎng)景這次的技術(shù)突破也在很大程度上拓寬了國(guó)產(chǎn)算力硬件的使用范圍。除了日常常見(jiàn)的AI推理、數(shù)據(jù)處理這類(lèi)基礎(chǔ)工作之外國(guó)產(chǎn)硬件可適配科研、行業(yè)定制、超大參數(shù)通用等多類(lèi)型復(fù)雜大模型場(chǎng)景?？梢酝瑫r(shí)滿(mǎn)足科研創(chuàng)新、企業(yè)日常運(yùn)營(yíng)、產(chǎn)業(yè)智能升級(jí)等不同領(lǐng)域的算力需求讓國(guó)產(chǎn)算力可以應(yīng)用在更多高端AI研發(fā)工作中。三推動(dòng)軟硬件協(xié)同優(yōu)化國(guó)產(chǎn)算力硬件順利適配超大參數(shù)MoE大模型也反過(guò)來(lái)推動(dòng)了硬件設(shè)備本身的升級(jí)和優(yōu)化。研發(fā)團(tuán)隊(duì)針對(duì)性?xún)?yōu)化硬件運(yùn)行速度、內(nèi)存分配、并行處理等核心能力讓AI算法模型和國(guó)產(chǎn)算力硬件可以相互適配、共同升級(jí)形成了比較良性的行業(yè)發(fā)展模式。三、行業(yè)發(fā)展展望現(xiàn)如今AI行業(yè)的競(jìng)爭(zhēng)重點(diǎn)已經(jīng)慢慢轉(zhuǎn)移到底層算力生態(tài)的比拼上。本次MoE大模型適配突破是國(guó)內(nèi)算力國(guó)產(chǎn)化進(jìn)程中的關(guān)鍵節(jié)點(diǎn)。后續(xù)隨著適配技術(shù)不斷成熟硬件的綜合性能持續(xù)優(yōu)化國(guó)內(nèi)自主的算力生態(tài)體系也會(huì)變得越來(lái)越完善。在未來(lái)的發(fā)展過(guò)程中國(guó)內(nèi)算力行業(yè)還會(huì)繼續(xù)深耕高端模型適配、算力效率提升等相關(guān)核心領(lǐng)域。持續(xù)為國(guó)產(chǎn)大模型研發(fā)、AI產(chǎn)業(yè)規(guī)模化落地提供自主可控的算力支撐幫助國(guó)內(nèi)人工智能行業(yè)保持平穩(wěn)發(fā)展實(shí)現(xiàn)高質(zhì)量的產(chǎn)業(yè)升級(jí)。本文相關(guān)產(chǎn)業(yè)信息來(lái)源于公開(kāi)行業(yè)技術(shù)動(dòng)態(tài)內(nèi)容僅做客觀產(chǎn)業(yè)解讀。