http://www.sharifulalam.com 2025-04-02 13:56 來源:IDC中國(guó)
隨著DeepSeek的火熱,越來越多的工業(yè)企業(yè)希望開展大模型的應(yīng)用探索,市場(chǎng)也涌現(xiàn)了很多一體機(jī)助力企業(yè)快速實(shí)現(xiàn)DeepSeek等大模型應(yīng)用部署。在此基礎(chǔ)上,工業(yè)專業(yè)服務(wù)商也開始推出集成開發(fā)平臺(tái)及智能體應(yīng)用的訓(xùn)推一體機(jī),以及各類邊緣AI算力終端,助力工業(yè)企業(yè)進(jìn)一步深入應(yīng)用DeepSeek。為此,IDC啟動(dòng)《工業(yè)級(jí)邊緣AI算力終端市場(chǎng)份額,2024》研究,為市場(chǎng)提供參考。
一體機(jī)助力企業(yè)快速應(yīng)用DeepSeek
對(duì)于很多尚未建設(shè)AI算力中心的工業(yè)企業(yè),如果希望快速體驗(yàn)和應(yīng)用DeepSeek,一體機(jī)可能是個(gè)方便的選擇,通過一體機(jī)企業(yè)可以通過“開箱即用”的方式快速應(yīng)用部署DeepSeek,并圍繞DeepSeek等大模型快速構(gòu)建知識(shí)庫(kù)、應(yīng)用助手等大模型應(yīng)用。
目前華為、聯(lián)想、浪潮、騰訊、浪潮、京東、移動(dòng)、電信、聯(lián)通、曙光等都已經(jīng)紛紛推出了相關(guān)服務(wù)器級(jí)DeepSeek一體機(jī)產(chǎn)品,且很多一體機(jī)產(chǎn)品也都支持英偉達(dá)以外的其它品牌AI加速卡應(yīng)用。
訓(xùn)推一體機(jī)滿足更多工業(yè)應(yīng)用需求
對(duì)于工業(yè)企業(yè)而言,要讓大模型發(fā)揮業(yè)務(wù)應(yīng)用效果,除了直接部署DeepSeek外,還需要涉及到結(jié)合場(chǎng)景積累的專業(yè)數(shù)據(jù)和知識(shí),對(duì)模型進(jìn)行微調(diào),從而使模型能夠更好的處理專業(yè)業(yè)務(wù)問題,以及結(jié)合應(yīng)用開發(fā)平臺(tái),開發(fā)各種適合企業(yè)自身的智能體(Agent)。
針對(duì)工業(yè)企業(yè)實(shí)際應(yīng)用的這些需求,一些專業(yè)工業(yè)服務(wù)商也在相繼推出了面向工業(yè)的訓(xùn)推一體機(jī)產(chǎn)品,如雪浪云的MindCenter X100訓(xùn)推一體機(jī)、中工智聯(lián)的“智工 智腦”訓(xùn)推一體工控機(jī)、羚數(shù)智能推出的大模型訓(xùn)推一體機(jī)等,這些訓(xùn)推一體機(jī)一方面集成了供應(yīng)商的工業(yè)大模型應(yīng)用開發(fā)平臺(tái)以及積累的工業(yè)專業(yè)智能體應(yīng)用,另一方面也集成了各種十億、百億級(jí)別參數(shù)的模型,可供工業(yè)企業(yè)結(jié)合場(chǎng)景數(shù)據(jù)進(jìn)行模型的微調(diào),從而發(fā)揮更多業(yè)務(wù)價(jià)值。
邊緣AI算力終端引領(lǐng)大模型走向邊緣端
除了在企業(yè)中心云側(cè)的部署應(yīng)用,DeepSeek等大模型的應(yīng)用還將走向邊緣端,各類邊緣AI終端則是支撐邊緣側(cè)AI應(yīng)用的重要基礎(chǔ)。研華、研祥、凌華、智微智能等邊緣算力設(shè)備供應(yīng)商相繼介紹了多款自身邊緣AI終端適配和應(yīng)用部署蒸餾版DeepSeek的情況,旭光電子、河鋼數(shù)字等供應(yīng)商也借著DeepSeek的東風(fēng),推出了自身的邊緣AI終端產(chǎn)品。
在此背景下,結(jié)合IDC在現(xiàn)場(chǎng)級(jí)邊緣算力設(shè)備/泛工控機(jī)領(lǐng)域的研究基礎(chǔ),IDC啟動(dòng)《工業(yè)級(jí)邊緣AI算力終端市場(chǎng)份額,2024》研究,通過對(duì)市場(chǎng)格局、發(fā)展趨勢(shì)等研究,為更多企業(yè)開展端側(cè)大模型應(yīng)用提供參考。未來一段時(shí)間,預(yù)計(jì)將有更多供應(yīng)商推出訓(xùn)推一體機(jī)相關(guān)產(chǎn)品,IDC屆時(shí)也將啟動(dòng)相關(guān)研究。