http://www.sharifulalam.com 2025-04-02 13:56 來源:IDC中國
隨著DeepSeek的火熱,越來越多的工業(yè)企業(yè)希望開展大模型的應(yīng)用探索,市場也涌現(xiàn)了很多一體機(jī)助力企業(yè)快速實現(xiàn)DeepSeek等大模型應(yīng)用部署。在此基礎(chǔ)上,工業(yè)專業(yè)服務(wù)商也開始推出集成開發(fā)平臺及智能體應(yīng)用的訓(xùn)推一體機(jī),以及各類邊緣AI算力終端,助力工業(yè)企業(yè)進(jìn)一步深入應(yīng)用DeepSeek。為此,IDC啟動《工業(yè)級邊緣AI算力終端市場份額,2024》研究,為市場提供參考。
一體機(jī)助力企業(yè)快速應(yīng)用DeepSeek
對于很多尚未建設(shè)AI算力中心的工業(yè)企業(yè),如果希望快速體驗和應(yīng)用DeepSeek,一體機(jī)可能是個方便的選擇,通過一體機(jī)企業(yè)可以通過“開箱即用”的方式快速應(yīng)用部署DeepSeek,并圍繞DeepSeek等大模型快速構(gòu)建知識庫、應(yīng)用助手等大模型應(yīng)用。
目前華為、聯(lián)想、浪潮、騰訊、浪潮、京東、移動、電信、聯(lián)通、曙光等都已經(jīng)紛紛推出了相關(guān)服務(wù)器級DeepSeek一體機(jī)產(chǎn)品,且很多一體機(jī)產(chǎn)品也都支持英偉達(dá)以外的其它品牌AI加速卡應(yīng)用。
訓(xùn)推一體機(jī)滿足更多工業(yè)應(yīng)用需求
對于工業(yè)企業(yè)而言,要讓大模型發(fā)揮業(yè)務(wù)應(yīng)用效果,除了直接部署DeepSeek外,還需要涉及到結(jié)合場景積累的專業(yè)數(shù)據(jù)和知識,對模型進(jìn)行微調(diào),從而使模型能夠更好的處理專業(yè)業(yè)務(wù)問題,以及結(jié)合應(yīng)用開發(fā)平臺,開發(fā)各種適合企業(yè)自身的智能體(Agent)。
針對工業(yè)企業(yè)實際應(yīng)用的這些需求,一些專業(yè)工業(yè)服務(wù)商也在相繼推出了面向工業(yè)的訓(xùn)推一體機(jī)產(chǎn)品,如雪浪云的MindCenter X100訓(xùn)推一體機(jī)、中工智聯(lián)的“智工 智腦”訓(xùn)推一體工控機(jī)、羚數(shù)智能推出的大模型訓(xùn)推一體機(jī)等,這些訓(xùn)推一體機(jī)一方面集成了供應(yīng)商的工業(yè)大模型應(yīng)用開發(fā)平臺以及積累的工業(yè)專業(yè)智能體應(yīng)用,另一方面也集成了各種十億、百億級別參數(shù)的模型,可供工業(yè)企業(yè)結(jié)合場景數(shù)據(jù)進(jìn)行模型的微調(diào),從而發(fā)揮更多業(yè)務(wù)價值。
邊緣AI算力終端引領(lǐng)大模型走向邊緣端
除了在企業(yè)中心云側(cè)的部署應(yīng)用,DeepSeek等大模型的應(yīng)用還將走向邊緣端,各類邊緣AI終端則是支撐邊緣側(cè)AI應(yīng)用的重要基礎(chǔ)。研華、研祥、凌華、智微智能等邊緣算力設(shè)備供應(yīng)商相繼介紹了多款自身邊緣AI終端適配和應(yīng)用部署蒸餾版DeepSeek的情況,旭光電子、河鋼數(shù)字等供應(yīng)商也借著DeepSeek的東風(fēng),推出了自身的邊緣AI終端產(chǎn)品。
在此背景下,結(jié)合IDC在現(xiàn)場級邊緣算力設(shè)備/泛工控機(jī)領(lǐng)域的研究基礎(chǔ),IDC啟動《工業(yè)級邊緣AI算力終端市場份額,2024》研究,通過對市場格局、發(fā)展趨勢等研究,為更多企業(yè)開展端側(cè)大模型應(yīng)用提供參考。未來一段時間,預(yù)計將有更多供應(yīng)商推出訓(xùn)推一體機(jī)相關(guān)產(chǎn)品,IDC屆時也將啟動相關(guān)研究。