http://www.sharifulalam.com 2025-04-02 13:56 來源:IDC中國
隨著DeepSeek的火熱,越來越多的工業(yè)企業(yè)希望開展大模型的應用探索,市場也涌現(xiàn)了很多一體機助力企業(yè)快速實現(xiàn)DeepSeek等大模型應用部署。在此基礎上,工業(yè)專業(yè)服務商也開始推出集成開發(fā)平臺及智能體應用的訓推一體機,以及各類邊緣AI算力終端,助力工業(yè)企業(yè)進一步深入應用DeepSeek。為此,IDC啟動《工業(yè)級邊緣AI算力終端市場份額,2024》研究,為市場提供參考。
一體機助力企業(yè)快速應用DeepSeek
對于很多尚未建設AI算力中心的工業(yè)企業(yè),如果希望快速體驗和應用DeepSeek,一體機可能是個方便的選擇,通過一體機企業(yè)可以通過“開箱即用”的方式快速應用部署DeepSeek,并圍繞DeepSeek等大模型快速構(gòu)建知識庫、應用助手等大模型應用。
目前華為、聯(lián)想、浪潮、騰訊、浪潮、京東、移動、電信、聯(lián)通、曙光等都已經(jīng)紛紛推出了相關服務器級DeepSeek一體機產(chǎn)品,且很多一體機產(chǎn)品也都支持英偉達以外的其它品牌AI加速卡應用。
訓推一體機滿足更多工業(yè)應用需求
對于工業(yè)企業(yè)而言,要讓大模型發(fā)揮業(yè)務應用效果,除了直接部署DeepSeek外,還需要涉及到結(jié)合場景積累的專業(yè)數(shù)據(jù)和知識,對模型進行微調(diào),從而使模型能夠更好的處理專業(yè)業(yè)務問題,以及結(jié)合應用開發(fā)平臺,開發(fā)各種適合企業(yè)自身的智能體(Agent)。
針對工業(yè)企業(yè)實際應用的這些需求,一些專業(yè)工業(yè)服務商也在相繼推出了面向工業(yè)的訓推一體機產(chǎn)品,如雪浪云的MindCenter X100訓推一體機、中工智聯(lián)的“智工 智腦”訓推一體工控機、羚數(shù)智能推出的大模型訓推一體機等,這些訓推一體機一方面集成了供應商的工業(yè)大模型應用開發(fā)平臺以及積累的工業(yè)專業(yè)智能體應用,另一方面也集成了各種十億、百億級別參數(shù)的模型,可供工業(yè)企業(yè)結(jié)合場景數(shù)據(jù)進行模型的微調(diào),從而發(fā)揮更多業(yè)務價值。
邊緣AI算力終端引領大模型走向邊緣端
除了在企業(yè)中心云側(cè)的部署應用,DeepSeek等大模型的應用還將走向邊緣端,各類邊緣AI終端則是支撐邊緣側(cè)AI應用的重要基礎。研華、研祥、凌華、智微智能等邊緣算力設備供應商相繼介紹了多款自身邊緣AI終端適配和應用部署蒸餾版DeepSeek的情況,旭光電子、河鋼數(shù)字等供應商也借著DeepSeek的東風,推出了自身的邊緣AI終端產(chǎn)品。
在此背景下,結(jié)合IDC在現(xiàn)場級邊緣算力設備/泛工控機領域的研究基礎,IDC啟動《工業(yè)級邊緣AI算力終端市場份額,2024》研究,通過對市場格局、發(fā)展趨勢等研究,為更多企業(yè)開展端側(cè)大模型應用提供參考。未來一段時間,預計將有更多供應商推出訓推一體機相關產(chǎn)品,IDC屆時也將啟動相關研究。