隨著DeepSeek的火熱，越來(lái)越多的工業(yè)企業(yè)希望開(kāi)展大模型的應(yīng)用探索，市場(chǎng)也涌現(xiàn)了很多一體機(jī)助力企業(yè)快速實(shí)現(xiàn)DeepSeek等大模型應(yīng)用部署。在此基礎(chǔ)上，工業(yè)專(zhuān)業(yè)服務(wù)商也開(kāi)始推出集成開(kāi)發(fā)平臺(tái)及智能體應(yīng)用的訓(xùn)推一體機(jī)，以及各類(lèi)邊緣AI算力終端，助力工業(yè)企業(yè)進(jìn)一步深入應(yīng)用DeepSeek。為此，IDC啟動(dòng)《工業(yè)級(jí)邊緣AI算力終端市場(chǎng)份額，2024》研究，為市場(chǎng)提供參考。

一體機(jī)助力企業(yè)快速應(yīng)用DeepSeek

對(duì)于很多尚未建設(shè)AI算力中心的工業(yè)企業(yè)，如果希望快速體驗(yàn)和應(yīng)用DeepSeek，一體機(jī)可能是個(gè)方便的選擇，通過(guò)一體機(jī)企業(yè)可以通過(guò)“開(kāi)箱即用”的方式快速應(yīng)用部署DeepSeek，并圍繞DeepSeek等大模型快速構(gòu)建知識(shí)庫(kù)、應(yīng)用助手等大模型應(yīng)用。

目前華為、聯(lián)想、浪潮、騰訊、浪潮、京東、移動(dòng)、電信、聯(lián)通、曙光等都已經(jīng)紛紛推出了相關(guān)服務(wù)器級(jí)DeepSeek一體機(jī)產(chǎn)品，且很多一體機(jī)產(chǎn)品也都支持英偉達(dá)以外的其它品牌AI加速卡應(yīng)用。

訓(xùn)推一體機(jī)滿足更多工業(yè)應(yīng)用需求

對(duì)于工業(yè)企業(yè)而言，要讓大模型發(fā)揮業(yè)務(wù)應(yīng)用效果，除了直接部署DeepSeek外，還需要涉及到結(jié)合場(chǎng)景積累的專(zhuān)業(yè)數(shù)據(jù)和知識(shí)，對(duì)模型進(jìn)行微調(diào)，從而使模型能夠更好的處理專(zhuān)業(yè)業(yè)務(wù)問(wèn)題，以及結(jié)合應(yīng)用開(kāi)發(fā)平臺(tái)，開(kāi)發(fā)各種適合企業(yè)自身的智能體(Agent)。

針對(duì)工業(yè)企業(yè)實(shí)際應(yīng)用的這些需求，一些專(zhuān)業(yè)工業(yè)服務(wù)商也在相繼推出了面向工業(yè)的訓(xùn)推一體機(jī)產(chǎn)品，如雪浪云的MindCenter X100訓(xùn)推一體機(jī)、中工智聯(lián)的“智工 智腦”訓(xùn)推一體工控機(jī)、羚數(shù)智能推出的大模型訓(xùn)推一體機(jī)等，這些訓(xùn)推一體機(jī)一方面集成了供應(yīng)商的工業(yè)大模型應(yīng)用開(kāi)發(fā)平臺(tái)以及積累的工業(yè)專(zhuān)業(yè)智能體應(yīng)用，另一方面也集成了各種十億、百億級(jí)別參數(shù)的模型，可供工業(yè)企業(yè)結(jié)合場(chǎng)景數(shù)據(jù)進(jìn)行模型的微調(diào)，從而發(fā)揮更多業(yè)務(wù)價(jià)值。

邊緣AI算力終端引領(lǐng)大模型走向邊緣端

除了在企業(yè)中心云側(cè)的部署應(yīng)用，DeepSeek等大模型的應(yīng)用還將走向邊緣端，各類(lèi)邊緣AI終端則是支撐邊緣側(cè)AI應(yīng)用的重要基礎(chǔ)。研華、研祥、凌華、智微智能等邊緣算力設(shè)備供應(yīng)商相繼介紹了多款自身邊緣AI終端適配和應(yīng)用部署蒸餾版DeepSeek的情況，旭光電子、河鋼數(shù)字等供應(yīng)商也借著DeepSeek的東風(fēng)，推出了自身的邊緣AI終端產(chǎn)品。

在此背景下，結(jié)合IDC在現(xiàn)場(chǎng)級(jí)邊緣算力設(shè)備/泛工控機(jī)領(lǐng)域的研究基礎(chǔ)，IDC啟動(dòng)《工業(yè)級(jí)邊緣AI算力終端市場(chǎng)份額，2024》研究，通過(guò)對(duì)市場(chǎng)格局、發(fā)展趨勢(shì)等研究，為更多企業(yè)開(kāi)展端側(cè)大模型應(yīng)用提供參考。未來(lái)一段時(shí)間，預(yù)計(jì)將有更多供應(yīng)商推出訓(xùn)推一體機(jī)相關(guān)產(chǎn)品，IDC屆時(shí)也將啟動(dòng)相關(guān)研究。