全球科技界的目光聚焦即將于拉斯維加斯開幕的CES 2025展會。作為全球技術(shù)趨勢的風(fēng)向標(biāo)，今年展會的重頭戲無疑是端側(cè)AI技術(shù)的突破性進(jìn)展。英偉達(dá)內(nèi)部專家預(yù)測，端側(cè)AI將在輕量化模型、多設(shè)備協(xié)同和行業(yè)應(yīng)用上實(shí)現(xiàn)跨越式發(fā)展，成為展會最大的熱點(diǎn)。然而，這場變革也對算力基礎(chǔ)設(shè)施提出了新要求。

在端側(cè)AI快速發(fā)展的背景下，中國算力基建是否準(zhǔn)備充分？記者專訪了科默羅技術(shù)的首席運(yùn)營官（COO）湯浩。他從分布式算力的角度，分析了當(dāng)前中國算力基建的誤區(qū)，呼吁業(yè)界轉(zhuǎn)變觀念，推動集中與分布協(xié)同發(fā)展的算力新生態(tài)，以抓住端側(cè)AI帶來的戰(zhàn)略機(jī)遇。

端側(cè)AI：算力生態(tài)的轉(zhuǎn)折點(diǎn)

“端側(cè)AI的核心特點(diǎn)是低延遲、高實(shí)時性以及廣泛的設(shè)備分布，這決定了單純依賴集中式算力模式是遠(yuǎn)遠(yuǎn)不夠的?！睖圃?span id="rf2doxjax" class="keyword">專訪中開門見山地指出。

端側(cè)AI的典型應(yīng)用場景包括自動駕駛、工業(yè)機(jī)器人和物聯(lián)網(wǎng)設(shè)備，這些都對算力提出了“本地化”需求。例如，自動駕駛需要毫秒級的反應(yīng)速度，工業(yè)機(jī)器人在生產(chǎn)線上的實(shí)時調(diào)整也要求極高的延遲敏感性。這些任務(wù)如果完全依賴集中式算力中心處理，受限于數(shù)據(jù)傳輸延遲和網(wǎng)絡(luò)帶寬，很難實(shí)現(xiàn)理想效果。

“這并不是要否定集中式算力的價值，”湯浩強(qiáng)調(diào)，“在大規(guī)模模型訓(xùn)練、復(fù)雜算法優(yōu)化等領(lǐng)域，集中式算力仍然不可替代。但是端側(cè)AI時代的需求變化，迫使我們必須重新審視算力基礎(chǔ)設(shè)施的整體布局，推動集中式與分布式算力協(xié)同發(fā)展?！?/p>

分布式算力：端側(cè)AI的核心支柱

根據(jù)英偉達(dá)的預(yù)測，分布式算力將在端側(cè)AI時代扮演關(guān)鍵角色，其核心在于通過“端-邊-云”協(xié)同架構(gòu)，靈活調(diào)度算力資源，以滿足多樣化的場景需求。

湯浩舉例說明了分布式算力在具體場景中的價值。例如，在智能制造領(lǐng)域，工業(yè)機(jī)器人可以通過邊緣節(jié)點(diǎn)處理實(shí)時計算任務(wù)，而更復(fù)雜的算法優(yōu)化和數(shù)據(jù)分析則由云端完成。這種分層計算模式不僅提升了系統(tǒng)的響應(yīng)速度，還有效降低了整體算力成本。

科默羅技術(shù)近年來一直致力于推動分布式算力生態(tài)的落地。湯浩透露，公司除了為客戶提供AI算法優(yōu)化、芯片集成包等技術(shù)服務(wù)外，還幫助規(guī)模較大的品牌客戶搭建企業(yè)級私有分布式算力網(wǎng)絡(luò)。這一網(wǎng)絡(luò)通過算力動態(tài)調(diào)度和資源分布優(yōu)化，能夠顯著降低企業(yè)對集中式算力中心的依賴，同時提高計算效率和數(shù)據(jù)安全性。

“我們的目標(biāo)是為客戶提供定制化的分布式算力解決方案，讓企業(yè)在端側(cè)AI時代的競爭中占據(jù)主動?！睖普f。

集中式算力的價值與短板

盡管分布式算力的應(yīng)用場景在擴(kuò)大，但集中式算力中心在許多領(lǐng)域仍然具有不可替代的核心作用。湯浩指出，集中式算力目前是支持大規(guī)模AI模型訓(xùn)練和復(fù)雜數(shù)據(jù)處理的關(guān)鍵設(shè)施。例如，像GPT-4這樣的大型語言模型，需要集中式算力中心的高密度資源才能實(shí)現(xiàn)高效訓(xùn)練。

然而，他也坦言，集中式算力模式在以下幾個方面存在明顯短板：

? 網(wǎng)絡(luò)延遲：對于實(shí)時性要求高的場景，例如自動駕駛，數(shù)據(jù)傳輸?shù)难舆t會直接影響決策速度。

? 能源與成本問題：集中式算力中心的建設(shè)和運(yùn)營成本高昂，尤其是在能耗和碳排放方面，限制了其規(guī)?；l(fā)展。

? 資源分布不均：在地理分布廣泛的場景中（如遠(yuǎn)程工業(yè)物聯(lián)網(wǎng)設(shè)備），集中式算力的覆蓋效率較低。

“集中式算力的價值在于提供頂層資源支持，但我們不能因?yàn)樗?span id="rf2doxjax" class="keyword">重要性而忽略了分布式算力的潛能?！睖?span id="rf2doxjax" class="keyword">總結(jié)。

分布式算力：技術(shù)實(shí)現(xiàn)的關(guān)鍵點(diǎn)

推動分布式算力大規(guī)模落地仍然面臨許多技術(shù)挑戰(zhàn)。湯浩進(jìn)一步分析了當(dāng)前的技術(shù)瓶頸：

1. 邊緣設(shè)備性能優(yōu)化

邊緣節(jié)點(diǎn)往往受限于硬件性能，難以完成復(fù)雜的AI推理任務(wù)。解決這一問題需要依賴低功耗AI芯片的進(jìn)一步發(fā)展，以及量化（Quantization）、剪枝（Pruning）等模型優(yōu)化技術(shù)。

2. 算力調(diào)度與負(fù)載均衡

分布式算力網(wǎng)絡(luò)中，各節(jié)點(diǎn)間的任務(wù)調(diào)度和資源分配需要高效的算法支持。這涉及動態(tài)負(fù)載均衡、容錯機(jī)制以及實(shí)時資源監(jiān)控等技術(shù)。

3. 數(shù)據(jù)一致性與隱私保護(hù)

在分布式環(huán)境下，如何實(shí)現(xiàn)數(shù)據(jù)傳輸?shù)囊恢?span id="rf2doxjax" class="keyword">性和隱私保護(hù)是一個重要問題。技術(shù)手段包括聯(lián)邦學(xué)習(xí)（Federated Learning）、同態(tài)加密（Homomorphic Encryption）等。

湯浩表示，科默羅技術(shù)正積極探索這些領(lǐng)域的解決方案，并希望通過與產(chǎn)業(yè)鏈上下游的合作，加速分布式算力技術(shù)的成熟與普及。

中國算力基建的戰(zhàn)略調(diào)整：從集中執(zhí)念到協(xié)同平衡

在談到中國當(dāng)前的算力基建現(xiàn)狀時，湯浩毫不掩飾自己的擔(dān)憂。他指出，近年來，各地政府在推動算力基礎(chǔ)設(shè)施建設(shè)時，出現(xiàn)了一種“算力崇拜”的傾向，盲目追求投資規(guī)模和“大算力中心”的虛名，而忽視了實(shí)際需求和技術(shù)應(yīng)用的多樣性。這種做法不僅導(dǎo)致資源的浪費(fèi)，還可能給未來的發(fā)展埋下隱患。

“不能為了搞算力而搞算力，算力基礎(chǔ)設(shè)施的建設(shè)應(yīng)該服務(wù)于實(shí)際的場景需求，而不是成為政績工程的工具。”湯浩批評說，一些地方政府醉心于建設(shè)大型算力中心，熱衷于宣傳自己擁有多少PFlops的算力規(guī)模，卻缺乏對算力分布優(yōu)化的系統(tǒng)性思考和對分布式技術(shù)的投入。這樣的單一化發(fā)展路徑，不僅偏離了端側(cè)AI時代的需求，還可能在未來造成算力資源的結(jié)構(gòu)性浪費(fèi)。

湯浩進(jìn)一步指出，大型集中式算力中心雖然看上去“高端大氣”，但并非越大越好。很多地方算力中心在建成后，實(shí)際利用率極低，出現(xiàn)“算力閑置”甚至“閑而無用”的現(xiàn)象，同時又承擔(dān)著高昂的運(yùn)營成本和能耗負(fù)擔(dān)。他呼吁地方政府在規(guī)劃算力基建時，必須跳出“貪大求全”的誤區(qū)，更加注重投資的實(shí)際效益與算力布局的科學(xué)性。

“算力基建的目標(biāo)是為產(chǎn)業(yè)提供支撐，而不是為了炫耀大算力集群的數(shù)據(jù)指標(biāo)?！睖?span id="rf2doxjax" class="keyword">總結(jié)道，“端側(cè)AI時代，只有在集中式與分布式算力之間找到平衡，才能真正讓技術(shù)為社會發(fā)展服務(wù)，否則，我們可能既耗費(fèi)了資源，又錯失了全球競爭的先機(jī)?！?/p>

構(gòu)建端側(cè)AI時代的算力新生態(tài)

在CES 2025即將揭示端側(cè)AI未來格局的關(guān)鍵時刻，中國的算力基礎(chǔ)設(shè)施建設(shè)也正處在一個至關(guān)重要的轉(zhuǎn)折點(diǎn)上。正如湯浩所言，端側(cè)AI的全面爆發(fā)要求我們從“集中執(zhí)念”中走出，以更加科學(xué)、平衡的方式構(gòu)建集中與分布協(xié)同發(fā)展的算力新生態(tài)。這不僅是推動技術(shù)落地的需要，更是中國在國際競爭中搶占制高點(diǎn)的必由之路。

在這場智能革命的浪潮中，算力基建絕不能淪為簡單的投資規(guī)模比拼和大集群的虛名追逐。相反，它應(yīng)當(dāng)是一場扎根實(shí)際需求、服務(wù)產(chǎn)業(yè)發(fā)展的深刻變革。未來的算力布局，不僅要滿足端側(cè)AI多樣化的需求，更要體現(xiàn)技術(shù)與資源的最佳結(jié)合。

正如湯浩總結(jié)的那樣，“算力的意義在于支撐技術(shù)創(chuàng)新和產(chǎn)業(yè)升級，而不是為了‘規(guī)?！āＶ挥姓嬲雒つ壳蟠蟮恼`區(qū)，構(gòu)建協(xié)同平衡的算力生態(tài)，中國才能在端側(cè)AI時代占得先機(jī)?！?/p>

免責(zé)聲明：市場有風(fēng)險，選擇需謹(jǐn)慎！此文僅供參考，不作買賣依據(jù)。

關(guān)鍵詞：