端側(cè)AI大模型很可能是為5G而生?
就在前幾天小米的年度演講中,雷軍提到小米的AI大模型能力,小愛同學(xué)正式升級為生成式大模型,現(xiàn)已經(jīng)進(jìn)入測試階段。小米高管公式在8月17號表示,小米將會很快實現(xiàn)端側(cè)AI模型能力。
(資料圖片僅供參考)
(圖源:網(wǎng)易新聞網(wǎng))
01.端側(cè)AI的優(yōu)勢
端側(cè)也就是我們常說的邊緣計算,這種模式可以更好的支持AloT場景。也就是:AI+IoT(Internet of Things 物聯(lián)網(wǎng))=AIoT。邊緣計算,是指在靠近物或數(shù)據(jù)源頭的一側(cè),采用網(wǎng)絡(luò)、計算、存儲、應(yīng)用核心能力為一體的開放平臺,就近提供最近端服務(wù)。邊緣計算也是一種分布式計算。它將數(shù)據(jù)資料的處理、應(yīng)用程序的運行甚至一些功能服務(wù)的實現(xiàn),由網(wǎng)絡(luò)中心下放到網(wǎng)絡(luò)邊緣的節(jié)點上,以減少業(yè)務(wù)的多級傳遞,降低核心網(wǎng)和傳輸?shù)呢?fù)擔(dān)。它的應(yīng)用程序是在邊緣側(cè)發(fā)起,產(chǎn)生更快的網(wǎng)絡(luò)服務(wù)相應(yīng)。對物聯(lián)網(wǎng)而言,邊緣計算技術(shù)取得突破,意味著許多控制將通過本地設(shè)備實現(xiàn)而無需交由云端,處理過程將在本地邊緣計算層完成。
端側(cè)AI具有如下優(yōu)點:
Al 技術(shù)用于端側(cè)可以第一時間對收集的數(shù)據(jù)進(jìn)行處理,不需要通過網(wǎng)絡(luò)上傳到云側(cè)的處理中心,極大加快了系統(tǒng)響應(yīng)也減少了系統(tǒng)處理延遲;
端側(cè)計算可以更高效的處理有價值的關(guān)鍵數(shù)據(jù),其余的數(shù)據(jù)只是臨時性的,在端側(cè)結(jié)合 AI 能力,不僅可以更及時處理數(shù)據(jù),而且減輕網(wǎng)絡(luò)帶寬的限制和緩解對中心側(cè)數(shù)據(jù)存儲的壓力;
在端側(cè)的 Al 技術(shù)可以高效地對用戶的源數(shù)據(jù)進(jìn)行處理,將一些敏感的數(shù)據(jù)進(jìn)行清洗和保護(hù),端側(cè)設(shè)備只將 Al 處理后的結(jié)果上報云端。
端側(cè)AI的技術(shù)難點:
硬件資源限制存儲、內(nèi)存、計算資源
模型的版本管理、生命周期
終端的種類很多,不同硬件架構(gòu)的適配和模型遷移成本過高
第三點同時導(dǎo)致了端側(cè)AI應(yīng)用復(fù)雜度增加
02.5G和端側(cè)計算相輔相成
5G 是一項長期演進(jìn)的技術(shù),也許最開始,我們對它的感知只是手機網(wǎng)速更快、時延更低,但 5G 的意義遠(yuǎn)不止于此。隨著 5G 標(biāo)準(zhǔn)從 Rel-15、Rel-16 到 Rel-17 等的不斷演進(jìn),5G 也將不斷擴展到更多行業(yè)。數(shù)據(jù)顯示,全球有200多家運營商已經(jīng)部署了5G商用網(wǎng)絡(luò),另有將近300家運營商正在投資部署5G技術(shù)。在我國,目前已累計建成5G行業(yè)虛擬專網(wǎng)16000余個,應(yīng)用案例涵蓋交通、醫(yī)療、教育、智慧城市、農(nóng)業(yè)等多個領(lǐng)域。
在5G網(wǎng)絡(luò)在誕生之初,便定義了它的三大應(yīng)用場景:eMBB(增強移動寬帶)、mMTC (海量機器類通信)和 uRLLC(超可靠低時延通信),相應(yīng)的為滿足高清視頻、智慧城市、車聯(lián)網(wǎng)等業(yè)務(wù)需求提供技術(shù)支持。
但值得關(guān)注的是,每個業(yè)務(wù)場景在發(fā)展過程中都有其自身所面臨的一些挑戰(zhàn)。例如,eMBB將對網(wǎng)絡(luò)帶寬產(chǎn)生數(shù)百Gbps的超高需求,從而對回傳網(wǎng)絡(luò)造成巨大傳輸壓力,單方面投資擴容匯聚與城域網(wǎng)絡(luò)將大幅提高單位媒體流傳輸成本,無法實現(xiàn)投資收益;uRLLC需要端到端1ms級超低時延支撐,僅僅依賴無線與固網(wǎng)物理層與傳輸層技術(shù)進(jìn)步,無法滿足苛刻的時延需求;mMTC將產(chǎn)生海量數(shù)據(jù),導(dǎo)致運營管理的巨大挑戰(zhàn),僅僅由云端集中統(tǒng)一監(jiān)控?zé)o法支撐如此復(fù)雜的物聯(lián)系統(tǒng)。
邊緣計算恰好可以為這些問題帶來解決方案。首先,邊緣計算設(shè)備將為新的和現(xiàn)有的邊緣設(shè)備提供連接和保護(hù);其次,盡管5G將為基于云的應(yīng)用程序提供更好的連接性和更低的延遲,但仍然存在處理和存儲數(shù)據(jù)的成本,混合邊緣計算/5G解決方案可以降低這些成本;最后,邊緣計算可以讓更多應(yīng)用程序在邊緣運行,例如分析,網(wǎng)絡(luò)安全或合規(guī)性/監(jiān)管應(yīng)用程序,減短了由數(shù)據(jù)傳輸速度和帶寬限制所帶來的延時,并可對本地數(shù)據(jù)做初步分析,為云分擔(dān)了一部分工作。
高通中國區(qū)研發(fā)負(fù)責(zé)人徐晧認(rèn)為,面對當(dāng)前AI技術(shù)取得重大突破,未來AI與5G-Advanced融合發(fā)展,將對智能終端和AI應(yīng)用發(fā)展帶來非常深遠(yuǎn)的影響。在5G-Advanced更大帶寬、更低時延的網(wǎng)絡(luò)能力支撐下,未來AI處理將通過“云-邊-網(wǎng)-端”架構(gòu)不斷從云端向邊緣、終端側(cè)擴展,從而在手機、汽車、XR、無人機等多種形式的智能終端上催生出大量新興AI應(yīng)用。而多種形式的智能終端和豐富的AI應(yīng)用又會反過來進(jìn)一步促進(jìn)5G-Advanced繁榮發(fā)展。
關(guān)鍵詞:
您可能也感興趣:
今日熱點
為您推薦
《裝甲核心6》使用《艾爾登法環(huán)》《只狼》引擎
福州雍禾種植毛發(fā)醫(yī)院如何 醫(yī)生詳情介紹
宣城郎溪:找準(zhǔn)流動攤點整治“小切口” 做實保障民生“大文章”
排行
- 《博德之門3》火焰套獲得方法
- 我國穩(wěn)居世界第一制造業(yè)大國地位,高質(zhì)量發(fā)展邁上新臺階
- 新一線城市中13城GDP超萬億元 哪座城市更有沖勁?
- 房地產(chǎn)企業(yè)經(jīng)營業(yè)績良好 為何地產(chǎn)股價“跌跌不休”?
- 新老人:消費觀感性與理性并存,購物從“老三場”轉(zhuǎn)移到“新...
- 中國奧園榮登福布斯全球2000強第849位 大幅躍升303位
- 數(shù)字化改革背景下,杭州以“產(chǎn)業(yè)大腦”賦能城市產(chǎn)業(yè)治理
- 江西將實現(xiàn)從“以票管稅”向“以數(shù)治稅”分類精準(zhǔn)監(jiān)管轉(zhuǎn)變
- 7月份規(guī)模以上工業(yè)增加值增長6.4%,前7月增長14.4%
- 疫情常態(tài)化大背景下,各地該如何發(fā)展旅游業(yè)?
最近更新
- 端側(cè)AI大模型很可能是為5G而生?
- 歲月輕狂是翻唱嗎(陳翔 歲月輕狂)
- 國海證券:市場煤價已回落至較為安全的區(qū)間
- 刷劇游戲兩不誤!海信電視U8感知畫質(zhì)體驗更過癮
- 劍靈傳說(關(guān)于劍靈傳說的基本詳情介紹)
- 喜羊羊與灰太狼之深海尋寶(關(guān)于喜羊羊與灰太狼之深海尋寶的...
- 一條高鐵 跑出京津冀協(xié)同發(fā)展新速度
- 天保基建:選舉侯海興為公司董事長
- 快訊!京東成立新公司
- 人民日報點贊濟(jì)南
- realme 真我 Buds Air5 耳機官宣 8 月 28 日發(fā)布,降噪深度 50dB
- 貴州雷山天使工程項目:助力鄉(xiāng)村健康振興
- “降價換量”和“擁抱MaaS”成為云廠商應(yīng)對增長持續(xù)下滑的兩...
- 聊城頒發(fā)首本地下空間不動產(chǎn)權(quán)證書
- 大灣區(qū)早報|深大助力!中國“工業(yè)黃金”規(guī)模化生產(chǎn)取得新突...
- 醫(yī)藥股快速反彈,康龍化成漲近3%,醫(yī)藥50ETF(159838)盤中翻...
- 安貞志愿者為老人拍婚紗照,25對老人彌補年輕時的遺憾
- 新田:宋氏教育助學(xué)愛心協(xié)會為42名大學(xué)新生發(fā)放助學(xué)獎勵金
- 第五屆中國研究生機器人創(chuàng)新設(shè)計大賽在長沙開幕
- 河北2023年二級建造師成績查詢時間8月21日開始
- 六大產(chǎn)業(yè)集群實力亮相intertextile秋冬家紡展
- 李廷機故居在哪?探索李廷機故居的地理位置
- 萬洲國際:經(jīng)營利潤同比降超四成,豬肉業(yè)務(wù)虧損4.09億美元
- 老北京艾草足貼去濕氣是真的嗎(足貼去濕氣是真的嗎)
- 玫瑰茄泡酒的制作方法和配料(玫瑰茄泡酒的制作方法)
- 2023全國和美鄉(xiāng)村籃球大賽西南大區(qū)賽冠軍誕生
- 港股異動 | 航空股全線走低 多國出現(xiàn)新冠新變異株 機構(gòu)指...
- 花蓮一轎車撞上臺鐵太魯閣號“秒變廢鐵” 司機涉酒駕輕傷送醫(yī)
- 重磅!全國最大規(guī)模量子計算云平臺發(fā)布【附量子計算行業(yè)市場...
- 日本7月出口額近2年半來首次下降 對華出口降低