7月2日,云天勵飛發(fā)布公告,公司與德元方惠簽署《關(guān)于AI算力運營項目的服務(wù)合同》,此前與德元方惠簽署的《AI 算力運營合作框架協(xié)議》正式落地。根據(jù)合同,云天勵飛將向德元方惠提供算力總規(guī)模模約 4000 PFLOPS 的 AI 訓(xùn)練及推理算力服務(wù)。合同服務(wù)期3年,累計總服務(wù)費超16億元。

今年6月6日,云天勵飛已經(jīng)與德元方惠簽署《AI 算力運營合作框架協(xié)議》,就德元方惠向云天勵飛購買 AI 訓(xùn)練及推理算力服務(wù)達(dá)成了框架安排并對雙方簽署正式合同的條件、核心交易要素及違約責(zé)任等事項進(jìn)行了約定,并約定德元方惠應(yīng)在于與其客戶簽署項目合同之日起 10 個工作日內(nèi),與云天勵飛完成正式合同的簽署。

本次雙方簽署服務(wù)合同,意味著此前簽署的框架協(xié)議正式落實,奠定云天勵飛未來業(yè)績高速增長基礎(chǔ),亦標(biāo)志著云天勵飛AI運營業(yè)務(wù)的一大突破。

將自研大模型經(jīng)驗融入算力運營服務(wù)

大模型的蓬勃發(fā)展帶來了算力需求的激增。根據(jù)中信建投的測算,2023年-2027年,全球大模型訓(xùn)練端峰值算力需求量的年復(fù)合增長率有望達(dá)到 78.0%,工信部數(shù)據(jù)顯示,截至2023年6月底,算力總規(guī)模達(dá)到197EFLOPS,算力總規(guī)模近五年年均增速近30%,存力總規(guī)模超過1080EB。

云天勵飛自主研發(fā)了千億級大模型“云天天書”,并在大模型的研發(fā)過程中積累了一系列算力調(diào)優(yōu)、提升模型訓(xùn)練效率的技術(shù)平臺和相應(yīng)工具,云天勵飛將上述技術(shù)沉淀運用在 AI 算力服務(wù)中,可幫助客戶提升模型訓(xùn)練及算力利用效率,同時,此次AI算力運營服務(wù)合同的簽訂也標(biāo)志著公司AI運營業(yè)務(wù)迎來新的重大突破。

此外,公司將持續(xù)投入自研大模型研發(fā)及優(yōu)化工作,預(yù)計將維持較高對 AI 訓(xùn)練及推理異構(gòu)算力的需求,此次《服務(wù)合同》項下涉及對于高性能異構(gòu)算力的采購未來亦可視需要作為云天勵飛大模型研發(fā)工作所需算力基礎(chǔ)的補充,支撐公司大模型技術(shù)的持續(xù)進(jìn)步。

提前布局推理算力

今年以來,大模型全面進(jìn)入應(yīng)用落地階段,推理算力需求隨之不斷增長。根據(jù)IDC數(shù)據(jù),預(yù)計到2026年中國數(shù)據(jù)中心用于推理的負(fù)載將達(dá)到62.2%。云天勵飛持續(xù)看好大模型進(jìn)入成熟商業(yè)化階段后推理需求的爆發(fā),并在推理算力領(lǐng)域進(jìn)行戰(zhàn)略部署。

相較于大模型訓(xùn)練算力的一次性開銷而言,推理算力需求將隨著模型使用時間和用戶量的增長而快速增加,因此在大模型進(jìn)入成熟商業(yè)化階段之后將迎來需求爆發(fā)。云天勵飛所搭建超大規(guī)模異構(gòu)高性能算力集群將其自研推理卡與高性能訓(xùn)練算力相結(jié)合,為客戶提供高效的訓(xùn)推一體算力服務(wù),同時為自研推理卡落地打開場景觸角,搭建生態(tài),為大模型進(jìn)入成熟商業(yè)化階段后的推理需求爆發(fā)提前布局。

未來,云天勵飛亦可在超大規(guī)模異構(gòu)高性能算力集群中,將自研推理卡與高性能訓(xùn)練算力相結(jié)合,為自研推理卡落地打開場景觸角,搭建生態(tài),為行業(yè)帶來更豐富的算力服務(wù)。

關(guān)鍵詞：