(相關(guān)資料圖)

新一代數(shù)字基礎(chǔ)設(shè)施已來。

手工勞動(dòng) / 獸姐

手工編輯 / 角叔

出品 / 獨(dú)角獸挖掘機(jī)

開年來，隨著 ChatGPT 的狂飆，引發(fā)了一輪全球的大模型熱，各方資金蜂擁而入。

ChatGPT 能夠成為火爆全球的頂流模型，除了自身強(qiáng)大的創(chuàng)新能力，也離不開強(qiáng)大算力的支持，這背后是耗資數(shù)億美元，用了英偉達(dá)數(shù)萬(wàn)顆 A100 的微軟超級(jí)計(jì)算機(jī)。

一個(gè)有意思的現(xiàn)象是，打造出 ChatGPT 的明星公司 OpenAI 依然處于燒錢賺吆喝的巨虧狀態(tài)，提供核心算力芯片的英偉達(dá)卻是賺得缽滿盤滿，今年來股價(jià)已經(jīng)翻番，市值破萬(wàn)億美元。

可以說，隨著大模型時(shí)代到來，給整個(gè)產(chǎn)業(yè)鏈都帶來了新的挑戰(zhàn)和機(jī)遇，甚至有人驚呼第四次科學(xué)技術(shù)革命到來了。

AI 大模型背后的海量數(shù)據(jù)，需要有強(qiáng)大的算力作為支持，這自然也推動(dòng)了云計(jì)算的升級(jí)迭代。

某種程度上，大模型之爭(zhēng)說到底也是云服務(wù)能力之爭(zhēng)。在市場(chǎng)明顯過熱的情況下，行業(yè)也開始有一些更加理性的聲音傳出，不需要這么多大模型，真正能夠?yàn)楫a(chǎn)業(yè)所用才是正解。

如何解決算力成本高企后，大模型訓(xùn)練本身帶來的高昂成本，讓很多企業(yè)想用而不敢用的問題？站在新的生產(chǎn)力時(shí)代的起點(diǎn)，從云入端，數(shù)字基建服務(wù)商應(yīng)該怎么部署？

時(shí)代正在呼喚新一代數(shù)字基礎(chǔ)設(shè)施。尤其是大模型的爆發(fā)，對(duì)于算力基礎(chǔ)設(shè)施提出更高的要求，應(yīng)盡可能地用更高效的異構(gòu)基礎(chǔ)設(shè)施資源，來支持不同的算力需求。

01

大模型下的數(shù)字基礎(chǔ)設(shè)施

早在數(shù)年前，就有不少企業(yè)逐漸意識(shí)到數(shù)智化升級(jí)的重要意義，但隨著近年來數(shù)智轉(zhuǎn)型逐漸進(jìn)入 " 深水區(qū) "，企業(yè)對(duì)此的需求也發(fā)生了一些明顯變化。

這些變化集中體現(xiàn)在三個(gè)方面。

從轉(zhuǎn)型意識(shí)來看，此前企業(yè)推動(dòng)自身的數(shù)字化改造，幾乎都是從局部切入，更多是為了適應(yīng)社會(huì)發(fā)展的被動(dòng)數(shù)字化；而時(shí)至今日，這種觀點(diǎn)已發(fā)生了翻天覆地的變化，由點(diǎn)及面，越來越多企業(yè)開始主動(dòng)求變，從全局出發(fā)，希望借助數(shù)字化來提升增長(zhǎng)韌性。

從業(yè)務(wù)部署來看，在資源管理方面，多數(shù)企業(yè)原來只需單純管理 IaaS，現(xiàn)在則需要對(duì)全棧資源做統(tǒng)一管理；在安全防護(hù)方面，他們更希望在做推進(jìn)數(shù)字化建設(shè)的同時(shí)，根據(jù)業(yè)務(wù)場(chǎng)景制定一體化安全體系，保障業(yè)務(wù)安全穩(wěn)定運(yùn)營(yíng)。

從 " 上云 " 模式來看，企業(yè) " 上云 " 整體呈現(xiàn) " 多態(tài)、多地、多芯、多棧 " 這四種形態(tài)，在云端 AI 進(jìn)化到顯著的訓(xùn)練推理、云桌面、圖形圖像設(shè)計(jì)等多元化場(chǎng)景階段時(shí)，云上異構(gòu)成為最能發(fā)揮 AI 效率的計(jì)算方式，但這也給數(shù)字化建設(shè)提出了更為嚴(yán)峻的挑戰(zhàn)。

一方面要保證靈活性，在混合多云架構(gòu)下，讓多種計(jì)算資源能夠進(jìn)行良好的協(xié)作；另一方面，需要強(qiáng)調(diào)安全性，能夠廣泛支持各類芯片、云平臺(tái)及不同異構(gòu)基建，提升中國(guó)企業(yè)的經(jīng)營(yíng)韌性。

這與京東云對(duì)新一代數(shù)字基礎(chǔ)設(shè)施的理解不謀而合，曹鵬認(rèn)為，新一代數(shù)字基礎(chǔ)設(shè)施至少應(yīng)該具備三個(gè)特征。

首先，是融合開放。從實(shí)際應(yīng)用來看，一個(gè)數(shù)字基礎(chǔ)設(shè)施僅依靠單一架構(gòu)，已很難支撐整個(gè)社會(huì)的運(yùn)轉(zhuǎn)。市場(chǎng)需要更加融合、更加開放的基礎(chǔ)設(shè)施，這樣才能屏蔽很多客戶差異化的需求，把更多異構(gòu)的硬件納入到設(shè)施管理中來，對(duì)不同行業(yè)、不同應(yīng)用提供很好的兼容性。

數(shù)字基礎(chǔ)設(shè)施融合方法，要做到的就是三 " 多 " —— " 多云、多芯、多活 "，這個(gè)做到廣泛支持各類芯片架構(gòu)，包括 GPU、CPU、NPU，包括兼容各類公有云和私有云平臺(tái)，這樣才能支持下一步的智能化和產(chǎn)業(yè)化的發(fā)展。

其次，是極致的技術(shù)降本。大模型和數(shù)字化對(duì)于基礎(chǔ)設(shè)施需求越來越大，技術(shù)密度、網(wǎng)絡(luò)帶寬和存儲(chǔ)需求，都呈幾何級(jí)增長(zhǎng)，算力成本變成非常重要的因素，有能力把算力成本降得更低，這是作為一個(gè)好的基礎(chǔ)設(shè)施應(yīng)該考慮的。

" 比如京東云新一代分布式存儲(chǔ)平臺(tái)云海，能夠做到千萬(wàn)級(jí)的 IOPS，延遲達(dá)到百微秒以內(nèi)，通過存算分離技術(shù)架構(gòu)，節(jié)省成本超 30%。比如軟硬一體虛擬化引擎京剛，將算力虛擬化損耗降至零，作為數(shù)據(jù)中心級(jí) DPU 引擎，將存儲(chǔ) IOPS、網(wǎng)絡(luò)轉(zhuǎn)發(fā)性能均提升 50%。"

第三，是安全可靠。隨著智能化、信息化、數(shù)字化的推薦，信息安全也變得愈發(fā)重要。保證信息是安全、不被泄露，保證業(yè)務(wù)能夠高質(zhì)量地、連續(xù)地發(fā)展，同樣值得重視。" 京東云在服務(wù)上可以做到 99.995%，在存儲(chǔ)上的可靠性可以做到 12 個(gè) 9，這都是全球頂尖的水平。"

02

統(tǒng)一邏輯的 " 一朵云 "

大模型的如火如荼，為產(chǎn)業(yè)發(fā)展帶來更多可能性，這也是互聯(lián)網(wǎng)大廠、科創(chuàng)公司爭(zhēng)搶布局的根本原因。

而另一個(gè)擺在面前的現(xiàn)實(shí)問題是計(jì)算硬件的性能提升門檻越來越高，AI 算力短缺問題極有可能是一個(gè)長(zhǎng)期存在的問題。

對(duì)于大多數(shù)企業(yè)而言，想要更高效地解決算力瓶頸等問題，為自身數(shù)智化建設(shè)提供更充足、普惠且安全的 AI 算力，或許還有一條更為 " 經(jīng)濟(jì) " 的途徑可走。

這里 " 更經(jīng)濟(jì)的途徑 "，對(duì)應(yīng)的是數(shù)字基礎(chǔ)設(shè)施提供者的 "AI 普惠 " 相互對(duì)應(yīng)，即基于穩(wěn)定的云計(jì)算基礎(chǔ)設(shè)施，將強(qiáng)大的 AI 算力和簡(jiǎn)單上手的技術(shù)工具，輸送到企業(yè)特別是中小企業(yè)手中。

尤其是對(duì)中小企業(yè)來說，可以把這塊成本省下來，把服務(wù)交給京東這類能提供效率高且安全的云的大廠。

格局一打開，選擇就更多了。

從需求匹配的角度來看，在 " 萬(wàn)物皆可上云 " 時(shí)代，混合多云確實(shí)是必要的，也逐漸成為主流趨勢(shì)之一。報(bào)告顯示，有高達(dá) 85% 的企業(yè)使用兩個(gè)或多云平臺(tái)，有 25% 的企業(yè)至少使用五個(gè)云平臺(tái)。

一云獨(dú)放不是春，多云混合春滿園。

從用戶端來說，采用 " 多云 " 架構(gòu)，既可以避免與單一云廠商技術(shù)與業(yè)務(wù)綁定帶來的風(fēng)險(xiǎn)加劇，又可以構(gòu)建更加靈活、性價(jià)比更高、有主導(dǎo)權(quán)的混合云結(jié)構(gòu)，來解決存量、增量?jī)煞矫鎲栴}。

如何通過統(tǒng)一邏輯 " 一朵云 " 實(shí)現(xiàn)更敏捷、更開放、更高性價(jià)比和一致體驗(yàn)的云架構(gòu)，正是混合多云技術(shù)要解決的問題。

而京東云對(duì)此頗有心得。從創(chuàng)立之初起，京東云就支撐著京東大生態(tài)的運(yùn)行，京東各條線業(yè)務(wù)從 " 上云 " 那一刻起，就生長(zhǎng)出一個(gè)混合多云的環(huán)境，這也是一個(gè)天然的超大規(guī)?；旌隙嘣茖?shí)踐場(chǎng)。

按照京東云事業(yè)部副總裁劉辰的介紹，京東的混合多云平臺(tái)是以應(yīng)用為中心的云設(shè)計(jì)范式，與以資源為中心的傳統(tǒng)公有云、專有云平臺(tái)不同，混合多云平臺(tái)讓算力去找應(yīng)用，讓算力去找數(shù)據(jù)，實(shí)現(xiàn)算力按需按時(shí)供給和數(shù)據(jù)流動(dòng)。

簡(jiǎn)言之，就是在落地層面實(shí)現(xiàn)多云、多芯、多活。這也是新一代數(shù)字基礎(chǔ)設(shè)施三大典型特征最重要的體現(xiàn)。

在多云方面，京東通過統(tǒng)一的云抽象層 " 云艦 "，打通分布在公有云、專有云、IDC 和邊緣節(jié)點(diǎn)的物理基礎(chǔ)設(shè)施，打通 Underlay 和 Overlay 網(wǎng)絡(luò)，數(shù)據(jù)和業(yè)務(wù)應(yīng)用，并實(shí)現(xiàn)統(tǒng)一的運(yùn)維運(yùn)營(yíng)和管理體系，從統(tǒng)管到統(tǒng)建。

在多芯方面，除了全面兼容 Intel，AMD，ARM 架構(gòu)的 CPU，和全棧國(guó)產(chǎn)化軟硬件體系基礎(chǔ)上，通過京東集團(tuán)生產(chǎn)級(jí)業(yè)務(wù)的國(guó)產(chǎn)化應(yīng)用落地的打磨，京東云積累了從硬件到操作系統(tǒng)，基礎(chǔ)數(shù)據(jù)庫(kù)和中間件，以及應(yīng)用運(yùn)行時(shí)的全棧調(diào)優(yōu)經(jīng)驗(yàn)，實(shí)現(xiàn)生產(chǎn)級(jí)國(guó)產(chǎn)化可用。

在多活方面，云艦與現(xiàn)在的一云多芯的云架構(gòu)，以單元化技術(shù)，實(shí)現(xiàn)同一個(gè)應(yīng)用跨芯片進(jìn)行多活部署和調(diào)度，一部分流量運(yùn)行在傳統(tǒng) x86 云平臺(tái)，另外一部分流量運(yùn)行在國(guó)產(chǎn)化平臺(tái)，不斷優(yōu)化適配性能，穩(wěn)定性和兼容性，實(shí)現(xiàn)應(yīng)用在國(guó)產(chǎn)化環(huán)境的真替真用。

成本是不容忽視的另一個(gè)重點(diǎn)，京東云給出的解決方案是 " 異構(gòu)算力池化 "。

一方面支持本地的 GPU/NPU 虛擬化，容器化，讓 AI 應(yīng)用無(wú)需修改代碼就可以調(diào)用遠(yuǎn)端的 GPU、NPU 資源，實(shí)現(xiàn)數(shù)據(jù)中心級(jí)別的池化管理和彈性調(diào)度，并與現(xiàn)有云平臺(tái)打通，實(shí)現(xiàn) CPU，GPU 協(xié)同調(diào)度；另一方面，同時(shí)兼容多種 AI 訓(xùn)練框架，并支持多種 AI 推理任務(wù)混合部署。

如此看來，京東云所打造的統(tǒng)一邏輯的 " 一朵云 "，不僅更適用于當(dāng)下企業(yè)數(shù)智化轉(zhuǎn)型的需要，更重要的是，其這種通過精益調(diào)度為企業(yè)降本增效的功效，已成為新一代數(shù)字基礎(chǔ)設(shè)施的一類代表能力。

03

走向產(chǎn)業(yè)是必然

2023 年開年以來，以 BATJ 為代表的互聯(lián)網(wǎng)大廠，以商湯科技、科大訊飛等為代表的科技公司，以及各類初創(chuàng)企業(yè)，紛紛加入大模型領(lǐng)域。京東也宣告將在 7 月 13 日正式發(fā)布自己的大模型，以及京東大模型與產(chǎn)業(yè)場(chǎng)景結(jié)合的最新進(jìn)展。

盡管公眾對(duì)于 AI 的關(guān)注已達(dá)到了一個(gè)新的高度，但從大市場(chǎng)的動(dòng)作來看，大多數(shù)互聯(lián)網(wǎng)企業(yè)、科技企業(yè)等在錘煉大模型時(shí)，大多似乎都是直接對(duì)標(biāo) OpenAI 的 GPT-4，坦白講，鮮有顯著的差異化價(jià)值。

大模型想要 " 研以致用 "，走向產(chǎn)業(yè)已是一種必然。

但在產(chǎn)業(yè)應(yīng)用的過程中，大模型企業(yè)可能要思考的是：一來，技術(shù)快速溢出，但算力基礎(chǔ)設(shè)施難以同步跟進(jìn)，如何解決越來越大的算力供需的 " 剪刀差 "；二來，千行百業(yè)的落地條件和能力稟賦各有所不同，如何結(jié)合行業(yè)周期、行業(yè)痛點(diǎn)、個(gè)體特征等提供服務(wù)方案。

這就要求數(shù)字基礎(chǔ)設(shè)施服務(wù)商，必須擁有豐富的服務(wù)實(shí)體產(chǎn)業(yè)經(jīng)驗(yàn)，可以及時(shí)洞察產(chǎn)業(yè)客戶的需求，并基于此進(jìn)行技術(shù)和產(chǎn)品的更新迭代，讓每一個(gè)技術(shù)創(chuàng)新都能切實(shí)解決真實(shí)場(chǎng)景下各類用戶最在意的真問題。

這就是京東云不斷聚焦于 " 產(chǎn)業(yè) " 方向的關(guān)鍵所在。就實(shí)踐這一層，京東云已通過 " 服務(wù)練兵 "，驗(yàn)證了產(chǎn)業(yè)大模型真正走向應(yīng)用的可能與商業(yè)價(jià)值。

將京東云在生態(tài)內(nèi)的極限考驗(yàn)平移至大市場(chǎng)，在對(duì)外部企業(yè)提供數(shù)字服務(wù)支持時(shí)，京東云同樣顯得格外游刃有余。

這不得不提到京東云在 2022 年與央視春晚的紅包合作。在沒有額外增加一臺(tái)服務(wù)器的基礎(chǔ)上，京東云騰挪調(diào)度現(xiàn)有資源，包括遍布全國(guó)的 70 多座數(shù)據(jù)中心、近 300 萬(wàn)個(gè)容器、超 1000 萬(wàn)核算力資源，通過 16 次秒級(jí)精準(zhǔn)調(diào)度資源，支持了那場(chǎng)超大流量洪峰的全球節(jié)目。

此外，國(guó)家電投、中化能源、蘇州農(nóng)商行等重量企業(yè)都進(jìn)入了京東云的 " 朋友圈 "。這些客戶基礎(chǔ)資源龐大，管理復(fù)雜，遷移困難，業(yè)務(wù)龐雜，而京東云在他們?cè)性瀑Y源環(huán)境的基礎(chǔ)上，完成混合多云部署，為各業(yè)務(wù)部門之間跨系統(tǒng)、跨業(yè)務(wù)單元提供一體化協(xié)同管控。

截至目前，京東云已服務(wù)了超 95% 的大型央企、2048 家大型企業(yè)、914 家金融機(jī)構(gòu)和超 207 萬(wàn)家中小微企業(yè)。

"對(duì)京東來說，技術(shù)永遠(yuǎn)只是手段，而不是目的，我們發(fā)展大模型，最終還是希望將產(chǎn)業(yè)實(shí)踐中凝聚出的數(shù)字化能力，開放出來服務(wù)社會(huì)，不斷提升產(chǎn)業(yè)效率。" 曹鵬如是說。

曾幾何時(shí)，人們認(rèn)為做大模型像是一場(chǎng)短跑比賽，拼的是眼力和速度，只要看得準(zhǔn)時(shí)機(jī)、提前入局、快速投入，就能狂飆突進(jìn)甚至成功沖刺。

現(xiàn)實(shí)情況已讓各方愈發(fā)深刻地意識(shí)到，大模型走入千行百業(yè)，實(shí)際是一場(chǎng)跨欄比賽，要跨過：算力資源的性價(jià)、基礎(chǔ)模型的選擇、業(yè)務(wù)場(chǎng)景的結(jié)合、開發(fā)工具的完備、商業(yè)模式的摸索、生態(tài)資源的支持等。

只有這樣，才有可能更好地面對(duì)大模型時(shí)代的到來。（完）