在臨近今年雙十一還有兩個(gè)周的時(shí)間點(diǎn)，京東團(tuán)隊(duì)從技術(shù)角度，詳解了如何打好618、準(zhǔn)備雙十一的攻堅(jiān)戰(zhàn)。

技術(shù)加持大促

京東商城首席架構(gòu)師劉海峰表示，每年的“大促”，不屬于研發(fā)系統(tǒng)，不用設(shè)計(jì)或重新開發(fā)，更多的是一種保障性工作，確保系統(tǒng)安全性。他將“大促”具體分為四個(gè)方面——故障、流量、擴(kuò)展、成本。

第一，讓京東技術(shù)系統(tǒng)能夠“容忍”故障，即在硬件、軟件、人為、機(jī)器、服務(wù)等方面發(fā)生故障的時(shí)候，系統(tǒng)仍能夠保證比較高的可用性，支持線上服務(wù)。

劉海峰表示，為了檢驗(yàn)技術(shù)系統(tǒng)的容錯(cuò)能力，確保系統(tǒng)在硬件與服務(wù)出問題時(shí)不影響用戶體驗(yàn)，京東研發(fā)團(tuán)隊(duì)開發(fā)出一套名叫ChaosMonkey的系統(tǒng)，專門應(yīng)用于京東做大規(guī)模的故障演練?？梢哉f，故障演練是京東過去幾年大促中的例行工作。

根據(jù)故障類型從網(wǎng)絡(luò)層面、系統(tǒng)層面、數(shù)據(jù)庫和中間件，甚至到應(yīng)用服務(wù)的層面，去做各種各樣的故障模擬和驗(yàn)證，以確保出現(xiàn)任何問題，應(yīng)用都能夠高可用地運(yùn)行。同時(shí)，京東APP與前端PC頁面均能夠?qū)崿F(xiàn)優(yōu)雅降級(jí)，不至于出空白。跟過去幾年里我們大促的例行工作就是故障演練。

第二，所謂流量，即是確保有較強(qiáng)的技術(shù)能力能夠扛住大促峰值十幾秒的巨量流量沖擊。

每年雙11與618當(dāng)夜零點(diǎn)，流量是最大的，為了應(yīng)對(duì)此間流量高潮，京東技術(shù)團(tuán)隊(duì)需要提前做很多壓測(cè)工作。最早期，京東技術(shù)團(tuán)隊(duì)采用單體壓測(cè)，比如專門負(fù)責(zé)購物車的團(tuán)隊(duì)，就用一些腳本或工具來壓購物車線上服務(wù)，以達(dá)到壓測(cè)目的。

三年前，京東技術(shù)團(tuán)隊(duì)開始實(shí)施憋單壓測(cè)——訂單在某一點(diǎn)憋住，然后再釋放。憋單的壓測(cè)可以有效監(jiān)測(cè)訂單后的系統(tǒng)環(huán)境，模擬訂單后的OFC以及庫發(fā)生產(chǎn)系統(tǒng)的瓶頸。

但是，劉海峰表示，憋單壓測(cè)有個(gè)缺陷，它不能很好地檢驗(yàn)到訂單之前的系統(tǒng)，尤其是黃金鏈路、瀏覽購物車下單支付等，這些對(duì)大促來講都是最關(guān)鍵的。

2016年10月左右，京東集團(tuán)團(tuán)隊(duì)開始設(shè)計(jì)一個(gè)新一套的系統(tǒng)經(jīng)驗(yàn)壓測(cè)機(jī)器人，模擬一千萬個(gè)用戶在全國(guó)各地同時(shí)部署于京東節(jié)點(diǎn)，在真實(shí)流量的情況下，通過寫程序模擬人的行為——瀏覽、選商品、加購物車、提交。

于是，從2016年雙11開始，單機(jī)房的軍演壓測(cè)成為大促之前最關(guān)鍵的工作。劉海峰表示，今年618備戰(zhàn)期間，團(tuán)隊(duì)進(jìn)行了四次全鏈路的軍演壓測(cè)，通過單機(jī)房的軍演壓測(cè)成為系統(tǒng)優(yōu)化以及資源評(píng)估、分配的重要依據(jù)。

第三，所謂擴(kuò)展，即在公司規(guī)模不斷擴(kuò)展、消費(fèi)者流量不斷增加的情況下，增加機(jī)器、新建機(jī)房，同時(shí)保證公司業(yè)務(wù)實(shí)現(xiàn)沒有上限地增長(zhǎng)下去。

京東的技術(shù)架構(gòu)經(jīng)歷了從JAVA到同城單機(jī)房到同城雙機(jī)房、最后到廣域分布式的過程。國(guó)內(nèi)的各個(gè)地域，包括華北、華南、華東均有不同的IDC，整體形成大數(shù)據(jù)中心，同時(shí)讓用戶流量就近接入，解決整體可擴(kuò)展性問題，無論哪個(gè)區(qū)域出現(xiàn)問題，都能實(shí)現(xiàn)靈活流量調(diào)度。劉海峰表示，這套過程名叫“異地多活”，不同公司、團(tuán)隊(duì)對(duì)它均有不同理解，京東的特殊性在于經(jīng)歷了完整的歷程。

第四，有效控制成本，在合理閾值內(nèi)搞大促。

隨著每年618與雙11業(yè)務(wù)增加、訪問流量增大、投入資源增加，購入的機(jī)器越來越多，機(jī)器成本已然非常高，怎樣既做好大促、同時(shí)合理控制成本，京東技術(shù)團(tuán)隊(duì)提出名為“阿基米德”的技術(shù)方法，具體來講是——

第一，做海量資源池的統(tǒng)一調(diào)度，特別是在線業(yè)務(wù)是京東主要大促的備戰(zhàn)服務(wù)，此外還有離線處理。技術(shù)團(tuán)隊(duì)將兩個(gè)資源池打通，做搶占式調(diào)度，然后做大規(guī)模超賣，進(jìn)一步提升資源利用率。

第二，做混合云，京東技術(shù)團(tuán)隊(duì)在大促期間租用一部分機(jī)器，比如京東云，也有可能是其他云服務(wù)合作伙伴，扛住大促流量。

AI的融入

在京東商城中臺(tái)研發(fā)高級(jí)總監(jiān)王曉鐘印象中，AI技術(shù)融入到京東每年618與雙11，并不是發(fā)生在某個(gè)具體節(jié)點(diǎn)，而是一種自發(fā)性的、百花齊放狀的。包括客服機(jī)器人、智能補(bǔ)貨、銷量預(yù)測(cè)、供應(yīng)鏈體系的優(yōu)化這些都是通過人工智能的技術(shù)來實(shí)現(xiàn)的。

具體來講，AI技術(shù)對(duì)大促的技術(shù)保障有哪些方面呢，王曉忠從兩點(diǎn)向雷鋒網(wǎng)介紹：

第一個(gè)，京東技術(shù)團(tuán)隊(duì)研發(fā)經(jīng)驗(yàn)機(jī)器人，進(jìn)行全鏈路故障演練，某種程度上來說也是程序模擬人的行為，去模擬一個(gè)大的流量場(chǎng)景。

第二，大促期間，京東技術(shù)團(tuán)隊(duì)利用AI技術(shù)去更智能地服務(wù)一些客服任務(wù)。

今年京東雙十一較以往最大的不同，可以說就是AI技術(shù)的運(yùn)用了。王曉忠對(duì)雷鋒網(wǎng)解釋稱，以線上流量監(jiān)控為例，做方案、降級(jí)、分流等任務(wù)，均是人工完成，今年已實(shí)現(xiàn)在監(jiān)控?cái)?shù)據(jù)詳實(shí)基礎(chǔ)上的半人工智能化，王曉忠稱，預(yù)計(jì)明年618與雙十一可以實(shí)現(xiàn)在很大程度上的全人工智能化。

容器系統(tǒng)上，京東做了四年之久：2014年8月第一代名為JDOS的容器平臺(tái)，最初定位不僅僅做容器，還做整個(gè)數(shù)據(jù)中心的OS，系一套大的集群管理系統(tǒng)。從2014年至2016年初，京東容器一直都是OPenStack的1.0系統(tǒng)；從2016年初開始，啟動(dòng)OPenStack 2.0系統(tǒng)，將線上幾十萬核實(shí)現(xiàn)異地遷移，以實(shí)現(xiàn)更簡(jiǎn)單的運(yùn)維。

其次，劉海峰表示，團(tuán)隊(duì)在做更統(tǒng)一、更動(dòng)態(tài)的資源調(diào)度，不再是固定多少核，而是根據(jù)負(fù)載做大規(guī)模的統(tǒng)一調(diào)整。這個(gè)資源池不不僅限于在心業(yè)務(wù)的資源池，還有離線業(yè)務(wù)的資源池，讓它更有彈性。

具體而言，從經(jīng)濟(jì)效應(yīng)來說，如果想讓集群管理更有經(jīng)濟(jì)價(jià)值，無非是兩方面的工作——超賣與強(qiáng)行調(diào)度。劉海峰表示，從2011年到現(xiàn)在，通過超賣技術(shù)節(jié)省了幾千臺(tái)機(jī)器。今年大促京東也會(huì)廣泛地使用在線和離線的混合調(diào)度的方式，緩解大促時(shí)候的峰值的流量。

對(duì)于今年備戰(zhàn)雙十一，包括阿里、京東、蘇寧等電商平臺(tái)紛紛加碼人工智能、無人機(jī)、無人店等宣傳曝光，王曉鐘對(duì)雷鋒網(wǎng)表示，人工智能是在備戰(zhàn)中很重要的賣點(diǎn)，同時(shí)更是看得見、摸得著的很實(shí)在的東西。