標簽:服務(wù)器,云計算,數(shù)據(jù)中心,
在過去二十年中,行業(yè)標準服務(wù)器設(shè)計取得了重大進展,從1993年推出首款機架式服務(wù)器開始。從那時起,半導(dǎo)體制造和微處理器架構(gòu)的技術(shù)進步推動了服務(wù)器設(shè)計的邊界,該行業(yè)多年來一直推動性能,功率效率和成本節(jié)省的持續(xù)改進。按摩爾定律推動,這一進步速度已經(jīng)成為企業(yè)信息技術(shù)從2000年代初開始增長和近年來公有云崛起的基石之一。
未來,隨著行業(yè)加速從企業(yè)向云計算的轉(zhuǎn)變,正在使用全球規(guī)模的公有云服務(wù)來構(gòu)建新的解決方案,為客戶提供全新的產(chǎn)品體驗。提供這種全球規(guī)模服務(wù)的數(shù)據(jù)中心基礎(chǔ)設(shè)施也在快速發(fā)展,硬件技術(shù)的相應(yīng)創(chuàng)新水平不同于之前在行業(yè)中所見到的。在公有云的快速增長和擴展工作負載的推動下,我們現(xiàn)在處于計算架構(gòu)革命的臨界點,這將徹底重新定義“服務(wù)器”的經(jīng)典概念。
新的超高速工作負載的出現(xiàn)
公有云現(xiàn)在在三個主要方面發(fā)展:企業(yè)工作負載到云遷移的基礎(chǔ)架構(gòu)即服務(wù)(IaaS),用于構(gòu)建云本機應(yīng)用程序的平臺即服務(wù)(PaaS)專為全球規(guī)模的容錯而設(shè)計,以及軟件即服務(wù)(SaaS),可提供全面的交鑰匙解決方案的云產(chǎn)品。云計算的初始需求主要由IaaS驅(qū)動,但最近PaaS和SaaS正在成為破壞性創(chuàng)新的關(guān)鍵點,以便在各種市場垂直領(lǐng)域使用這些服務(wù)。如用于圖像,視頻和語音處理的機器學(xué)習(xí)算法的認知服務(wù),用于諸如噴氣發(fā)動機和連接汽車的商業(yè)場景的物聯(lián)網(wǎng)(IoT)服務(wù)。
新興的云服務(wù)與傳統(tǒng)的“遺留”IaaS應(yīng)用程序在如何利用底層硬件資源方面截然不同。這些高度并行的工作負載在數(shù)據(jù)中心的數(shù)百臺(有時甚至數(shù)千臺)機器上運行,需要大量的網(wǎng)絡(luò)帶寬和計算資源。其中一些工作負載流量大量實時數(shù)據(jù),需要在存儲之前立即執(zhí)行。大多數(shù)這些工作負載可以完全在服務(wù)器的輸入/輸出(I/O)中運行,并且在很多情況下操作不能很好地映射到當前微處理器設(shè)計的架構(gòu)。這些數(shù)據(jù)中心工作負載的另一個屬性是在大規(guī)模服務(wù)器與服務(wù)器間通信(也稱為數(shù)據(jù)中心開銷)時,對于所有數(shù)據(jù)傳輸和閑置數(shù)據(jù)進行集中操作(如壓縮和加密)所產(chǎn)生的處理開銷。
這些下一代云工作負載正在推動對有效地托管這種分布式橫向擴展應(yīng)用程序所需的計算架構(gòu)和硬件架構(gòu)的全面重新思考。
超越經(jīng)典的馮諾依曼瓶頸
設(shè)計高性能硬件來承載這種超高速服務(wù)需要重新評估底層計算架構(gòu)的基本原理。當前的服務(wù)器系統(tǒng)基于馮諾依曼(Von Neumann架構(gòu)起源于1945年),并且由連接到服務(wù)器的計算,內(nèi)存和輸入/輸出(I/O)設(shè)備之間的明顯分隔來定義(見圖1)
▲
在這樣的機器中,馮諾依曼瓶頸被定義為由計算發(fā)生在哪里和存儲數(shù)據(jù)的“chokepoint”產(chǎn)生的對性能的限制。
▲
迄今為止,硬件行業(yè)已經(jīng)使用諸如更大的微處理器高速緩存,多線程,多核和3D封裝等技術(shù)解決了這個瓶頸。但瓶頸依然存在,并導(dǎo)致摩爾定律對晶體管的收益效率低下。最終的結(jié)果是,目前的服務(wù)器設(shè)計無法使用過去運行良好的“一刀切”的方法有效地執(zhí)行全面的云計算工作負載。這對數(shù)據(jù)中心基礎(chǔ)設(shè)施的總體擁有成本(TCO)有重要的影響,業(yè)界勢必要將計算范式和相關(guān)的硬件設(shè)計發(fā)展到超越當今馮?諾依曼(Von Neumann)架構(gòu)的局限。
前方的路
為了滿足這些新的計算挑戰(zhàn),硬件行業(yè)正在響應(yīng)各種各樣的架構(gòu)選擇,每個都針對特定Hyperscale工作負載的高性能執(zhí)行進行調(diào)整。一些示例是用于加速計算和網(wǎng)絡(luò)處理的FPGA,用于機器學(xué)習(xí)的GPU和數(shù)據(jù)流引擎,用于高吞吐量模式處理的內(nèi)存處理設(shè)計和用于人工智能的神經(jīng)元計算。雖然沒有一個單一的“銀彈”體系結(jié)構(gòu)可以很好地映射到所有的工作負載,但是觀察到的趨勢是經(jīng)典的馮·諾依曼(Von Neumann)架構(gòu)與其他計算架構(gòu)的創(chuàng)新融合。
這是引領(lǐng)行業(yè)步入破壞性創(chuàng)新和大規(guī)模實驗的新時代。創(chuàng)業(yè)公司正在獲得資助,以探索具有定制芯片設(shè)計的系統(tǒng)的突破性想法,硅供應(yīng)商正在大力投資來解決這些新工作負載并擴大其產(chǎn)品路線圖,而大型云服務(wù)提供商(CSV)正在部署這樣的混合計算架構(gòu),以提供全新的云服務(wù),同時提高運營利潤。這樣的趨勢已經(jīng)導(dǎo)致很多的兼并和收購,因為現(xiàn)有的玩家需要保持領(lǐng)先并保護其細分市場。隨著這種趨勢的進展,“服務(wù)器”的經(jīng)典概念被重新定義為以前難以想象的方式。
在過去二十年中,服務(wù)器行業(yè)已經(jīng)取得了可預(yù)測的節(jié)奏,隨著摩爾法律的增長而逐漸改善。隨著基于新興Hyperscale服務(wù)的云計算和垂直解決方案的增長,未來幾年將見證從傳統(tǒng)服務(wù)器設(shè)計到針對大規(guī)模計算優(yōu)化的創(chuàng)新型新架構(gòu)范式的根本性變化。預(yù)計這種趨勢將進一步加速公有云服務(wù)的采用,因為只有大型CSV才能擁有規(guī)模和能力來維持有效設(shè)計和提供下一代數(shù)據(jù)中心基礎(chǔ)架構(gòu)所需的大量研發(fā)投入。我們正處于計算架構(gòu)革命的邊緣,我們現(xiàn)在所知道的“服務(wù)器”將不再存在于這個新興的超級服務(wù)領(lǐng)域。
作者:微軟Azure硬件基礎(chǔ)架構(gòu)總經(jīng)理Kushagra Vaid
|