硬件創(chuàng)新有沒有經(jīng)驗可循？從亞馬遜云科技服務(wù)全球百萬用戶的最佳實踐來看，硬件創(chuàng)新經(jīng)驗沒有壓縮算法，只有從用戶中來到用戶中去。

作為特別接地氣的技術(shù)實用主義公司，亞馬遜云科技在云計算方面的創(chuàng)新一直沒有停止，而創(chuàng)新的動力源泉就是客戶的需求，其 90% 以上的創(chuàng)新都來自于客戶的需求反饋，剩下 10% 是和用戶交流過程中亞馬遜云科技自己的思考。在今年的亞馬遜云科技 re:Invent 全球大會主題演講上，亞馬遜云科技 CEO Adam Selipsky 表示： “16 年來，亞馬遜云科技一直在優(yōu)化和創(chuàng)新計算、存儲和網(wǎng)絡(luò)基礎(chǔ)設(shè)施服務(wù)，以支持您的所有工作負(fù)載。目前亞馬遜云科技已有 600 多種不同的計算實例類型，因此您可以找到適合您的所有應(yīng)用需求的正確資源組合。”

“從客戶中來，到客戶中去”不只是一句簡單的口號，而是亞馬遜云科技的持續(xù)積累和創(chuàng)新實踐。通過硬件創(chuàng)新，不斷擴展云計算的邊界，用更豐富的云計算服務(wù)，賦能客戶的上云業(yè)務(wù)場景。亞馬遜云科技為所有客戶業(yè)務(wù)負(fù)載，提供全方位的計算能力支持。

服務(wù)全球百萬用戶，依靠亞馬遜云科技全球布局的“下一代云基礎(chǔ)架構(gòu)”，將技術(shù)積累和技術(shù)創(chuàng)新不斷轉(zhuǎn)化為云計算底層能力，賦能全球客戶。所以，亞馬遜云科技在硬件上的創(chuàng)新，才更受萬眾矚目。

加速硬件創(chuàng)新，滿足客戶多樣性需求

目前亞馬遜云科技已經(jīng)在 Nitro 系統(tǒng)的加持下，有超過 600 款計算實例，幾乎可以滿足一切云上負(fù)載的需求。如今每天有超過 6000 萬個新的 EC2 實例在亞馬遜云科技上被創(chuàng)建。

自 2013 年推出 Amazon Nitro 系統(tǒng)以來，亞馬遜云科技已經(jīng)開發(fā)了多個自研芯片，包括五代 Nitro 系統(tǒng)、致力于為各種工作負(fù)載提升性能和優(yōu)化成本的三代 Amazon Graviton 芯片、用于加速機器學(xué)習(xí)推理的兩代 Amazon Inferentia 芯片，以及用于加速機器學(xué)習(xí)訓(xùn)練的 Amazon Trainium 芯片。

亞馬遜云科技在芯片設(shè)計和驗證的敏捷開發(fā)周期中使用基于云的電子設(shè)計自動化，這使團隊能夠更快地創(chuàng)新，更快地將芯片提供給客戶。實踐證明，亞馬遜云科技更現(xiàn)代化、更節(jié)能的半導(dǎo)體處理確保了芯片的快速迭代及交付。每推出一款新的芯片，亞馬遜云科技都進一步提升了這些芯片支持的 Amazon EC2 實例的性能、效率以及更優(yōu)化的成本，為客戶提供了更多的芯片和實例組合選擇，針對他們獨特的工作負(fù)載進行了優(yōu)化。

2022 年 11 月 30 日，亞馬遜云科技在 2022 re:Invent 全球大會上宣布，推出新的自研芯片支持的 Amazon Elastic Compute Cloud（Amazon EC2）實例，為客戶廣泛的工作負(fù)載提供更高性價比。

高性能計算方面，硬件產(chǎn)品持續(xù)升級

亞馬遜云科技在大會上推出了 Amazon EC2 Hpc7g 實例，采用最新款的 Amazon Graviton3E 處理器，為高性能計算工作負(fù)載提供極佳的性價比。新的 HPC7g 實例類型具有 最多 64 個 vCPU 和 128 GB 內(nèi)存，主要適用于天氣預(yù)報、生命科學(xué)、工程計算等高性能計算場景。與當(dāng)前一代 C6gn 實例相比浮點性能提高了 2 倍，與當(dāng)前一代 Hpc6a 實例相比性能提高了 20%，為亞馬遜云科技上的高性能計算工作負(fù)載提供了超高性價比。

此次發(fā)布的 Amazon EC2 C7gn 由 Amazon Graviton3E 處理器提供支持。配備了新一代 Amazon Nitro的 C7gn 實例，具有增強的網(wǎng)絡(luò)處理能力，是目前 Amazon EC2 網(wǎng)絡(luò)優(yōu)化型實例中，提供最高網(wǎng)絡(luò)帶寬和數(shù)據(jù)包轉(zhuǎn)發(fā)性能的實例。新推出的 C7gn 實例相比于 C7g，為網(wǎng)絡(luò)密集型工作負(fù)載而設(shè)計，如數(shù)據(jù)分析、集群計算作業(yè)場景，以及網(wǎng)絡(luò)虛擬設(shè)備等，將支持 200 Gbps 的網(wǎng)絡(luò)帶寬，提高 50% 的數(shù)據(jù)包處理性能。

機器學(xué)習(xí)，實例創(chuàng)新從未停止

在機器學(xué)習(xí)方面，此次也有不少實例創(chuàng)新。在 re:Invent 2021 中，Amazon EC2 P4de instance 全新升級，客戶可以將它們部署在大的集群中進行機器學(xué)習(xí)訓(xùn)練。此次發(fā)布了Amazon EC2 Inf2實例，采用最新款的Amazon Inferentia2 機器學(xué)習(xí)加速推理芯片，是專門為運行多達(dá) 1,750 億個參數(shù)的大型深度學(xué)習(xí)模型而構(gòu)建的，與當(dāng)前一代 Inf1 實例相比可提供高達(dá) 4 倍的吞吐量，降低多達(dá) 10 倍的延遲。

同時，亞馬遜云科技還發(fā)布了專門用于訓(xùn)練機器學(xué)習(xí)模型的定制芯片 Amazon Trainium，并于 2021 年發(fā)布了對應(yīng)的 Trn1 實例。Amazon Trainium 支持 TensorFlow、 PyTorch 和 MXNet。Trn1 實例支持最多 16 顆 Trainium 加速芯片。在 Trn1 上運行 Hugging Face BERT 大模型，其性能對比 GPU 實例有 42% 的提升，成本則降低了 54%。Trn1 第一次把實例的網(wǎng)絡(luò)帶寬提高到了 800GB。在 2022 re:Invent上，面向新的 AI 訓(xùn)練需求，亞馬遜云科技推出了基于 Trainium 的 Trn1n 訓(xùn)練芯片，針對網(wǎng)絡(luò)通信進行優(yōu)化，增加了 1600Gbps EFA 網(wǎng)絡(luò)功能，使其能夠更快地處理超大規(guī)模分布式模型訓(xùn)練場景。

基于 Intel 芯片，加速優(yōu)化升級

面對高性能計算場景，亞馬遜云科技還基于英特爾芯片做了持續(xù)創(chuàng)新，推出 Amazon EC2 R7iz 的預(yù)覽版，該實例采用第四代英特爾至強可擴展處理器，更好地實現(xiàn)內(nèi)存優(yōu)化。第四代至強處理器為 EC2?R7iz 實例提供最大 3.9GHz 的全核睿頻頻率，與其他高頻率 EC2 實例相比，該實例的性能提高 20%。R7iz 實例基于第四代英特爾可擴展處理器和 Amazon?Nitro 系統(tǒng)，提供包含專用硬件和輕量級虛擬機管理軟件的結(jié)合，在性能和安全性上有顯著提高。

以 HPC 客戶的需求為例，亞馬遜云科技正式發(fā)布了用于高性能計算（HPC）的新亞馬遜彈性計算云 Amazon EC2 Hpc6id instance，基于 Amazon Nitro 系統(tǒng)構(gòu)建的 EC2 Hpc6id 實例提供 200Gbps 彈性結(jié)構(gòu)適配器網(wǎng)絡(luò)，用于高吞吐量節(jié)點間通信，使客戶 HPC 工作負(fù)載能夠大規(guī)模運行，實現(xiàn)成本優(yōu)化。Adam表示：“Hpc6id 實例旨在為數(shù)據(jù)、內(nèi)存密集型 HPC 工作負(fù)載、更高的內(nèi)存帶寬、更快的本地 SSD 存儲和彈性結(jié)構(gòu)適配器增強的網(wǎng)絡(luò)提供領(lǐng)先的性價比。使用 EC2 Hpc6id 實例，可以降低 HPC 工作負(fù)載的成本，同時利用亞馬遜云科技的彈性和可擴展性。”

亞馬遜云科技 Amazon EC2 副總裁 David Brown 表示：“從 Graviton 到Trainium、Inferentia 再到 Nitro，亞馬遜云科技每一代自研芯片都為客戶的各種工作負(fù)載提供更高的性能、更優(yōu)化的成本和更高的能效。我們不斷推陳出新讓客戶獲得卓越的性價比，這也一直驅(qū)動著我們的持續(xù)創(chuàng)新。我們今天推出的 Amazon EC2 實例為高性能計算、網(wǎng)絡(luò)密集型工作負(fù)載和機器學(xué)習(xí)推理工作負(fù)載提供了顯著的性能提升，客戶有了更多的實例選擇來滿足他們的特定需求。”

Graviton 全球和中國最佳實踐

現(xiàn)在，亞馬遜云科技已經(jīng)在全球百萬用戶的基礎(chǔ)上，汲取了千行百業(yè)的客戶需求和最佳實踐，每一個實例背后都有一個客戶應(yīng)用場景。

Mobiuspace 大宇無限是一家提供先進的基于 AI 的內(nèi)容發(fā)現(xiàn)和娛樂平臺 公司。最近，Mobiuspace 在新的基于 Amazon Graviton2 的 Amazon EC2 M6g 實例上，測試了其基于 Java 的容器化后端服務(wù)，與 M5 實例相比，性能提高了 40%。由于這種性能改進和 Amazon EC2 M6g 實例價格降低 20%，Mobiuspace 公司期待著采用它們。

Epic Games 成立于 1991 年，締造了《堡壘之夜》、《虛幻》、《戰(zhàn)爭機器》、《暗影情結(jié)》和《無盡之劍》等系列游戲。Epic 的虛幻引擎技術(shù)為 PC、游戲機、移動設(shè)備、AR、VR 和 Web 提供高保真的交互體驗。“展望未來，我們期待為玩家打造更加身臨其境、引人入勝的體驗，并且很高興能夠使用基于 Amazon Graviton3 的 EC2 C7g 實例。我們的測試表明，它們甚至適用于最苛刻的延遲敏感型工作負(fù)載，同時能提供顯著的性價比優(yōu)勢，并擴展了《堡壘之夜》內(nèi)的可能性和任何虛幻引擎營造的體驗。” Mark Imbriaco，Epic Games 高級工程總監(jiān)說到。

Formula1(F1)賽車始于 1950 年，是世界上最負(fù)盛名的賽車比賽，也是世界上最受歡迎的年度體育系列。“基于 Graviton2 的 C6gn 實例為我們的一些 CFD 工作負(fù)載提供了最佳性價比。我們現(xiàn)在發(fā)現(xiàn)，在相同的模擬中，Graviton3 C7g 實例比 Graviton2 C6gn 實例快 40%。我們很高興 EFA 將成為此實例類型的標(biāo)準(zhǔn)，并鑒于性價比的大幅提升，我們預(yù)計基于 Graviton3 的實例將成為運行我們所有 CFD 工作負(fù)載的最佳選擇。”PatSymonds，F(xiàn)ormula1Management 的首席技術(shù)官說道。

開啟增長飛輪，引發(fā)更多云計算思考

從 2006 年起，亞馬遜云科技宣布降價 115 次。表面的是價格的降低，但更多的是亞馬遜云科技將規(guī)模與技術(shù)的紅利反饋給客戶。這是亞馬遜云科技無法模仿的增長飛輪，而跟隨者的飛輪需要額外推力才能保持運轉(zhuǎn)。

亞馬遜云科技從不在高性能、高安全性和低成本這三方面進行妥協(xié)，在選擇悖論中，亞馬遜云科技給出的答案是：通過自身技術(shù)的不斷演進和創(chuàng)新，讓云計算可以兼顧高性能、高安全性和低成本。

作為全球排名第一的云計算平臺，亞馬遜云科技通過支持豐富的客戶應(yīng)用場景的經(jīng)驗反饋，更推進了亞馬遜云科技的芯片創(chuàng)新之路，這是無法比擬的，同時資源的投入，及用戶規(guī)模的增長，亞馬遜云科技的云計算之路已越走越快，越走越寬。