物聯(lián)傳媒 旗下網(wǎng)站
登錄 注冊

揭秘英特爾第三代至強處理器中的“黑科技”

作者:智東西
日期:2020-07-31 09:37:48
摘要:隨著企業(yè)開拓多樣化的業(yè)務線、面對不同的工作負載,企業(yè)通常需要購買和管理多種類型的服務器,這在客觀上增加了企業(yè)的總體擁有成本。

近日,英特爾市場營銷與傳播集團副總裁、中國區(qū)數(shù)據(jù)中心銷售經(jīng)理陳葆立與智東西等媒體分享了英特爾第三代至強可擴展處理器Cooper Lake、新一代英特爾傲騰持久內(nèi)存200系列的產(chǎn)品技術(shù)性能細節(jié)。

6月中旬,英特爾推出一系列面向AI和分析的戰(zhàn)略及最新產(chǎn)品組合。其中,第三代至強處理器和傲騰200系列產(chǎn)品是英特爾面向數(shù)據(jù)中心業(yè)務推出的新品。

一、第三代至強處理器:最多支持8插槽,集成多種“黑科技”

第三代至強可擴展處理器專為植入AI的數(shù)據(jù)密集型服務而設計,有Cooper Lake和Ice Lake兩個系列產(chǎn)品。

Cooper Lake處理器支持4~8個處理器插槽,是當前唯一最多可提供8插槽可擴展性的x86平臺。Ice Lake處理器支持1~2個處理器插槽。

在運行圖像分類處理任務時,相比上一代產(chǎn)品Cascade Lake,Cooper Lake的計算性能可提高1.93倍。

Cooper Lake處理器采用最新一代傲騰200系列持久內(nèi)存,并集成英特爾DL Boost深度學習加速、英特爾Speed Select技術(shù)等多種“黑科技”。

在DL-Boost深度學習加速方面,第三代至強可擴展處理器采用VNNI指令集,可支持bfloat16數(shù)據(jù)格式,實現(xiàn)計算效率與精度的結(jié)合。

英特爾技術(shù)人員稱,bfloat16數(shù)據(jù)格式是在FP32數(shù)據(jù)格式和INT8數(shù)據(jù)格式之間取的折衷,能兼顧保存的數(shù)據(jù)范圍和精度,非常適合訓練以吞吐量和精度為關(guān)鍵指標的工作負載。

FP32數(shù)據(jù)格式即每個數(shù)據(jù)用32比特來存儲,其中有8位保存的是指數(shù)、有23位是尾數(shù)、還有1位是符號位,可以保存較多圖片細節(jié)。INT8數(shù)據(jù)格式指每個數(shù)據(jù)用8比特來存儲,這當中有7位是尾數(shù)、有一位是符號位,保存的圖片細節(jié)較少。

相比之下,bfloat16數(shù)據(jù)格式用16比特來儲存每個數(shù)據(jù),其中8位存放指數(shù)、7位存放尾數(shù)、1位是符號位。

根據(jù)英特爾官方數(shù)據(jù),相較于采用FP32數(shù)據(jù)格式,采用bfloat16的第三代至強可擴展處理器能將訓練性能提高93%、推理性能提高90%。

隨著企業(yè)開拓多樣化的業(yè)務線、面對不同的工作負載,企業(yè)通常需要購買和管理多種類型的服務器,這在客觀上增加了企業(yè)的總體擁有成本。

為解決這一問題,Cooper Lake處理器集成了SST(Speed Select Technology)技術(shù)。SST技術(shù)是一種功能集合,可通過提供對CPU性能的更多控制,來提高性能和優(yōu)化總體擁有成本。

在四路和八路平臺上使用第三代英特爾至強可擴展處理器能實現(xiàn)虛擬機密度擴展,可提供高達224個單位節(jié)點內(nèi)核數(shù)、高達2.2倍的5年更新性能改進,有助于降低每內(nèi)核每小時的成本。

二、傲騰200系列持久內(nèi)存:解內(nèi)存容量、成本、時延痛點

存儲產(chǎn)品方面,英特爾6月份推出傲騰200系列持久內(nèi)存產(chǎn)品。

與上一代產(chǎn)品傲騰100系列相比,傲騰200系列實現(xiàn)了25%的內(nèi)存帶寬提升。在數(shù)據(jù)寫入方面,與主流NAND SSD相比,傲騰200系列內(nèi)存能帶來225倍的性能提升。

英特爾第三代至強可擴展處理器Cooper Lake搭載了傲騰200系列內(nèi)存,其內(nèi)存容量可達到4.5TB。

運作模式方面,傲騰200系列內(nèi)存提供“App Direct”和“Memory”兩種運作模式。

平臺/操作系統(tǒng)/App對高速、大容量內(nèi)存的訪問適用“Memory”模式。如果希望數(shù)據(jù)在內(nèi)存中得到保留,則可應用“App Direct”模式。

通過靈活應用上述兩種運行模式,傲騰200系列持久內(nèi)存可滿足使用者對內(nèi)存容量、價格、工作負載性能的不同需求。

結(jié)語:英特爾數(shù)據(jù)中心產(chǎn)品持續(xù)發(fā)力AI

第三代至強處理器專為深度學習、虛擬機(VM)密度、內(nèi)存數(shù)據(jù)庫、任務關(guān)鍵型應用及分析密集型工作負載而設計,在深度學習加速、滿足企業(yè)用戶業(yè)務多樣化需求方面具備優(yōu)勢。

從產(chǎn)品升級的角度來看,英特爾至強平臺持續(xù)在計算能力上推陳出新。第三代至強處理器在沿用第二代至強支持的DL Boost指令集的前提下,又在數(shù)據(jù)精度上進行了優(yōu)化。據(jù)悉,目前,英特爾正與生態(tài)合作伙伴進行技術(shù)方面的配合,推動第三代至強處理器平臺結(jié)合實際應用。

此外,英特爾更新一代的至強處理器Sapphire Rapids將于2021年推出,也將延續(xù)對bfloat16數(shù)據(jù)格式的支持,讓我們拭目以待。