微軟如何將Azure部署為“AI cloud”?
過去幾年里,微軟一直使用FPGA,以此提高必應(yīng)(Bing)和Azure的性能和效率。但是,微軟計劃明年將為開發(fā)人員提供這種現(xiàn)場可編程門陣列(FPGA)處理能力,他們都能利用此種能力運行自己的任務(wù),包括像深層神經(jīng)網(wǎng)絡(luò)(DNN)這樣的密集型人工智能任務(wù)。
在春季的開發(fā)者大會上,Azure首席技術(shù)官Mark Russinovich概述了微軟通過Azure云實現(xiàn)“硬件微服務(wù)”的宏偉計劃。Russinovich向與會者說道,一旦微軟解決了一些尚未平息的安全問題及其他問題,“我們將擁有我們認為是一個完全可配置的云”。
“這是AI cloud的核心,”Russinovich說道,“也是利用FPGA能力實現(xiàn)AI大眾化的重要一步。”
FPGAs是生產(chǎn)后可自定義配置的芯片。微軟的研究人員在FPGA領(lǐng)域已經(jīng)做了十多年的研究工作。最近,微軟已經(jīng)將FPGAs添加到自己數(shù)據(jù)中心的所有Azure服務(wù)器中,并且在一些為必應(yīng)索引服務(wù)器供能的機器中運用FPGA,作為Project Catapult工作的一部分。微軟Azure Accelerated Networking服務(wù),通常適用于Windows和Linux預(yù)覽版,還可以在內(nèi)部使用FPGA。
Russinovich表示,有關(guān)微軟何時準備好為公司以外的客戶提供硬件微服務(wù)和FPGA云處理能力,對此,公司尚未確定具體時間。
微軟的硬件微服務(wù)基于英特爾FPGA(英特爾在2015年收購了FPGA制造商Altera)。結(jié)合Microsoft框架,這些芯片將為尤其適合大數(shù)據(jù)工作量的速度,效率和延遲方面提供進展。
微軟還通過代號為“Brainwave”的項目專門研究DNN部件。微軟公司在2016 Ignite會議上公開展示了BrainWave,當時微軟公司使用BrainWave在FPGAs上進行大規(guī)模的語言翻譯演示。
根據(jù)微軟2016年可配置云計劃的報告,BrainWave是一個深入學(xué)習(xí)平臺,運行在基于FPGA的硬件微服務(wù)中。該報告在數(shù)據(jù)中心或互聯(lián)網(wǎng)上提到“硬件加速即服務(wù)”。BrainWave可以根據(jù)需要通過若干FPGA分配神經(jīng)網(wǎng)絡(luò)模型。
微軟并不是唯一一家在云數(shù)據(jù)中心指望FPGA的公司。亞馬遜和谷歌都在使用定制硅片處理AI任務(wù)。亞馬遜已經(jīng)提供了用于編程Xilinx FPGA的FPGA EC2 F1實例,并為FPGA提供了硬件開發(fā)套件。谷歌一直致力于訓(xùn)練TensorFlow的深度學(xué)習(xí)模式,機器學(xué)習(xí)軟件庫,并研發(fā)了自己優(yōu)先的Tensor Processing Unit芯片。