物聯(lián)網(wǎng)“新篇章”：如何將機(jī)器學(xué)習(xí)引入邊緣計(jì)算?

圖片來(lái)自“123RF”

自 2006 年云計(jì)算正式在科技世界中展露頭角，近 13 年的迅猛發(fā)展，2019 年云計(jì)算市場(chǎng)早已不同以往。回顧昨日，2018 年風(fēng)口浪尖上的云計(jì)算，“人人說(shuō)云，事事上云”，各大中型企業(yè)到初創(chuàng)企業(yè)紛紛把不同類型的應(yīng)用服務(wù)遷移到云上，尋找上云最佳途徑。再看今朝，AI、物聯(lián)網(wǎng)、5G 等新興技術(shù)的發(fā)展落地，不斷拓寬著云計(jì)算的實(shí)踐邊界與應(yīng)用空間。

與云計(jì)算互補(bǔ)：AI 推動(dòng)邊緣計(jì)算應(yīng)運(yùn)而生

從云計(jì)算對(duì)傳統(tǒng) IT 架構(gòu)的顛覆性變革，到 AI 構(gòu)建模型與算法的智能世界，再到萬(wàn)物互聯(lián)的 IoT 悄然崛起，云計(jì)算以排山倒海之勢(shì)拉動(dòng)著 IT 產(chǎn)業(yè)鏈的發(fā)展，而人工智能和物聯(lián)網(wǎng)也一直都是社會(huì)普遍關(guān)注的焦點(diǎn)話題。

值得注意的是，近兩年，與我們生活息息相關(guān)的智能服務(wù)隨處可見，但其底層的 AI 技術(shù)或者說(shuō)機(jī)器學(xué)習(xí)技術(shù)卻已擁有著超過(guò) 50 年的悠久歷史。要說(shuō)“人工智能”為何在近幾年才逐步走近人們的生活，這與云計(jì)算有著密切聯(lián)系。2006 年云計(jì)算的誕生，預(yù)示著人工智能拐點(diǎn)的到來(lái)，數(shù)據(jù)量越來(lái)越大，計(jì)算能力越來(lái)越強(qiáng)，過(guò)去不實(shí)用的 AI 技術(shù)到了 2006 年也都逐步進(jìn)入實(shí)用階段，可以說(shuō)，是云計(jì)算讓 AI 技術(shù)更加接近企業(yè)與消費(fèi)者，并不斷利用 AI 技術(shù)驅(qū)動(dòng)著產(chǎn)業(yè)變革。

技術(shù)發(fā)展總是相互貫通的，隨著數(shù)十億的智能設(shè)備在住房、工廠、醫(yī)院、汽車等地普及開來(lái)，物聯(lián)網(wǎng)技術(shù)的興起必然是這個(gè)時(shí)代的又一場(chǎng)革命。隨著物聯(lián)網(wǎng)在各行各業(yè)的推廣應(yīng)用，我們急需一個(gè)解決方案來(lái)收集、處理、存儲(chǔ)這些物聯(lián)網(wǎng)設(shè)備所產(chǎn)生的龐雜數(shù)據(jù)，而云計(jì)算平臺(tái)正是分析加工這些海量數(shù)據(jù)與連接的技術(shù)基石。同時(shí)，IoT 通常會(huì)在邊緣端對(duì)設(shè)備進(jìn)行管理和控制，很多的數(shù)據(jù)需在邊緣進(jìn)行實(shí)時(shí)決策，這就對(duì)邊緣設(shè)備的智能化提出了更高的要求。

將機(jī)器學(xué)習(xí)智能引入邊緣計(jì)算

邊緣計(jì)算意味著把云計(jì)算的資源、計(jì)算、存儲(chǔ)等能力帶到更接近用戶的本地邊緣設(shè)備中，大量計(jì)算可以在本地直接處理，而無(wú)需把所有數(shù)據(jù)都發(fā)送到云端，實(shí)現(xiàn)本地事件的更快響應(yīng)。

事實(shí)上，要想確保 IoT 應(yīng)用程序能夠快速響應(yīng)本地事件，則必須以非常低的延遲獲得推理結(jié)果，但這時(shí)如果把數(shù)據(jù)發(fā)送至云端，再等待云端的推理決策，這個(gè)過(guò)程就很難滿足一些業(yè)務(wù)場(chǎng)景的需求。

例如，在很多智慧城市的智慧攝像頭場(chǎng)景中，智能攝像頭需要在邊緣側(cè)快速識(shí)別汽車牌照或者人臉等場(chǎng)景，如若把海量的視頻數(shù)據(jù)實(shí)時(shí)上傳到云端去做推理，這勢(shì)必會(huì)帶來(lái)大量不必要的帶寬占用，并無(wú)法滿足其對(duì)于實(shí)時(shí)決策的需求，這時(shí)就需要一個(gè)更加智能的解決方案來(lái)做推理。

但是，僅使用云計(jì)算來(lái)部署人工智能的方式，與將云計(jì)算與邊緣計(jì)算有效結(jié)合起來(lái)應(yīng)用人工智能的方式截然不同。數(shù)據(jù)科學(xué)家依靠云計(jì)算來(lái)攝取和存儲(chǔ)大量數(shù)據(jù)集，并識(shí)別數(shù)據(jù)中的模式和關(guān)系，在建立模型的整個(gè)過(guò)程中，訓(xùn)練和優(yōu)化機(jī)器學(xué)習(xí)模型需要大量計(jì)算資源，因此與云計(jì)算是天然良配。

而實(shí)際上，最終的、經(jīng)過(guò)優(yōu)化的機(jī)器學(xué)習(xí)模型在推理的過(guò)程中并不需要太多的資源。所以為了確保 IoT 應(yīng)用程序以非常低的延遲獲得推理結(jié)果，我們就可以把訓(xùn)練放在云端，推理放在邊緣側(cè)，以達(dá)到利用云端去訓(xùn)練機(jī)器學(xué)習(xí)模型，利用邊緣設(shè)備實(shí)時(shí)進(jìn)行推理，甚至在沒(méi)有互聯(lián)網(wǎng)的環(huán)境中產(chǎn)生數(shù)據(jù)時(shí)，也能實(shí)現(xiàn)高速響應(yīng)業(yè)務(wù)變化并作出決策。

例如，在智慧農(nóng)業(yè)的場(chǎng)景中，裝在農(nóng)田里的傳感器會(huì)對(duì)收集的環(huán)境數(shù)據(jù)進(jìn)行實(shí)時(shí)決策。但在這些場(chǎng)景中，設(shè)備通常無(wú)法保證連接到互聯(lián)網(wǎng)，這時(shí)就更加需要邊緣端實(shí)時(shí)作出決策，待設(shè)備具備互聯(lián)網(wǎng)連接時(shí)，再同步數(shù)據(jù)到云端。

廣闊的市場(chǎng)前景，潛在的應(yīng)用范圍，毋庸置疑，人工智能讓邊緣計(jì)算更有價(jià)值。據(jù)美國(guó)市場(chǎng)調(diào)研公司 CB Insights 估算，到 2023 年全球邊緣計(jì)算行業(yè)，整體市場(chǎng)容量有望達(dá)到 340 億美元。其中包括亞馬遜、微軟、谷歌在內(nèi)的幾大公有云巨頭的爭(zhēng)相布局也說(shuō)明了邊緣計(jì)算未來(lái)發(fā)展的無(wú)限潛力，尤其在智能家居領(lǐng)域，邊緣計(jì)算如何發(fā)揮更大價(jià)值已成為行業(yè)的主要研究方向。

智能家居中的邊緣智能

目前，智能家居中的大部分智能設(shè)備主要還是通過(guò)云計(jì)算來(lái)實(shí)現(xiàn)設(shè)備交互，但設(shè)備對(duì)云計(jì)算的強(qiáng)依賴同樣會(huì)產(chǎn)生響應(yīng)速度慢、延遲感強(qiáng)、網(wǎng)絡(luò)故障等諸多問(wèn)題。這時(shí)，填補(bǔ)目前云計(jì)算特性不足并提升計(jì)算效率的邊緣計(jì)算，在智能家居領(lǐng)域中強(qiáng)勢(shì)崛起。

據(jù)麥肯錫預(yù)測(cè)，到 2025 年，全球聯(lián)網(wǎng)設(shè)備總量將達(dá) 750 億。從智能的家庭監(jiān)控?cái)z像頭，到智能門鎖，智能空調(diào)等，對(duì)于每天要處理大量 IoT 數(shù)據(jù)的智能家居行業(yè)來(lái)說(shuō)，邊緣計(jì)算將成為必然選擇。

以格蘭仕的智慧家居數(shù)字化轉(zhuǎn)型為例，自 1978 年 9 月 28 日創(chuàng)立以來(lái)，格蘭仕歷經(jīng)多次轉(zhuǎn)型，從輕紡明星企業(yè)，到微波爐“黃金品牌”，再到綜合性白色家電集團(tuán)，成為中國(guó)家電產(chǎn)業(yè)的龍頭企業(yè)之一。然而隨著科技的發(fā)展和消費(fèi)需求的變化，為了應(yīng)對(duì)智能化制造、精益化管理等一系列挑戰(zhàn)，格蘭仕決定開啟第四次轉(zhuǎn)型 —— 數(shù)字化轉(zhuǎn)型。

但格蘭仕過(guò)去傳統(tǒng)架構(gòu)設(shè)計(jì)的信息系統(tǒng)已不再適用，在數(shù)字化轉(zhuǎn)型過(guò)程中，格蘭仕在對(duì)比了眾多解決方案后，最終選擇利用 AWS IoT 、AWS ECS 等 AWS 解決方案完成了電商平臺(tái)與物聯(lián)網(wǎng)平臺(tái)的開發(fā)部署。

在 AWS 智慧家庭設(shè)備的解決方案中，用戶可在 Amazon SageMaker 中構(gòu)建預(yù)測(cè)模型以用于場(chǎng)景檢測(cè)分析，并對(duì)其進(jìn)行優(yōu)化以便在任何攝像機(jī)上的穩(wěn)定運(yùn)行，然后部署該模型以便預(yù)測(cè)可疑活動(dòng)并發(fā)送警報(bào)，實(shí)現(xiàn)在云中構(gòu)建、訓(xùn)練和優(yōu)化機(jī)器學(xué)習(xí)模型，并在本地設(shè)備進(jìn)行推理的高效響應(yīng)。

用戶首先可將訓(xùn)練數(shù)據(jù)上傳至存儲(chǔ)桶中，并選擇 SageMaker 提供的現(xiàn)有算法生成訓(xùn)練模型，該模型以壓縮 zip 文件的形式被復(fù)制到另一 Amazon S3 存儲(chǔ)桶內(nèi)。接下來(lái)，該 zip 文件會(huì)被復(fù)制到設(shè)備中，該設(shè)備則在運(yùn)行時(shí)由 AWS Lambda 函數(shù)進(jìn)行調(diào)用。其中，在 IoT Greengrass 上運(yùn)行推理過(guò)程所收集到的數(shù)據(jù)可發(fā)送回 SageMaker，進(jìn)行就地標(biāo)記，并用于不斷提高機(jī)器學(xué)習(xí)模型的質(zhì)量。

在上圖具體的智慧家庭場(chǎng)景中，機(jī)器學(xué)習(xí)模型需要在家中的智能攝像頭和網(wǎng)關(guān)的邊緣設(shè)備上直接運(yùn)行，并檢測(cè)是否發(fā)生了一些需要實(shí)時(shí)處理的數(shù)據(jù)。在邊緣端，這些機(jī)器學(xué)習(xí)模型作為一個(gè) Serverless 函數(shù)部署，該函數(shù)則由應(yīng)用程序直接調(diào)用(圖中 2 和 6)。在每個(gè)邊緣位置，由于 FaaS 中的部署單元為一個(gè)函數(shù)，因此它比推送到虛擬機(jī)或容器要更高效得多，而且一旦有新的機(jī)器學(xué)習(xí)模型在云端產(chǎn)生時(shí)，都會(huì)為其分配一個(gè)新版本，并將其同步到邊緣端去運(yùn)行(圖中 2，3 之間的交互)。總之，機(jī)器學(xué)習(xí)的繁重工作在云中完成，邊緣計(jì)算簡(jiǎn)化了推理與部署體驗(yàn)，Serverless 也將簡(jiǎn)化開發(fā)人員的工作負(fù)擔(dān)。

小結(jié)

邊緣計(jì)算作為算力架構(gòu)優(yōu)化最重要的技術(shù)，不僅是物聯(lián)網(wǎng)發(fā)展的重要方向，同時(shí)也是未來(lái) AI 技術(shù)的重要延伸。萬(wàn)物互聯(lián)，將機(jī)器學(xué)習(xí)智能引入邊緣計(jì)算，使智能計(jì)算更接近于應(yīng)用程序，人工智能與邊緣計(jì)算的融合與突破，勢(shì)必將重新定義未來(lái)科技的發(fā)展新方向。