登錄
注冊
當邊緣計算遇上人工智能，物聯網的春天就又要來了
人工智能在邊緣側的不斷擴展，是駕馭數據洪流的關鍵環(huán)節(jié)之一，也是物聯網未來發(fā)展的重要趨勢。隨著人工智能如火如荼的發(fā)展，海量數據需要快速有效地分析和提取洞察，這也大大加強了對于邊緣計算的需求。
人工智能的發(fā)展離不開數據，因為它需要大量的數據進行訓練。在當前這樣一個萬物智能互聯的時代，數據量的產生速度超出了一般人的想象。以智能攝像頭為例，隨著攝像頭的分辨率從1080P轉向4K，其一天所采集到的數據量將達到200GB。面臨同樣問題的還包括智能醫(yī)院、自動駕駛和智能工廠，它們一天所產生的數據將分別超過3TB、4TB和1PB。有人做過這樣的預測，到2020年，一個互聯網用戶平均每天將產生的數據量大概是1.5GB。
英特爾中國區(qū)物聯網事業(yè)部首席技術官張宇博士
英特爾中國區(qū)物聯網事業(yè)部首席技術官張宇博士日前在邊緣計算產業(yè)聯盟峰會主題演講中，分享了如何在網絡邊緣實現智能化的觀點。他認為，人工智能在邊緣側的不斷擴展，是駕馭數據洪流的關鍵環(huán)節(jié)之一，也是物聯網未來發(fā)展的重要趨勢。隨著人工智能如火如荼的發(fā)展，海量數據需要快速有效地分析和提取洞察，這也大大加強了對于邊緣計算的需求。
邊緣側趨向負載整合
“以前的數據很多都是結構化數據，可以通過Excel表格或者簡單的關系型數據庫對其進行維護和管理。但今后會有越來越多的非結構化數據需要進行處理并借此發(fā)現內在關聯，這時就需要邊緣計算和人工智能技術。”但張宇并不認為對邊緣計算的強調，就意味著邊緣計算將代替云計算，“在物聯網從互聯走向智能，再走向自治的過程中，兩者是協同互補的關系，并非彼此取代。”
在他看來，邊緣計算所處理的數據屬于局部數據，并不能形成對于全局的認知，只有云計算平臺才能在后端對從各種不同邊緣采集到的數據進行融會貫通。例如在智能交通領域，盡管智能攝像頭能夠通過各種方法能夠識別出行人、車型、顏色和車牌，但卻不了解車的軌跡;在今年的雙11活動中，天貓商城的銷售峰值超過25億/秒，如果沒有云計算平臺的支持，這是很難想象的。
不過在2012年以前，人工智能在做圖像識別時的準確度是低于人類的。下圖中，虛線代表人類識別水平，實線代表機器識別錯誤率?？梢钥吹?，2012年以前機器識別的錯誤率還是高于人類的，但呈逐漸下降趨勢，2012年之后，隨著AlexNet等神經網絡的出現，人工智能水平出現了質的飛躍。
機器識別錯誤率正在逐年下降
但人工智能同樣面臨很多挑戰(zhàn)，對計算和存儲資源的巨大消耗就是其中之一。以百度搜索為例，它每完成一次搜索，就需要完成千億億次的計算;如果再進行推理，即使去處理一張224 X 224分辨率的圖片，像AlexNet、GoogleNet這樣的人工智能網絡，計算量也要超過10億次。
因此，張宇強調了在邊緣側趨向負載整合是物聯網演進的一個必然趨勢。原來在不同設備上分立的負載會越來越多地通過虛擬化等技術，整合到一個單一的高性能的計算平臺上，來實現一個綜合的復雜的功能，各個功能子系統既能分享設備提供的計算，存儲，網絡等資源，同時還能具有一定的獨立性，避免彼此的相互影響，從而可以簡化系統架構，降低系統總體。同時，負載整合實際上也為邊緣計算的實現以及為實施人工智能的應用提供了條件。整合后的設備既是邊緣數據的匯聚節(jié)點，同時也是邊緣控制的中心，這為邊緣智能提供了處理所需的數據，同時也提供了控制的入口。因此英特爾認為人工智能和負載整合的結合，會在今后的邊緣計算的系統里發(fā)生。
在邊緣側趨向負載整合是物聯網演進的必然趨勢
構建邊緣協同的端到端系統
在一個邊緣協同的端到端系統中，由于不同網源的功耗、計算性能和所能承擔的成本各不相同，因此在選取硬件架構時往往會有特定要求。英特爾的做法是根據用戶需求提供不同架構的解決方案，涵蓋至強處理器、至強融核處理器、Movidius/Nervana神經網絡處理器和FPGA、網絡以及存儲技術等硬件平臺，以及多種軟件工具及函數庫，優(yōu)化開源框架，來讓他們進行自主選擇。
張宇認為，如果想將人工智能用到邊緣側，網絡優(yōu)化將是一個關鍵的技術。因為目前人工智能的理論基礎并不完備，導致很多人工智能的方法是冗余的，急需優(yōu)化。
低比特、剪枝和參數量化是英特爾做網絡優(yōu)化的三大思路。所謂低比特，是指在傳統的深度學習領域，往往采用32比特單精度浮點來進行參數表述，但在安防、機器學習和機器視覺實際應用中卻并不需要如此高的精度，在不影響最終識別率的情況下，英特爾傾向將32比特的單精度浮點轉變成16比特的半精度，甚至是8比特、2比特的整數精度，從而降低存儲與計算負荷。
剪枝也是類似。如果把人工智能網絡比喻成一個樹枝，這棵樹的每個不同分杈實際上對應的是不同的檢測特征。對于沒有效果的分支，用戶完全可以在優(yōu)化過程中把它剪掉，降低計算復雜度。而參數的量化是指可以根據參數的特征做聚類，用相對比較簡單的符號或數字來表述，從而降低人工智能對于存儲的要求。
如何界定行業(yè)的邊緣?
計算任務應該放在邊緣還是放在云端去做?如何界定行業(yè)的邊緣?英特爾方面認為邊緣計算的核心問題是如何根據不同行業(yè)的不同應用需求，選擇不同的工作負載、成本和功耗方案去實施，并沒有一致性的答案。
以安防監(jiān)控為例，如果不考慮邊緣計算，最簡單的方式是前端攝像機捕捉到視頻信息，傳到作為中間節(jié)點的NVR做存儲、解碼和播放，然后把數據以流媒體方式壓縮后傳輸到后端。但這種海量信息的傳輸對網絡帶寬和后端存儲形成了壓力，勢必導致一部分業(yè)務的運行和計算前移。在這個需求下，用戶具體是做車輛、行人或路標的檢測、跟蹤、分類、識別，這對于前端攝像機里部署的智能分析算法是有不同要求的。
但有一個共性的技術是需要理解和掌握的：即怎樣使計算架構變得更容易被軟件定義?也就是說，不管何種業(yè)務類型都可以更靈活的在云端，在邊緣側，甚至在終端節(jié)點上運行。如果沒有軟件定義的靈活性，要把工作負載從云端遷移到前端是非常困難的事情，芯片廠商必須要做這樣的考量。
“邊緣計算聯盟(ECC)并不是要實現完全統一的架構，更多的是提供參考架構。”張宇解釋說，參考架構旨在定義一個邏輯框架，盡管不會細分到每種硬件需要怎樣的配置、執(zhí)行何種協議、實現何種功能等，但里面也有能夠適應不同復雜度的系統。比如邊緣計算節(jié)點(ECN)概念就可能是一個單一設備、一個邊緣集群或者是一個邊緣云，可以根據不同用戶的使用場景實現不同的適配。但他同時也承認，不同垂直行業(yè)的要求是不一樣的，如何把邊緣計算的理念和框架映射到垂直行業(yè)里，產生真正可落地的具體方案，這是挑戰(zhàn)，也是聯盟正在努力推進的方向。此外，今后如何在架構的升級中體現不同行業(yè)的特點與個性，也是今后工作的重心。
而作為聯盟驅動創(chuàng)新的重要成果，《邊緣計算參考架構2.0》在本屆峰會上正式發(fā)布，重點闡釋了邊緣計算的概念、特點、價值，分別從概念視圖、功能視圖、部署視圖三個維度全方位展現ECC邊緣計算參考架構2.0，提出構建模型驅動的智能分布式開放架構，實現架構極簡，OICT設施自動化和可視化，以及資源服務與行業(yè)業(yè)務需求的智能協同，通過全層次開放架構推動跨產業(yè)的生態(tài)協作，產品的快速孵化，為邊緣計算技術研發(fā)、應用創(chuàng)新和產業(yè)發(fā)展提供方向指引。
把自己人搞得多多的，把敵人搞得少少的
邊緣計算同樣是一個巨大的生態(tài)系統，不可能有任何一家公司能夠完全覆蓋產業(yè)鏈里所有的上下游環(huán)節(jié)。本屆峰會上，ECC與工業(yè)互聯網產業(yè)聯盟(AII)正式簽署戰(zhàn)略合作協議，宣布雙方未來將在研究報告/白皮書、試驗平臺/測試床、技術標準、市場推廣等方面開展合作;與國際半導體照明聯盟(ISA)、車載信息服務產業(yè)應用聯盟(TIAA)簽訂戰(zhàn)略合作協議，共同致力于推動邊緣計算在智慧照明、智能車載領域的應用創(chuàng)新、標準制定和商業(yè)落地。同時還宣布將與西安電子科技大學、中國自動化學會邊緣計算專業(yè)委員會聯合舉辦“2018年邊緣計算技術研討會(SEC-China 2018)”，為相關領域學術界、產業(yè)界提供交流合作，成為發(fā)布領域相關前沿科研成果的平臺，大力推動中國邊緣計算技術與產業(yè)的發(fā)展。
作為聯盟的重要一員，英特爾物聯網事業(yè)部首席戰(zhàn)略技術官兼首席高級工程師Brain McCarson對公司的定位是提供計算、通信、存儲所需要的芯片解決方案，以及圍繞芯片相關的底層軟件和中間件元素。
他特別提到了兩家合作伙伴：華為和沈陽自動化研究所。其中，華為發(fā)布了基于英特爾處理器的邊緣網關產品AR550i，利用這個產品，華為在整個產業(yè)鏈就起到了ODM/OEM的角色，并將其帶給相應的系統集成商和終端用戶;英特爾聯合沈陽自動化研究所展示的邊緣計算測試床則是智能機器人，目的是驗證基于深度學習的機器視覺方案在實際系統中的工作效果。該系統由英特爾實感技術實現3D視頻采集，基于英特爾邊緣計算參考平臺完成物體的檢測與識別，結果將控制機器人的手臂完成物體抓取的操作。
張宇認為，無論是云計算還是邊緣計算都無法獨立存在，兩者之間是相輔相成的。英特爾的優(yōu)勢在于能夠完全覆蓋從云端計算到網絡通信基礎設施，再到終端的端到端系統。而從軟件生態(tài)上來說，目前而言，X86架構處理器芯片的軟件兼容性優(yōu)勢依然非常明顯，絕大部分企業(yè)級應用仍然運行在X86架構上。未來，隨著計算能力的進一步釋放，英特爾將會在數據鏈路中扮演更重要的角色。
