物聯(lián)傳媒 旗下網(wǎng)站
登錄 注冊(cè)

谷歌推出首款終端AI芯片Edge TPU,發(fā)力IoT市場(chǎng)

作者:本站收錄
來(lái)源:智東西
日期:2018-07-27 09:57:16
摘要:7月26日消息,谷歌于美國(guó)當(dāng)?shù)貢r(shí)間周三發(fā)布了用于邊緣計(jì)算的新版AI芯片——微型AI加速器Edge TPU,可實(shí)現(xiàn)物聯(lián)網(wǎng)設(shè)備上的機(jī)器學(xué)習(xí)模型運(yùn)算。

  7月26日消息,谷歌于美國(guó)當(dāng)?shù)貢r(shí)間周三發(fā)布了用于邊緣計(jì)算的新版AI芯片——微型AI加速器Edge TPU,可實(shí)現(xiàn)物聯(lián)網(wǎng)設(shè)備上的機(jī)器學(xué)習(xí)模型運(yùn)算。

  兩年前,谷歌推出可以輕松完成AI任務(wù)的張量處理單元TPU(Tensor Processing Units)。隨著連接設(shè)備的爆炸性增長(zhǎng),以及對(duì)隱私、機(jī)密性、低延遲和帶寬限制的需求,谷歌正將AI模型從云端轉(zhuǎn)移到終端。Edge TPU作為Cloud TPU處理器的簡(jiǎn)化版本,將谷歌云的AI功能移植到物聯(lián)網(wǎng)上,使傳感器等設(shè)備能更快更便捷地處理數(shù)據(jù)。

  一、把AI帶到邊緣:Edge TPU

  Edge TPU是谷歌專(zhuān)門(mén)設(shè)計(jì)的ASIC芯片,用于在邊緣設(shè)備上運(yùn)行TensorFlow Lite ML模型進(jìn)行推理。它在較小的物理和功耗范圍內(nèi)提供高性能,并在邊緣部署高精度AI,能夠使用戶(hù)以高效率的方式在高分辨率視頻上以每秒30幀的速度同時(shí)執(zhí)行多幀最先進(jìn)的AI模型。Cloud IoT產(chǎn)品管理部門(mén)負(fù)責(zé)人Antony Passemard表示,Edge TPU的大小比1美分還要小許多。

谷歌推出首款終端AI芯片Edge TPU,發(fā)力IoT市場(chǎng)

  目前,在為顯示面板生產(chǎn)玻璃的過(guò)程中,該檢測(cè)設(shè)備每秒可處理200多張玻璃圖像。

谷歌推出首款終端AI芯片Edge TPU,發(fā)力IoT市場(chǎng)

  ▲Edge TPU和Cloud TPU對(duì)比

  作為Cloud TPU互補(bǔ)的產(chǎn)品,Edge TPU向用戶(hù)提供端到端和云端到端的硬件+軟件AI基礎(chǔ)架構(gòu),以便于部署基于AI的解決方案。不同于Cloud TPU,它只用于機(jī)器學(xué)習(xí)推理,不用于相關(guān)模型訓(xùn)練,因此可以以超低功率的方式進(jìn)行計(jì)算,適合物聯(lián)網(wǎng)設(shè)備采用。Edge TPU使用的軟件和服務(wù)是Cloud IoT Edge和物聯(lián)網(wǎng)操作系統(tǒng)Android Things。它可以使用TensorFlow Lite和NN API兩種機(jī)器學(xué)習(xí)框架,以及Edge TPU、GPU和CPU三種硬件加速器。憑借其高性能、小尺寸和低功耗的特點(diǎn),Edge TPU能在邊緣設(shè)備上實(shí)現(xiàn)本地實(shí)時(shí)進(jìn)行高質(zhì)量的AI運(yùn)算。

  這款芯片不僅僅是一個(gè)硬件解決方案。它結(jié)合了定制硬件、開(kāi)放軟件和最先進(jìn)的AI算法,為邊緣提供高質(zhì)量、易于部署的AI解決方案。

  Edge TPU具有較高的每瓦性能和較小的占地面積,可實(shí)現(xiàn)廣泛的工業(yè)用例,例如預(yù)測(cè)性維護(hù),異常檢測(cè),機(jī)器視覺(jué),機(jī)器人,語(yǔ)音識(shí)別等等。它可以被應(yīng)用在制造、醫(yī)療保健、零售、智能空間、運(yùn)輸?shù)取?/p>

  二、Edge TPU的配套軟件:Cloud IoT Edge

  谷歌還推出了Cloud IoT Edge軟件平臺(tái),可將訓(xùn)練好的機(jī)器學(xué)習(xí)模型移植到邊緣計(jì)算基礎(chǔ)設(shè)施的設(shè)備上運(yùn)行。該平臺(tái)有兩個(gè)關(guān)鍵組件。

  其一是Edge IoT Core。這是Azure IoT Edge設(shè)備管理器和協(xié)議網(wǎng)關(guān),可將邊緣設(shè)備安全地連接到云、啟用軟件和固件更新,以及使用Cloud IoT Core管理數(shù)據(jù)交換。

  其二是Edge ML。它是TensorFlow Lite ML工具的精簡(jiǎn)版,在本地運(yùn)行預(yù)先訓(xùn)練好的TensorFlow Lite ML模型,可以顯著提高邊緣設(shè)備的處理能力和多功能性。這使得下一波機(jī)器學(xué)習(xí)應(yīng)用程序和用例成為可能。

  此外,該平臺(tái)還利用了谷歌專(zhuān)用的硬件加速器ASIC芯片Edge TPU TM。

谷歌推出首款終端AI芯片Edge TPU,發(fā)力IoT市場(chǎng)

  ▲Cloud IoT Edge的工作原理

  Cloud IoT Edge將谷歌云強(qiáng)大的數(shù)據(jù)處理和機(jī)器學(xué)習(xí)擴(kuò)展到數(shù)十億邊緣設(shè)備,如機(jī)器人手臂、風(fēng)力渦輪機(jī)和石油鉆井平臺(tái)等,因此他們可以實(shí)時(shí)處理來(lái)自傳感器的數(shù)據(jù)并在本地預(yù)測(cè)結(jié)果。Cloud IoT Edge可在Android Things或基于Linux的操作系統(tǒng)上運(yùn)行。

  結(jié)語(yǔ):打通Edge TPU的生態(tài)

  為了實(shí)現(xiàn)Edge TPU的快速開(kāi)發(fā)和測(cè)試,谷歌為開(kāi)發(fā)者提供了開(kāi)發(fā)套件Edge TPU development kit。該套件包括一個(gè)模塊化系統(tǒng)(SOM),結(jié)合 Edge TPU、NXP CPU、Wi-Fi 和 Microchip 等安全組件。該套件將在今年10月對(duì)開(kāi)發(fā)者開(kāi)放,也可以注冊(cè)申請(qǐng)?zhí)崆霸L(fǎng)問(wèn)(申請(qǐng)鏈接:http://t.cn/ReLmOSK)。

  此外,谷歌還推出了兩款A(yù)IY設(shè)備,即AIY Edge TPU開(kāi)發(fā)板和AIY Edge TPU加速器。AIY Edge TPU開(kāi)發(fā)板內(nèi)置Edge TPU、NXP CPU處理器、集成GPU、8GB eMMC閃存、Wi-Fi功能和加密芯片。其長(zhǎng)約3-4個(gè)10美元硬幣,寬約2-3個(gè)10元硬幣。

谷歌推出首款終端AI芯片Edge TPU,發(fā)力IoT市場(chǎng)

  AIY Edge TPU加速器是一個(gè)帶了type-C接口的USB設(shè)備,內(nèi)置Edge TPU處理器,可連接到Linux和Android Things系統(tǒng),并支持在TensorFlow Lite框架下運(yùn)行。

谷歌推出首款終端AI芯片Edge TPU,發(fā)力IoT市場(chǎng)

  這兩款A(yù)IY設(shè)備暫無(wú)提前申請(qǐng)渠道,將在今年秋天上市。

  

人物訪(fǎng)談