谷歌推出首款終端AI芯片Edge TPU，發(fā)力IoT市場(chǎng)

　　7月26日消息，谷歌于美國(guó)當(dāng)?shù)貢r(shí)間周三發(fā)布了用于邊緣計(jì)算的新版AI芯片——微型AI加速器Edge TPU，可實(shí)現(xiàn)物聯(lián)網(wǎng)設(shè)備上的機(jī)器學(xué)習(xí)模型運(yùn)算。

　　兩年前，谷歌推出可以輕松完成AI任務(wù)的張量處理單元TPU(Tensor Processing Units)。隨著連接設(shè)備的爆炸性增長(zhǎng)，以及對(duì)隱私、機(jī)密性、低延遲和帶寬限制的需求，谷歌正將AI模型從云端轉(zhuǎn)移到終端。Edge TPU作為Cloud TPU處理器的簡(jiǎn)化版本，將谷歌云的AI功能移植到物聯(lián)網(wǎng)上，使傳感器等設(shè)備能更快更便捷地處理數(shù)據(jù)。

　　一、把AI帶到邊緣：Edge TPU

　　Edge TPU是谷歌專(zhuān)門(mén)設(shè)計(jì)的ASIC芯片，用于在邊緣設(shè)備上運(yùn)行TensorFlow Lite ML模型進(jìn)行推理。它在較小的物理和功耗范圍內(nèi)提供高性能，并在邊緣部署高精度AI，能夠使用戶(hù)以高效率的方式在高分辨率視頻上以每秒30幀的速度同時(shí)執(zhí)行多幀最先進(jìn)的AI模型。Cloud IoT產(chǎn)品管理部門(mén)負(fù)責(zé)人Antony Passemard表示，Edge TPU的大小比1美分還要小許多。

　　目前，在為顯示面板生產(chǎn)玻璃的過(guò)程中，該檢測(cè)設(shè)備每秒可處理200多張玻璃圖像。

　　▲Edge TPU和Cloud TPU對(duì)比

　　作為Cloud TPU互補(bǔ)的產(chǎn)品，Edge TPU向用戶(hù)提供端到端和云端到端的硬件+軟件AI基礎(chǔ)架構(gòu)，以便于部署基于AI的解決方案。不同于Cloud TPU，它只用于機(jī)器學(xué)習(xí)推理，不用于相關(guān)模型訓(xùn)練，因此可以以超低功率的方式進(jìn)行計(jì)算，適合物聯(lián)網(wǎng)設(shè)備采用。Edge TPU使用的軟件和服務(wù)是Cloud IoT Edge和物聯(lián)網(wǎng)操作系統(tǒng)Android Things。它可以使用TensorFlow Lite和NN API兩種機(jī)器學(xué)習(xí)框架，以及Edge TPU、GPU和CPU三種硬件加速器。憑借其高性能、小尺寸和低功耗的特點(diǎn)，Edge TPU能在邊緣設(shè)備上實(shí)現(xiàn)本地實(shí)時(shí)進(jìn)行高質(zhì)量的AI運(yùn)算。

　　這款芯片不僅僅是一個(gè)硬件解決方案。它結(jié)合了定制硬件、開(kāi)放軟件和最先進(jìn)的AI算法，為邊緣提供高質(zhì)量、易于部署的AI解決方案。

　　Edge TPU具有較高的每瓦性能和較小的占地面積，可實(shí)現(xiàn)廣泛的工業(yè)用例，例如預(yù)測(cè)性維護(hù)，異常檢測(cè)，機(jī)器視覺(jué)，機(jī)器人，語(yǔ)音識(shí)別等等。它可以被應(yīng)用在制造、醫(yī)療保健、零售、智能空間、運(yùn)輸?shù)取?/p>

　　二、Edge TPU的配套軟件：Cloud IoT Edge

　　谷歌還推出了Cloud IoT Edge軟件平臺(tái)，可將訓(xùn)練好的機(jī)器學(xué)習(xí)模型移植到邊緣計(jì)算基礎(chǔ)設(shè)施的設(shè)備上運(yùn)行。該平臺(tái)有兩個(gè)關(guān)鍵組件。

　　其一是Edge IoT Core。這是Azure IoT Edge設(shè)備管理器和協(xié)議網(wǎng)關(guān)，可將邊緣設(shè)備安全地連接到云、啟用軟件和固件更新，以及使用Cloud IoT Core管理數(shù)據(jù)交換。

　　其二是Edge ML。它是TensorFlow Lite ML工具的精簡(jiǎn)版，在本地運(yùn)行預(yù)先訓(xùn)練好的TensorFlow Lite ML模型，可以顯著提高邊緣設(shè)備的處理能力和多功能性。這使得下一波機(jī)器學(xué)習(xí)應(yīng)用程序和用例成為可能。

　　此外，該平臺(tái)還利用了谷歌專(zhuān)用的硬件加速器ASIC芯片Edge TPU TM。

　　▲Cloud IoT Edge的工作原理

　　Cloud IoT Edge將谷歌云強(qiáng)大的數(shù)據(jù)處理和機(jī)器學(xué)習(xí)擴(kuò)展到數(shù)十億邊緣設(shè)備，如機(jī)器人手臂、風(fēng)力渦輪機(jī)和石油鉆井平臺(tái)等，因此他們可以實(shí)時(shí)處理來(lái)自傳感器的數(shù)據(jù)并在本地預(yù)測(cè)結(jié)果。Cloud IoT Edge可在Android Things或基于Linux的操作系統(tǒng)上運(yùn)行。

　　結(jié)語(yǔ)：打通Edge TPU的生態(tài)

　　為了實(shí)現(xiàn)Edge TPU的快速開(kāi)發(fā)和測(cè)試，谷歌為開(kāi)發(fā)者提供了開(kāi)發(fā)套件Edge TPU development kit。該套件包括一個(gè)模塊化系統(tǒng)(SOM)，結(jié)合 Edge TPU、NXP CPU、Wi-Fi 和 Microchip 等安全組件。該套件將在今年10月對(duì)開(kāi)發(fā)者開(kāi)放，也可以注冊(cè)申請(qǐng)?zhí)崆霸L(fǎng)問(wèn)(申請(qǐng)鏈接：http://t.cn/ReLmOSK)。

　　此外，谷歌還推出了兩款A(yù)IY設(shè)備，即AIY Edge TPU開(kāi)發(fā)板和AIY Edge TPU加速器。AIY Edge TPU開(kāi)發(fā)板內(nèi)置Edge TPU、NXP CPU處理器、集成GPU、8GB eMMC閃存、Wi-Fi功能和加密芯片。其長(zhǎng)約3-4個(gè)10美元硬幣，寬約2-3個(gè)10元硬幣。

　　AIY Edge TPU加速器是一個(gè)帶了type-C接口的USB設(shè)備，內(nèi)置Edge TPU處理器，可連接到Linux和Android Things系統(tǒng)，并支持在TensorFlow Lite框架下運(yùn)行。

　　這兩款A(yù)IY設(shè)備暫無(wú)提前申請(qǐng)渠道，將在今年秋天上市。