超級比一比：Google Coral Edge TPU v.s. NVIDIA Jetson Nano

找到一篇關於 Google Coral Edge TPU 與 NVIDIA Jetson Nano 的硬體規格比較，取得作者同意之後翻譯刊載。原文 [ Google Coral Edge TPU Board Vs NVIDIA Jetson Nano Dev board — Hardware Comparison ，作者 Manu Suryavansh ]，以下是翻譯後文章：

    NVIDIA 與 Google 兩家公司最近都針對 邊緣人工智能 (Edge AI) 推出了自家的開發板，並且把價格降到相當不錯的區間來吸引開發者、maker 與業餘玩家。兩款板子的主要用途都在於推論，但在一定程度上也能做到 transfer learning re-training。Google Edge TPU 透過 weight imprinting 技術來支援 transfer learning training。兩者都具備了 SOM (System-on-Module)，具備各式接頭：USB、Ethernet 與 microSD 卡槽等。本文為兩款開發板的硬體比較，但請注意是以單板電腦的角度而非 USB 加速棒 (Edge TPU USB)。

    如果沒時間整篇讀完的話，可以先做個結論：我個人認為就價格來說，Coral Edge 開發板較有優勢且包含了必要的通訊功能 (Wi-Fi / 藍牙)，但就軟體支援性(INT8 與 FP16 推論) 來說，Jetson Nano 是比較好的。

Coral Edge TPU 開發板

    開發板尺寸為  88 x 60 x 22 mm，而 SOM (USB 加速棒) 的大小只有  48 x 40 x 5 mm。所以使用者可以自行設計不同大小的基板，再外接 SOM 即可。開發板上有 u-boot bootloader，而USB加速棒則可載入類似 Mendel linux 的映像檔。

Coral SOM 上的 NXP iMXM 處理器還有一個 Vivante GC7000 lite graphics GPU ，不過，可以用在圖像以外的事情上嗎？目前未知。

• 詳細規格： https://coral.withgoogle.com/docs/dev-board/datasheet/
• 購買： https://coral.withgoogle.com/products/dev-board

NVIDIA Jetson Nano 開發板

    與 coral開發板類似 (在基板上加裝 SOM)，Jetson 的 SOM 稍微大了點： 69.6  x 45 mm。這片板子是以 Ubuntu 18.04 作為預設的作業系統。

• 詳細規格 — https://www.nvidia.com/en-us/autonomous-machines/embedded-systems/jetson-nano/
• 購買 — https://www.nvidia.com/en-us/autonomous-machines/embedded-systems/jetson-nano/
• 機器人王國Jetson Nano 全套配備購買連結

硬體規格比較

效能

Nvidia原廠提供了與其他SBC (例如 Raspberry Pi 3、Pi 3 + Intel NCS2 加速棒、Google Coral Edge TPU板) 的效能比較：https://devblogs.nvidia.com/jetson-nano-ai-computing/

註：阿吉老師補充另一份NVIDIA的原廠資料，大家可以比較一下：

Coral Edge TPU 開發板的資料不太多，因為它無法執行未經 quantization aware training 的預先訓練模型。以上表格中，Jetson 採用 FP16 precision。其他參考資料：

•  https://github.com/jolibrain/dd_performances
• https://www.phoronix.com/scan.php?page=article&item=nvidia-jetson-nano&num=3

結論

我個人偏好 Coral Edge TPU 開發板，原因在於：

1. Coral dev board 售價 $149 美金，比 Jetson Nano ($99) 來得貴一點，但前者有 Wi-Fi 與Bluetooth，而 Jetson Nano 都沒有要另外買 Wi-Fi dongle才行。.
2. coral board 上的 NXP iMX8 SOC 具備 Video processing unit 與 Vivante GC700 lite GPU，可進行傳統的影像與影片處理。 coral board 還有一顆 Cortex-M4F 低功耗微處理器，可用於連接其他感測器，例如溫度、環境光感測器等等。更多可用感測器請參考 — http://lightsensors.blogspot.com/2014/09/collection-of-various-sensors.html
3. Jetson nano也有影像編碼器與解碼器，對於其他深度學框架 (例如Pytorch, MXNet) 的支援程度也較好，它還支援 NVidia TensorRT 加速器函式庫來進行 FP16 推論與 INT8 推論。Edge TPU board 只支援 8位元 quantized Tensorflow lite 模型，且必須用到 quantization aware training。

我喜歡在各類邊緣裝置上進行深度學習應用，歡迎看看我的專題。