Raspberry Pi AI Kit（搭載 Hailo-8L 加速器）

 當你使用 Raspberry Pi AI Kit（搭載 Hailo-8L 加速器） 進行開發時，可以配合以下工具與開發流程，讓你能快速上手並部署 AI 模型進行推論：

---

🔧 配合的套件工具

📦 軟體工具與套件

工具/套件	功能說明
Hailo SDK（HailoRT）	官方提供的推論引擎與工具包，支援模型部署與推理。
Hailo Model Zoo	提供預先訓練好、可直接部署於 Hailo-8L 上的模型（YOLOv5、ResNet 等）。
TensorFlow / PyTorch / ONNX	可用於模型訓練與匯出後轉換為 Hailo 可用格式。
Hailo TAPPAS（工具與示範程式）	包含樣板專案、視覺應用 GUI、與即時推理範例。
Hailo CLI 工具	指令列工具，協助轉換模型、效能分析與模型部署。
OpenCV / GStreamer	常用於相機影像擷取與處理。
Raspberry Pi OS (64-bit)	建議搭配新版 Raspberry Pi OS (bookworm)，以相容 M.2 HAT+ 與 Hailo 驅動程式。

---

🧭 開發與操作流程

這裡是一個典型的 開發→部署→推論 的操作流程：

1️⃣ 環境準備

1. 安裝 Raspberry Pi OS（64-bit）到 SD 卡。

2. 安裝 Raspberry Pi AI Kit（M.2 HAT+ + Hailo-8L），使用 M.2 插槽並固定。

3. 安裝 Hailo 提供的驅動程式與 SDK：

   bash
   wget https://hailo.ai/downloads/hailo-sdk.sh
   chmod +x hailo-sdk.sh
   ./hailo-sdk.sh
   

4. 確認裝置是否識別：

   bash
   hailortcli device-info
   

---

2️⃣ 模型開發與轉換

1. 使用 TensorFlow / PyTorch 訓練模型

2. 匯出為 ONNX 格式或直接使用 Hailo Model Zoo 中的模型。

3. 使用 Hailo 提供的 hailomake 或 hailo_model_compile 工具將模型轉為 Hailo 可用格式（HEF 檔）：

   bash
   hailomake yolov5s
   

---

3️⃣ 模型部署與推論

1. 將 .hef 模型部署至裝置。

2. 使用 C++/Python API 或 hailortcli 執行推論。

3. 若為視覺應用，可透過 GStreamer 結合相機模組做即時預測：

   bash
   python3 apps/yolo_inference.py --hef yolov5.hef
   

---

4️⃣ 效能優化與測試

• 使用 hailortcli benchmark 測試模型推論效能。

• 調整 quantization、batch size、輸入解析度以優化效能。

---

✅ 快速上手建議（新手）

• 選擇 Hailo Model Zoo 提供的模型，先不用自己訓練。

• 使用官方範例專案 tappas（如 YOLOv5）直接體驗影像推論。

• 熟悉後再進行自定模型的轉換與部署。

---

如果你有特定應用（例如人臉辨識、姿勢估計或物件追蹤），

可以幫你找合適的模型和範例操作流程喔！