你是否曾想過，如何讓 AI 技術不再只是「雲端專利」，而能真正走進各種裝置、快速落地？今天就帶大家一窺 Advantech 工程團隊最新的 AI 實驗，帶你從頭到尾體驗 Qualcomm AI Hub 如何讓 AI 部署變得簡單又聰明！
什麼是 Qualcomm AI Hub？AI 開發者的神隊友！ #
想像一下，只要幾分鐘，你就能將自己訓練好的影像、語音或語者辨識 AI 模型，部署到各式邊緣裝置上。這不再是夢想，因為 Qualcomm® AI Hub 正是為此而生！
Qualcomm AI Hub 是一個一站式 AI 模型部署平台，支援多種 AI 模型與裝置，無論你是開發者、系統整合商，還是企業主，都能在這裡快速找到合適的模型、即時評估裝置效能，並且立即部署到你的邊緣裝置上。
想更快了解？可以先看看官方的 簡介影片。
技術背景：為什麼邊緣 AI 這麼夯？ #
隨著 IoT 與智慧應用爆炸成長，AI 不再只是「雲端的專利」。從智慧監控、工廠自動化到智慧零售，邊緣裝置上的 AI 推論（Edge AI Inference）正在改變產業遊戲規則。
- 即時反應： 邊緣 AI 讓資料不必傳回雲端，延遲超低、反應超快。
- 資料安全： 敏感資訊不離開現場，企業更安心。
- 彈性部署： 根據不同裝置與應用，彈性選擇最佳 AI 模型。
而市場上對於「如何有效率地部署 AI 到各種硬體」的需求，也越來越強烈。這正是我們選擇 Qualcomm AI Hub 做實驗的原因！
Advantech 實驗室現場直擊：AI 模型一鍵部署實戰 #
這次，我們聚焦在 Qualcomm QCS6490 這顆高效能 AI 處理器，實際驗證透過 AI Hub 部署物件偵測模型的流程與效能。接下來就跟著我們的腳步，一起體驗！
Step 1. 登入 AI Hub，選擇你的裝置與模型 #
- 進入 AI Hub 官網。
- 選擇目標裝置 QCS6490，系統會自動列出支援的 AI 模型與應用。
- 以物件偵測為例，我們選擇了目前主流的 YOLOv8 量化版。
Step 2. 快速掌握模型效能數據 #
點進模型細節頁面，可以清楚看到：
- 模型名稱與用途（如：物件偵測）
- 在 QCS6490 上的實際推論時間、記憶體使用量
這些數據直接幫助你評估，哪個模型最適合你的應用情境。
Step-by-step！如何在本地測試 AI Hub 實力？ #
系統需求 #
| 項目 | 規格 | 備註 |
|---|---|---|
| 平台 | Intel 10~13 代 CPU | x86_64 架構 |
| 作業系統 | Ubuntu 22.04 | 需 Python 3.10 |
- 主機需為 x86_64 架構並連網
操作流程 #
-
建立開發環境
python3 -m venv env-ai-hub -
安裝 AI Hub 套件
cd env-ai-hub source bin/activate pip install qai_hub_models -
註冊並登入 Qualcomm AI Hub
- 申請 Qualcomm® ID
- 登入 Qualcomm® AI Hub
- 設定 API token：
qai-hub configure --api_token API_TOKEN
-
安裝 YOLOv7 物件偵測模型
pip install "qai_hub_models[yolov7]"更多範例可參考 AI-Hub Models Sample
-
查詢支援裝置
qai-hub list-devices
-
執行 YOLOv7 模型測試
python -m qai_hub_models.models.yolov7.demo --on-device --device "QCS6490 (Proxy)" --device-os 12 -
觀察推論結果
- 結果會直接在主機顯示
- 結果會直接在主機顯示
實驗成果亮點：AI 部署，前所未有的輕鬆！ #
這次實驗證明，透過 Qualcomm AI Hub：
- 模型選擇、效能評估、部署測試一條龍，無須繁瑣設定，極大降低開發門檻。
- 支援多種主流 AI 模型與裝置，彈性十足，場景應用無限。
- 只需幾分鐘，即可完成模型部署與效能驗證，大幅縮短上市時間。
這不僅讓 Advantech 的產品開發更靈活，也讓我們的合作夥伴與客戶能更快享受到 AI 帶來的創新價值。
結語與展望：AI 邊緣應用，未來無限大！ #
AI 正在快速走向「隨處可見」的新時代。這次 Advantech 與 Qualcomm AI Hub 的實驗，讓我們見證了 AI 部署的嶄新效率與彈性。
**未來，我們將持續投入 AI 相關研發，探索更多產業應用場景，協助客戶快速導入、創造更高價值。**如果你對 AI 邊緣運算、智慧應用有興趣，或想了解更多進階應用，歡迎與我們聯繫、共同開創智慧未來！
Advantech 致力於持續創新，成為您邊緣 AI 轉型的最佳夥伴！