搭載 Intel ARC A770 雙顯卡的 MiTAC MZ1-10ADP，小型工控主機也能跑大型語言模型

前言：AI 不必靠大伺服器，Intel ARC 帶來新選擇

AI 不再只能依賴大型伺服器才能運行。隨著 Intel 推出 ARC 顯示卡，像 A770 這樣的 GPU 已能支援 AI 推論，為邊緣裝置帶來實用又高效的運算能力。這篇文章介紹 MiTAC 的 MZ1-10ADP 工業電腦，結合雙 ARC A770 與 Intel Alder Lake-S 處理器，在小型設備上就能順利執行 Llama-3.1-8B 模型，實現真正的去中心化 AI 部署。

---

硬體簡介：MiTAC MZ1-10ADP 平台特色

• 支援 Intel® Alder Lake-S / Raptor Lake-S Core-i 處理器（最高 125W）
• 支援雙 DDR5 SO-DIMM（最高 64GB）
• 多樣顯示輸出：HDMI、DisplayPort、VGA
• Dual 2.5G LAN，適合高速資料傳輸
• 10 x USB、4 x RS232、32-bit DIO，工業應用友善
• 9~48V 寬電壓設計，適用於多樣場景
• 支援 PCIe Gen4，提供高速擴充能力

這樣的配置非常適合工業現場或嵌入式應用，不僅節能穩定，也具備強大擴展性。

---

顯示卡配置：2x Intel ARC A770 的強力加持

• 配置雙張 Intel ARC A770 顯示卡，支援高效 AI 推論
• ARC 顯示卡近年逐步導入 AI 加速支援，為開發者帶來更多選擇
• 相比傳統高價 GPU，A770 提供性價比更高的本地運算資源

Intel ARC A770 雖以遊戲定位為主，但在 LLM 推論任務中亦表現不俗，尤其在 INT8 與 FP16 格式下，效能表現令人驚喜。

---

Llama 模型效能實測：推論速度分析

實測使用模型：meta-llama/Llama-3.1-8B-Instruct
測試裝置：MiTAC MZ1-10ADP + 2x Intel ARC A770

這樣的效能對於即時語意理解、指令生成甚至聊天機器人等應用，完全足夠。特別是在嵌入式場景中，能用如此規模的硬體跑出這樣表現，意義重大。

---

小型化裝置的優勢與應用場景

• 省成本：不需中央 GPU 伺服器，節省部署與維運成本
• 邊緣即時運算：適用於 AIoT、智慧工廠、智慧零售等場景
• 可擴展與部署彈性高：可根據實際需求部署於各種邊緣端裝置
• 簡化架構：減少資料傳輸延遲與雲端依賴

這類設備讓 AI 真正「落地」，不再只是實驗室裡的技術。

---

結語：去中心化 AI 運算的新篇章

MiTAC MZ1-10ADP 搭配 Intel ARC A770 的解決方案，展示了高效能、低功耗、小體積的 AI 推論可能性。不再仰賴雲端 GPU，也能在邊緣裝置中運行 LLM 模型，開啟去中心化 AI 的全新時代。

對於想開發私有化模型部署、邊緣智能產品的團隊來說，這樣的架構是一個值得關注的方向。

---