樹莓派AI HAT+ 2擴充板開賣,8GB板載記憶體加速樹莓派5裝置端LLM

樹莓派AI HAT+ 2擴充板開賣,8GB板載記憶體加速樹莓派5裝置端LLM

產品重點

樹莓派官方發售AI HAT+ 2擴充板,專為樹莓派5設計,目標是滿足裝置端生成式AI應用需求。

  • 搭載Hailo-10H神經網路加速器,提供40 TOPS(INT4)推論效能。
  • 內建8 GB板載專用記憶體(LPDDR4X-4267 SDRAM),大幅提升大型語言模型(LLM)與視覺-語言模型(VLM)的運行能力。
  • 支援在樹莓派5上執行本地化AI工作負載,確保資料安全與低延遲運算。

售價與上市資訊

AI HAT+ 2擴充板定價為130美元,目前已開始供貨。

該產品透過單一PCIe Express介面與樹莓派5整合,實現高效能AI推論。

應用場景

適用於本地運行大型語言模型(LLM)與視覺-語言模型(VLM),如Llama 3.2等小型生成式AI模型。

來源:https://www.ithome.com.tw/news/173446

返回頂端