科技新聞
蘋果稱 M5 Ultra Mac Studio 可承載 4,800 億參數模型,叢集上看 1.6 兆
蘋果地端 AI 能力矩陣列出從 iPhone 到 Mac 叢集可支援的模型規模;M5 Ultra Mac Studio 單機上看 4,800 億參數,多機叢集則達 1.6 兆。實際運作仍受記憶體容量、頻寬與模型最佳化程度影響。
蘋果將地端 AI 能力從手機延伸至多機叢集。據 TechNews 科技新報報導,蘋果公布的能力矩陣把裝置規格與可承載的模型規模對照,其中 M5 Ultra Mac Studio 單機最高支援 4,800 億參數,多台組成叢集則上看 1.6 兆參數。這份資料呈現的是模型承載規模,實際能否運作仍有硬體與軟體條件。
從行動裝置到工作站
矩陣列出,配備 16GB 統一記憶體的 iPhone 與 iPad,可支援最高 140 億參數模型,並列有每秒 76GB 的記憶體頻寬門檻。MacBook Air 與 Mac mini 的上限為 700 億參數,MacBook Pro 則提高至 1,200 億參數,呈現不同裝置可容納模型的差距。
高階的 M5 Ultra Mac Studio 最高可配備 512GB 統一記憶體、每秒 1.2TB 記憶體頻寬,以及 36 核心 CPU、80 核心 GPU。報導引述的蘋果教育社群資訊,也列出單機 4,800 億、多機叢集 1.6 兆參數的支援規模。
模型大小之外還有運作條件
蘋果藉此強調統一記憶體架構與裝置端推理。報導指出,地端運作的價值包含離線使用、隱私與成本可預期性,但模型能否真正跑動,仍取決於記憶體容量、頻寬及模型本身的最佳化程度,不能只看參數上限。
STELLAR VIEW
對想在本機部署 AI 的台灣開發者與團隊,這份矩陣提供了比較裝置承載能力的起點。裝置可容納的模型規模與特定任務是否好用,仍需要分開判斷。挑選設備時,仍應把目標模型與實際工作負載一起評估,才能判斷離線運作的便利是否符合需求。
留言 · 0
?登入後才能留言登入
還沒有人留言。



