커뮤니티무료 가입
테크Apple TV 公開《Stick》第二季預告,11 月 4 日起播出테크iPhone 18 Pro 傳削減 10 月零件訂單,供應鏈指需求受漲價拖累스포츠巨人總教練 Vitello 最終戰遭驅逐,單季 7 次居大聯盟教頭之首포커APT 濟州站第三日邊賽,台灣選手 Weng、Liao 分別拿下季軍테크Bill Gates 呼籲 AI 納入安全與監控機制,認為停機開關仍不足스포츠北愛爾蘭挺進籃網球世界盃,擊敗愛爾蘭後靠蘇格蘭勝出取得資格테크Engram 啟動募資,以離線 AI 把聲音變成實驗音色포커Xiubo Li 領先 APT 濟州主賽首組賽事,累計報名達 520 人次테크Apple TV 公開《Stick》第二季預告,11 月 4 日起播出테크iPhone 18 Pro 傳削減 10 月零件訂單,供應鏈指需求受漲價拖累스포츠巨人總教練 Vitello 最終戰遭驅逐,單季 7 次居大聯盟教頭之首포커APT 濟州站第三日邊賽,台灣選手 Weng、Liao 分別拿下季軍테크Bill Gates 呼籲 AI 納入安全與監控機制,認為停機開關仍不足스포츠北愛爾蘭挺進籃網球世界盃,擊敗愛爾蘭後靠蘇格蘭勝出取得資格테크Engram 啟動募資,以離線 AI 把聲音變成實驗音色포커Xiubo Li 領先 APT 濟州主賽首組賽事,累計報名達 520 人次
테크뉴스

蘋果稱 M5 Ultra Mac Studio 可承載 4,800 億參數模型,叢集上看 1.6 兆

蘋果地端 AI 能力矩陣列出從 iPhone 到 Mac 叢集可支援的模型規模;M5 Ultra Mac Studio 單機上看 4,800 億參數,多機叢集則達 1.6 兆。實際運作仍受記憶體容量、頻寬與模型最佳化程度影響。

AI 生成的擬真示意圖,非新聞現場照片 Photo / AI 生成(FLUX.1 schnell)

蘋果將地端 AI 能力從手機延伸至多機叢集。據 TechNews 科技新報報導,蘋果公布的能力矩陣把裝置規格與可承載的模型規模對照,其中 M5 Ultra Mac Studio 單機最高支援 4,800 億參數,多台組成叢集則上看 1.6 兆參數。這份資料呈現的是模型承載規模,實際能否運作仍有硬體與軟體條件。

從行動裝置到工作站

矩陣列出,配備 16GB 統一記憶體的 iPhone 與 iPad,可支援最高 140 億參數模型,並列有每秒 76GB 的記憶體頻寬門檻。MacBook Air 與 Mac mini 的上限為 700 億參數,MacBook Pro 則提高至 1,200 億參數,呈現不同裝置可容納模型的差距。

高階的 M5 Ultra Mac Studio 最高可配備 512GB 統一記憶體、每秒 1.2TB 記憶體頻寬,以及 36 核心 CPU、80 核心 GPU。報導引述的蘋果教育社群資訊,也列出單機 4,800 億、多機叢集 1.6 兆參數的支援規模。

模型大小之外還有運作條件

蘋果藉此強調統一記憶體架構與裝置端推理。報導指出,地端運作的價值包含離線使用、隱私與成本可預期性,但模型能否真正跑動,仍取決於記憶體容量、頻寬及模型本身的最佳化程度,不能只看參數上限。

STELLAR VIEW

對想在本機部署 AI 的台灣開發者與團隊,這份矩陣提供了比較裝置承載能力的起點。裝置可容納的模型規模與特定任務是否好用,仍需要分開判斷。挑選設備時,仍應把目標模型與實際工作負載一起評估,才能判斷離線運作的便利是否符合需求。

Comments · 0
?로그인하면댓글로그인
No comments yet.
다른 기사