報導指 iPhone 18 Pro 可本機執行 270 億參數模型，生成速度約為前代兩倍

據科技新報 9 月 21 日報導，搭載 A20 Pro 的 iPhone 18 Pro 在一項示範中，於本機執行 270 億參數的 Bonsai-27B 模型，生成速度約為 iPhone 17 Pro 的兩倍，推理過程不需連線雲端。這是特定模型的測試結果，並非所有 AI 任務的通用效能保證。

算力與記憶體頻寬共同受關注

報導引述 Adrien Grondin 於 9 月 19 日發布的示範，並指出 A20 Pro 採用兩組 16 核神經網路引擎，合計 32 核，前代則為單組 16 核設計。

記憶體方面，報導列出 iPhone 18 Pro 與 Pro Max 配備 12GB、96 位元位寬的 LPDDR5X，統一記憶體頻寬為每秒 115.2GB。來源將這些硬體變化列為本機模型生成速度改善的因素，但沒有列出此次示範每秒產生多少 token，因此仍不能換算成明確的文字輸出速度。

能執行不代表沒有容量門檻

報導也提及，本機 AI 仍受記憶體容量約束：部分模型即使經過 2-bit 量化壓縮，仍可能太大，無法完整載入手機記憶體，進而影響效能。

因此，這次結果能支持的是特定模型已能在手機上執行，以及相較前代的速度改善。模型大小、壓縮方式與可用記憶體依然是限制，不能把單次示範延伸成手機已可全面取代雲端模型服務。

STELLAR VIEW

對台灣使用者而言，不依賴雲端推理，意味著手機本地運算的應用空間值得關注。但要判斷是否適合日常使用，仍需看到持續運作表現與具體任務品質，而不只是參數數量或相對速度。