一句話總結:蘋果把 AI 拆成兩層——能在你手機裡算的就本地算,算不動的就送到蘋果自己的雲端,而且盡量不讓你的隱私離開控制範圍。 你不需要懂電晶體或矩陣乘法,只要記住三個詞:神經引擎(裝置上的 AI 加速器)、統一記憶體(CPU/GPU/神經引擎共用的「工作台」)、Private Cloud Compute(蘋果自建的「隱私友善型」雲端)。
本文從零開始,講清楚 iPhone 和 Mac 上的 AI 到底怎麼跑、哪些功能離線可用、哪些必須連網,以及開發者如果想做本地 AI 該從哪入手。讀完你會知道:為什麼 Apple Intelligence 要求 iPhone 15 Pro 起步、為什麼 8GB 記憶體的 Mac 跑大模型會卡、以及「本地 AI」和「雲端 AI」各自適合什麼任務。
一張圖:蘋果 AI 的兩層架構
本地優先(快、省電、離線可用)
- 輸入法和聽寫糾錯
- 相簿人物 / 場景識別
- Face ID、手勢追蹤
- 即時語音轉文字
必須或更適合雲端
- 長文深度改寫
- 跨文件複雜推理
- 超大規模語言模型
- 需要最新世界知識
核心邏輯:蘋果不是「全雲端」也不是「全離線」,而是按任務難度和隱私敏感度動態路由——能在你口袋裡算完的,就不上傳。
A 系列 vs M 系列:兩套晶片,同一套思路
蘋果自研晶片分兩條線,但 AI 架構是同一套設計語言:
| 晶片 | 用在哪 | 典型型號 | AI 相關特點 |
|---|---|---|---|
| A 系列 | iPhone、部分 iPad | A17 Pro、A18 Pro | 功耗極低,神經引擎為行動端最佳化;電池續航是硬約束 |
| M 系列 | Mac、Mac mini、部分 iPad Pro | M1–M4(及 Ultra / Max 變體) | 統一記憶體更大(8–128GB+),適合常駐本地大模型與開發 |
你可以把 A 系列 理解成「塞進口袋的 AI 節點」——算力夠用,但記憶體和散熱都緊。M 系列 則是「放在桌上的 AI 工作站」——同樣一顆晶片裡塞了 CPU、GPU、神經引擎,但記憶體池大得多,能同時跑 Xcode、瀏覽器和本地 7B 參數的大語言模型(詳見本站16GB vs 24GB 實測)。
從 A11(2017,iPhone X)開始,蘋果就在晶片裡加入了神經引擎(Neural Engine)。到 2024–2025 年的 Apple Intelligence 時代,神經引擎不再是「拍照 HDR 的輔助單元」,而是系統級 AI 的預設算力來源。
一塊晶片裡的三個「引擎」
蘋果晶片是 SoC(System on Chip)——把過去主機板上分散的零件焊到一塊矽片上。和 AI 直接相關的有三個算力單元:
- CPU(中央處理器)——通用計算:開啟應用程式、跑作業系統、處理邏輯判斷。AI 也能用 CPU 算,但做矩陣運算效率低、耗電高。
- GPU(圖形處理器)——原本畫圖、渲染影片;現在也參與 AI 推理,尤其大模型的部分層。M 系列 GPU 核數多,適合平行計算。
- 神經引擎 / NPU(Neural Processing Unit)——專為神經網路設計的加速器,擅長批次矩陣乘法和卷積。蘋果的 Siri 語音識別、相簿人臉識別、即時字幕,大多走這條路。
TOPS 是什麼?
廣告裡常見的「38 TOPS」= 每秒 38 萬億次運算(Tera Operations Per Second)。數字越大,神經引擎理論峰值越高——但實際體驗還取決於記憶體頻寬和模型大小,不能只看這一個數。
三者的關係不是「三選一」,而是協同排程:系統會根據當前任務,把模型的不同層分配給 CPU、GPU 或神經引擎。開發者透過 Core ML 框架提交模型後,蘋果的執行時期會自動選擇最佳硬體路徑——你不需要手動指定「用 NPU 跑」。
統一記憶體:AI 的隱形瓶頸
這是很多人忽略、但對 AI 體驗影響最大的概念。
傳統 PC 裡,CPU 有 CPU 記憶體,獨立顯示卡有顯存,資料來回搬運很慢。蘋果 M 系列(以及 A 系列)採用統一記憶體架構(Unified Memory):CPU、GPU、神經引擎共用同一塊記憶體池,就像三個人共用一張大桌子,而不是各自在小隔間裡幹活。
對 AI 意味著什麼?
- 模型載入一次,所有算力單元都能直接存取——延遲低。
- 記憶體總量是硬上限:一個 7B 參數的 4-bit 量化模型大約佔 4–5GB;Chrome + Xcode + 模型同時在線,16GB 機器很容易開始 Swap(把記憶體溢出的資料寫到硬碟),體感就是「一切變慢」。
- iPhone 記憶體更小(6–8GB 常見),所以手機上的本地模型比 Mac 更小、更積極地量化。
如果你已經在 Mac 上跑過 Ollama 或 Apple Intelligence 開發工具,記憶體壓力比 CPU 跑分更能預測「卡不卡」。更深入的記憶體與 workload 分析,見M4/M5 Apple Silicon AI 計算平台一文。
本地 AI 能做什麼
「本地 AI」= 模型權重載入在你的裝置記憶體裡,推理過程不經過外部伺服器。蘋果生態裡,以下功能以本地為主:
| 功能 | 跑在哪 | 你能感知到的體驗 |
|---|---|---|
| Face ID / Touch ID | 安全隔離區 + 神經引擎 | 人臉資料不出裝置,解鎖極快 |
| 相簿人物、寵物、場景分類 | 裝置端索引 | 沒網也能搜「去年海邊的狗」 |
| 即時聽寫、語音轉文字 | 本地語音識別模型 | 飛航模式下仍可用(系統語言支援範圍內) |
| 輸入法預測、錯別字糾正 | 裝置端語言模型 | 低延遲,不消耗流量 |
| 視覺智慧(圈選識別螢幕內容) | 本地視覺模型 + 按需查雲端 | 圈選本身本地完成,深度問答可能上雲 |
| Genmoji、Image Playground(基礎) | 裝置端生成模型 | 受裝置算力和記憶體限制,複雜度有上限 |
本地 AI 的三大優勢:隱私(資料不離開裝置)、低延遲(沒有網路往返)、離線可用。代價是模型不能太大——手機塞不下 GPT-4 級別的完整權重,所以複雜任務必須上雲。
雲端 AI:Private Cloud Compute 是什麼
當本地算力或模型能力不夠時,Apple Intelligence 會把任務送到Private Cloud Compute(PCC,私有雲端運算)——蘋果自建的、專門跑 AI 推理的伺服器叢集,跑在 Apple Silicon 上。
PCC 和普通「把資料發到 OpenAI」有幾點關鍵區別:
- 資料不用於訓練——蘋果聲明 PCC 上的請求不會用來訓練模型,處理完即丟棄。
- 無持久儲存——你的請求不會在雲端留下可關聯的身分檔案。
- 可驗證的隱私——蘋果發布了 PCC 的安全架構說明,第三方安全研究員可稽核(這是蘋果宣傳上的差異化)。
- 硬體同構——雲端節點也用 Apple Silicon,模型和執行時期與裝置端更接近,便於「本地裝不下就無縫升檔到雲端」。
此外,Apple Intelligence 還整合了ChatGPT(OpenAI)作為可選擴展:當你問的問題超出蘋果自家模型能力、且你明確同意時,請求會轉到 ChatGPT——這時隱私政策按 OpenAI 的規則走,系統會提前告知。
和普通「AI App 調 API」有何不同?
你在 App Store 下載的第三方 AI 應用程式,通常直接把對話發到廠商伺服器。Apple Intelligence 的設計目標是:預設本地 → 搞不定走 PCC → 仍不夠才問你要不要用 ChatGPT。層級遞進,而不是一股腦全上雲。
蘋果怎麼決定本地還是雲端
作為使用者,你不需要手動切換「本地模式 / 雲端模式」——系統在背景做路由。判斷依據大致包括:
| 因素 | 傾向本地 | 傾向雲端 |
|---|---|---|
| 任務複雜度 | 糾錯一個詞、分類一張照片 | 重寫整篇報告、多步推理 |
| 模型大小 | 幾 MB 到幾百 MB 的裝置端模型 | 需要數十億參數的大語言模型 |
| 隱私敏感度 | 面容、健康、位置相關 | 已去識別的通用知識問答 |
| 網路狀態 | 離線或弱網時強制本地 | Wi-Fi / 5G 良好時允許升檔 |
| 裝置能力 | 神經引擎算力足夠 | 舊款裝置或記憶體不足時降級或上雲 |
這套路由邏輯和開發者在 Mac 上做的「小模型本地跑 + 大模型調 API」異曲同工——只是蘋果在系統層替你自動化了。想了解 API 調用的費用對比,可參考本站Token 價格對比一文。
哪些裝置跑得動
Apple Intelligence 有明確的硬體門檻(截至 2026 年初的官方要求):
| 裝置 | 最低要求 | 原因(通俗版) |
|---|---|---|
| iPhone | iPhone 15 Pro / Pro Max 及更新 | A17 Pro 起神經引擎算力和記憶體滿足端側大模型需求 |
| iPad | M1 及以上 iPad | 與 Mac 同代晶片,統一記憶體 ≥ 8GB |
| Mac | M1 及以上 | Intel Mac 無神經引擎,無法跑完整 Apple Intelligence |
| Apple Watch | 部分 AI 功能(如智慧堆疊) | S 系列晶片有獨立神經引擎,但模型更小 |
重要提醒:「能裝新系統」≠「能跑完整 AI」。iPhone 15 標準版(非 Pro)和 8GB 記憶體的 M1 Mac 使用者,可能會發現部分功能缺失或體驗降級。買新機時如果看重 AI,記憶體檔和晶片代際比儲存容量更值得加錢。
開發者視角:Core ML 與 MLX
如果你是開發者,想把 AI 能力嵌進自己的 App 或在 Mac 上跑開源模型,蘋果生態有兩條主路徑:
Core ML — 部署到 iPhone / Mac / iPad
蘋果官方的裝置端機器學習框架。你把 PyTorch / TensorFlow 模型轉換成 .mlpackage 格式,Xcode 整合後,執行時期自動排程神經引擎 / GPU / CPU。
- 適合:圖像分類、物體偵測、端側推薦、小型語言模型。
- 優勢:零 API 費用、離線、App Store 審核友善。
- 限制:模型大小受裝置記憶體約束;超大 LLM 不現實。
MLX — 在 Mac 上跑開源大模型
蘋果機器學習研究團隊開源的框架,針對 Apple Silicon 最佳化。配合 Ollama 等工具,開發者可以在 Mac 上本地跑 Llama、Qwen 等 7B–14B 模型,用於程式碼補全、私有知識庫問答、CI 前的本地測試。
- 適合:開發階段驗證、不想把程式碼發到雲端的場景、降低 API 帳單。
- 限制:需要足夠統一記憶體(16GB 起步,24GB 更舒適);推理速度仍慢於雲端 frontier 模型。
更完整的 Mac 本地 AI 工作站搭建,見Claude Code + Mac mini AI 工作站與Mac mini 雲主機 Core ML 推理。
本地 vs 雲端:一張對照表
| 維度 | 本地 AI(裝置端) | 雲端 AI(PCC / 第三方 API) |
|---|---|---|
| 隱私 | 資料不離開裝置 ★★★★★ | 取決於服務商;PCC 較高,第三方 API 需看條款 |
| 延遲 | 毫秒級 ★★★★★ | 受網路影響,通常 1–10 秒+ |
| 離線 | 可用 ★★★★★ | 必須連網 |
| 模型能力 | 中小模型,複雜推理弱 ★★☆ | 大模型,複雜任務強 ★★★★★ |
| 費用 | 硬體一次性投入,無按次計費 | 訂閱(Apple Intelligence+)或 API 按 token 計費 |
| 硬體要求 | 需要較新 Apple Silicon + 足夠記憶體 | 任意能連網的裝置 |
實用建議:日常糾錯、相簿、聽寫 → 本地就夠。寫長文、做研究、跨檔案分析 → 雲端更合適。開發者做產品時,預設本地、按需升檔雲端,是 2026 年最穩妥的架構選擇。
常見問題
蘋果 AI 晶片和普通 CPU 有什麼區別? 蘋果晶片是 SoC,一塊晶片裡同時有 CPU、GPU 和神經引擎。AI 任務優先走神經引擎,比純 CPU 算矩陣乘法快得多、也更省電。
Apple Intelligence 是完全離線的嗎? 不是。簡單任務在裝置上完成;複雜寫作、深度問答可能走 Private Cloud Compute 或 ChatGPT,需連網且會徵得使用者同意。
舊款 iPhone 能用 Apple Intelligence 嗎? 官方要求 iPhone 15 Pro 及以上。核心限制是神經引擎算力和記憶體,舊款裝置可能無法啟用完整功能。
開發者怎麼利用蘋果本地 AI? 透過 Core ML 部署模型到 App,或用 MLX / Ollama 在 Mac 上跑開源大模型。本地推理零 API 費用,但受記憶體和模型大小限制。
買 Mac 做 AI 開發,記憶體怎麼選? 16GB 能跑 7B 模型但容易 Swap;24GB 是 2026 年本地 AI 開發的甜點位。詳見16GB vs 24GB 實測。
- M4/M5 Apple Silicon AI 計算平台選型
- M4 Mac mini 16GB vs 24GB 本地 AI 實測
- Ollama 私有推理層在 Cloud Mac 上的定位
- Token 是什麼?2026 AI 模型價格對比
ZavCloud
在 Mac 上驗證本地 AI,再決定買哪檔記憶體
獨享 Mac mini M4、原生 macOS——跑 Ollama、Core ML 推理或 Claude Code,按日租用,先測 Swap 和 tok/s 再下單實體機。
查看 Cloud Mac 方案