見到 Mac Studio 可以勾到 M5 Ultra、512GB 統一記憶體、8TB SSD，銀碼一跳——港行官方配置頁而家顯示大約 HK$197,249（以 Apple 香港商店 當頁為準，價錢會變）。腦入面第二個聲音就係：同一筆錢，拆成兩部、甚至更多部，會唔會更啱 本地部署——幾個模型、幾條工作流一齊跑？
對照一下上代：Mac Studio M3 Ultra「滿血」一檔，香港當年高配大約 七萬多（視你點配 SSD；例如 PCM 記載 32 核／80 核打爆 512GB + 16TB 官方約 HK$107,749）。而家同檔思維嘅 M5 Ultra 512GB + 8TB 已近 HK$19.7 萬——記憶體仲係 512，但晶片同儲存組合貴咗一大截。正正因為貴，先更值得問：錢係咪一定要塞進一部機。
講清楚先：公開實測而家多落在 M5 Ultra 256GB（例如並發 session、Flash-Next tok/s）；512GB 滿血版幾乎未見完整對照數據。所以下面講 512 同「同價分拆」嘅 token／並行，多數係 用 256 實測推上去嘅粗估，目的係 引發思考——唔係保證你落單後會跑出邊個數。真正想帶出嘅係：本地部署時，多部機有咩實際好處。
而家邊啲大模型「比較好、比較易」喺本地跑
Apple Silicon 上，普通人最易上手通常係呢幾條路：
- Ollama：一條指令拉模型，適合先試水。
- LM Studio：有介面，調 context、睇 VRAM／統一記憶體用量方便。
- MLX／mlx-lm：多數情況下 Apple 晶片 decode 會快啲、記憶體亦往往慳啲。
「比較好又易」嘅細／中型選擇（2026 年常見、社群討論多）：
| 類型 | 例子（4-bit 量級） | 粗略權重佔用 | 點解易用 |
|---|---|---|---|
| 細、快 | Qwen 約 7B–9B 級 | 約 5–8GB 起 | 裝完即傾，適合草稿、分類、短通告 |
| 中、密實 | Gemma／Qwen 約 27B 級 | 約 15–20GB | 質素明顯好啲，一部 64GB+ 機好舒服 |
| 中、MoE | 約 30B 總參、每次只起動幾 B（例如 A3B 類） | 記憶體似中型，速度似細型 | 記憶體換速度好抵，Mac 好啱 |
| 大一檔 | 70B 級 4-bit | 約 35–45GB+ | 要 64–128GB 機先穩陣留 context |
經驗法則：4-bit 大約每 10 億參數 0.5–0.6GB，再加 KV cache（context 愈長愈食） 同系統本身。建議總用量唔好長期食爆統一記憶體嘅 75–80%，唔係就開始 swap、token 速度插水。
Ollama 預設超長 context 可以令「細模型」突然好食 RAM——記得自己調低 num_ctx。
一部機同時跑兩個模型：可唔可以？Token 大概點睇
可以。 統一記憶體夠大，Ollama／LM Studio／兩個 MLX server 開住兩個 model 好常見。例如：
- 一個 9B 負責「快問快答／改語氣」
- 一個 27B 或 MoE 負責「寫長文、對 code」
喺 512GB Ultra 上，兩個中型模型加長 context 仍然好鬆。問題唔係「入唔入到」，而係：
- 頻寬共用：M5 Ultra 約 1.2TB/s 記憶體頻寬。兩個 model 一齊 decode，大家搶同一條喉——各自 tok/s 通常低過「獨佔成部機」。
- 你真正想要嘅係邊種： – 要 一個超大模型 或者 好長 context → 單機大 RAM 贏。 – 要 兩條獨立工作流同時全速（例如一邊寫稿一邊跑監測摘要）→ 分拆兩部機，加總 tok/s 往往更高。
以下係 粗估（用公開 256GB／相近晶片數量級推去 512 同分拆；512 無完整公開對照，只係諗法框架）：
| 場景 | 粗估 |
|---|---|
| Ultra 獨跑 9B（MLX 4-bit） | 大約每秒近百 token 量級 |
| Ultra 獨跑 27B dense 4-bit | 大約每秒二三十 token 量級 |
| Ultra 獨跑 MoE（約 30B-A3B 類） | 往往明顯快過同記憶體佔用嘅 dense 27B |
| Ultra 同時跑兩個 27B 級 | 記憶體仍夠；各自速度多數會打個折（搶頻寬），總吞吐未必等於「兩倍獨跑」 |
| 兩部機各跑一個 27B | 各有自己嘅頻寬 → 加總更接近「兩倍獨跑」 |
一句：單機 512GB 係「一台巨型共享廚房」；分拆係「兩間細廚房同時煮」——並行任務通常後者加總更快。
用 HK$197,249（512GB／8TB）做餅，點拆
以下價錢取自 Apple 香港商店配置頁（撰稿時核對），方便對比；落單前請再開一次官方頁。
基準
- Mac Studio M5 Ultra（36 核 CPU／80 核 GPU）512GB + 8TB ≈ HK$197,249
常見「半滿血／較細」Studio
- Ultra 36／80、256GB + 8TB ≈ HK$110,999
- Ultra 36／80、256GB + 1TB ≈ HK$84,749
- Ultra 36／80、96GB + 1TB ≈ HK$54,749
- M5 Max 18／40、128GB + 1TB ≈ HK$41,749
Mac mini（分拆常用）
- M5 Pro 18／20、64GB + 1TB ≈ HK$25,249
- M6、32GB + 1TB ≈ HK$14,049
組合 A：一部 512 滿血
- 錢：≈ 197,249（一部）
- 強項：塞得落好大嘅單一模型、超長 context、一個 process 內多 agent 共用大 KV。
- 弱項：兩個重模型並行時搶同一條 1.2TB/s；壞機／要維修就全家停工。
組合 B：兩部「256GB 級」
- 例：兩部 Ultra 256GB／1TB ≈ 84,749 × 2 = HK$169,498（仲剩大約二萬幾可以加一部 mini 或者升級 SSD）
- 或者一部 256／8TB（110,999）+ 一部 Max 128／1TB（41,749）≈ HK$152,748
- 強項：兩個模型各佔一部機，並行 token 加總通常好過單機雙開；一部維修另一部仲用得。
- 弱項：單一模型上限低過 512GB；兩套系統要自己管更新、備份、網絡。
組合 C：M5 Max 128 + Mac mini M5 Pro 64（同價可買多套）
- 一套：41,749 + 25,249 ≈ HK$66,998
- 同一筆 197,249 大約可以買 約三套（3 × 66,998 ≈ 200,994，貼近預算，要自己微調 SSD／記憶體）
- 強項：三個獨立節點——例如「寫手模型／監測摘要／實驗模型」分開；總並行吞吐可以好高。
- 弱項：單機塞唔落 70B+ 大型；每部頻寬低過 Ultra（Max 約 0.46–0.61TB/s，Pro 約 0.3TB/s）。
組合 D：分拆更多——「一堆 mini／Max」
- 例：一部 Ultra 96GB（54,749）做「大模型位」+ 兩部 Max 128（41,749×2）+ 兩部 mini Pro 64（25,249×2）≈ HK$188,745
- 或者乾脆四至七部高配 mini／Max 打散（視你點配）。
- 強項：故障域細、可按任務擴充、Apple 宣傳 Ultra 亦可用 Thunderbolt 5 做分散式推論（官方指叢集對比單機可快達約 3 倍，視工作負載）。
- 弱項：電費、網線、管理成本、軟件要自己做路由；唔係「開箱即一台神機」。
實測場景：Qwen3-8B + Qwen-Image-2.1 一齊跑
假設你日常就係呢對組合（好常見）：
- 文字：Qwen3-8B（4-bit 權重大約 4.6GB，短 context 連 cache 約 6GB 起）
- 出圖：Qwen-Image-2.1（mflux 8-bit 峰值常見約 30–37GB；1024×1024）
兩個一齊常駐，粗略要 約 40GB+ 統一記憶體先舒服（再加系統同瀏覽器）。以下係 粗估，用公開 256GB／社群數字推去各組合——512 一欄尤其係推估，用來諗分拆值唔值得，唔係落單保證。
| 組合 | Qwen3-8B（短對話 decode） | Qwen-Image-2.1（1024，模型已載入） | 兩個一齊時點樣 |
|---|---|---|---|
| A：一部 M5 Ultra 512／8TB | 大約 90–120+ tok/s 量級（MLX 4-bit；mlx.app 估 M5 Ultra 8-bit 約 62–110，M3 Ultra 實測 4-bit 短對話約 120） | Base 大約 30–35 秒／張（M5 Ultra 256GB 上 mflux 約 30s；另有對照約 35s）；Turbo 大約 8 秒／張 量級 | 記憶體極鬆。一齊跑時文字多數仲快；出圖會分薄 GPU／頻寬，或慢一成半截，但仍然一部機搞掂 |
| B：兩部 256GB 級 Ultra | 文字機獨佔：同上，約 100+ tok/s | 出圖機獨佔：同上約 30s／Turbo ~8s，唔使同文字搶 | 並行最靚：一邊出 token 一邊出圖，加總吞吐通常贏單機雙開 |
| C：Max 128 + mini M5 Pro 64 | Max 上約 24–42 tok/s（mlx.app M5 Max 量級）；Pro 64 約 16–28 tok/s | Max 128 夠放 Image（~37GB）；速度估介乎 M4 Max（20 step 約兩分鐘量級）同 M5 Ultra 之間，粗略 約 1–2 分鐘／張（Base），Turbo 或數十秒 | 建議 Max 專出圖、mini 專 8B，定 Max 雙載、mini 做第二條文字。三套同價就係三對流水線 |
| D：分拆更多（Ultra 96 + Max + mini…） | 每部 mini／Max 各自 約 16–40 tok/s 量級；可開多條 8B | 把 Image 固定喺 Ultra 或 Max；其餘節點唔好硬塞 Base（32GB M6 偏緊） | 最啱「多個寫手文字流 + 一部出圖機」；總文字 token 可以好高，出圖仍然受單一繪圖機上限 |
記憶體速查：8B 好細，瓶頸幾乎一定係 Image-2.1。32GB M6 mini 用輕量 4-bit 包或者 Turbo 或可試，但同 8B 長期雙開唔穩陣——分拆時寧願留部 ≥64GB 畀出圖。
實務一句：若你真係日日 8B 傾偈 + Image-2 出圖，用 HK$19.7 萬買 512 滿血版，記憶體過剩；兩部 256 或者 Max+mini 乘幾套，通常用實際「每分鐘出幾多字／幾多圖」計會更抵。512 仍然贏喺：超長 context、更大文字模型、出圖同時仲要載住好大 LLM。
公開測試摘錄：Ultra／Max 級 token（有來源）
細機（例如入門 M5／Pro）同 Ultra 差距太大，比較意義低，呢度只留 Max／Ultra 級。方法、context、量化唔同，只可橫向參考；你可接受門檻大約 30 tok/s 起。
| 機／晶片 | 模型 | 條件 | Decode 大約 | 來源 |
|---|---|---|---|---|
| M3 Ultra 60 核、96GB | Qwen3-8B 4-bit | MLX，短對話 | 約 120 tok/s | llm-speed |
| M5 Max、48GB | Qwen3-14B 4-bit | MLX | 約 63 tok/s | llamaperf |
| M5 Max、48GB | Qwen3-32B 4-bit | MLX | 約 28 tok/s（貼近／略低於 30） | 同上 |
| M5 Max 40 核、128GB | Qwen3.8-27B 4-bit | oMLX，4k–16k | 約 31–33 tok/s | oMLX |
| M5 Ultra | Qwen3.8-27B | 公開實測整理 | 約 48–51 tok/s 量級 | llmcheck／整理文 |
| M5 Ultra 256GB | Qwen-Image-2.1 | mflux，1024 | 約 30 秒／張（Turbo 另約 8 秒量級） | 社群實測整理 |
M5 Ultra 256GB：公開有冇講過「同時並發幾多」？
有，而且講得幾具體——要分清兩種「同時」：
1）同一模型、多條請求一齊 decode（batch／多 session）
- MacStories 用 M5 Ultra 256GB、oMLX 跑 Qwen3.8-Flash-Next：實測 1／2／3 條同時。作者寫明 256GB 上可以 stack 到三條 Flash-Next session；三條一齊時整組約 22.1 秒做完（每條約 6.5K in／600 out），合併輸出約 81.5 tok/s（單條時合併約 66）。重點：每條會慢過獨跑，但三條都完成得到。
- llamaperf 匯總 同一機 Flash-Next：單條平均 decode 約 121 tok/s；2 並行約 74 tok/s／條；4 並行約 41 tok/s／條——若以 ≥30 tok/s 做「仲舒服」門檻，大約 2–4 條並行仍過線；再加就會跌穿。
- 27B 級：oMLX 有 batch 1／2／4 總吞吐上升嘅提交；另有服務向測試（注意有啲係 192GB 機）顯示 27B 可以推到更高 concurrent，但 每 user tok/s 會一路跌——過咗你嘅 30 門檻就要自己睇表。
2）記憶體入面「同時住住幾個模型」
256GB 統一記憶體夠大，可以 預載多個中型模型（例如一個快答、一個寫長文／出圖），唔等於全部一齊全速 decode。一齊 decode 仍然係搶 同一條約 1.2TB/s 頻寬。
實用結論：256GB Ultra 上，本地 agent／多 session 嘅「舒服並發」公開實測多落在 2–3 條（Flash-Next 類）；推到 4 條仍可過約 40 tok/s／條。 512GB 理論上 KV／同時載模型更鬆，但 頻寬仍然係一條約 1.2TB/s——唔會 magically 變成「四倍並行仍每條全速」。要更多條仍然 ≥30，細啲模型、短啲 context，或者 分拆多部機各有自己頻寬，往往先係本題。
本地部署：點解會諗「多部機」？
單機大 RAM 好吸引——一個大模型、超長 context、剪片旁邊仲載住 LLM，一部搞掂。但本地真正日用，好多時唔係「一部神機塞爆」，而係 幾條工作流長期開住：寫稿、出圖、監測摘要、實驗新模型……呢時多部機嘅好處好實際：
- 各有自己嘅記憶體頻寬 — 單機雙開係搶同一條喉；兩部機各跑一個模型，加總吞吐通常更接近「兩倍獨跑」，而唔係打個折。
- 故障域細 — 一部要更新、過熱、或者你試爆某個實驗模型，另一部仲可以照寫稿／照告警。
- 任務隔離 — 出圖機專門載 Image；文字機專門載 chat；監測用細模型，唔同寫手搶資源。本地部署最怕「一個 process 食爆，全家卡」。
- 同價換節點數 — 用 512 滿血嗰筆錢，可以變成兩部 256，或者 Max + mini 乘幾套；並行任務愈多，呢種換法愈值得計。
- 擴充彈性 — 先兩部夠用，之後再加一部做實驗，唔使一次過買到頂。Thunderbolt 5 分散式推論係另一條路，但日常「兩條獨立 API」往往簡單過一開始就玩叢集。
512 仍然有位置：你證實要 單一超大模型、或者 超長 context + 多 agent 共用大 KV。只係喺「未有 512 公開並發數據」之前，更值得先問——你嘅本地負載，係一條大河，定係幾條細河要一齊流？
邊種「跑 token 會更多」？
要講清楚你比較緊嘅係邊個指標：
- 單一對話、要最大最醒嗰個模型 → 512GB 滿血方向通常啱（記得：呢度多係推估）。
- 同時兩條以上獨立本地推論（兩個 chat、兩個助手後端、一邊寫 code 一邊摘要郵件）→ 分拆兩部或更多，加總 tok/s 多數更高——本地部署最常見嘅痛點就係呢度。
- 要快、又要慳記憶體 → 優先揀 MoE 細起動 模型，再決定要唔要 Ultra。
- 影相／剪片／寫 code 同 AI 一齊 → 單機大 RAM 方便「剪片唔停、旁邊仲載住模型」；分拆就係「一部專創作、一部專模型」。
實務例子：
- 「寫手」用 27B 寫 blog 初稿；「監測」用 9B 將
curl／log 變一句人話告警——兩部機各跑各的，唔使 512。 - 要本機試 100B+ 級或者超長文件一次過入 context——512GB 先有討論價值。
- 剪 8K 同時載住大模型——大統一記憶體單機舒服啲。
機再滿血，都要 set 好 rules
分拆幾多部都好，如果你用會動手嘅本地助手，記得寫清楚規則：
- 寫手：只出稿，唔自動發佈、唔開付款。
- 監測：只告警，唔准自行重啟伺服器。
- 彙總：定時整清單，外寄停低等你確認。
密碼、OTP、學生個資唔貼 chat；用 Vault／1Password。機係工具，rules 先係遙控。
我自己會點揀（唔係叫你跟）
- 已經證實自己要 一個好大嘅本機模型 或者超長 context → 先望 512 滿血。
- 主要係 幾個中型模型並行、想故障隔離、想本地同價換更多吞吐 → 我會優先計 兩部 256 或者 Max 128 + mini Pro 64 乘幾套。
- 主要瀏覽文書 → 唔使糾結呢篇，望 Mac mini M6 就得。
想追系列可訂 RSS：https://www.rockfu.net/blog/feed/
（規格同售價以 Apple 香港當頁為準。512GB 並發／雙模型數字多為粗估，用來對照分拆思路；有來源嘅實測以文中連結為準。實際視模型、量化、context、軟件版本同室溫。呢篇只係分享諗法，唔係購買建議。）
