M4 Mac mini Ollama — benchmark performance : 7B / 14B tok/s + Swap

Ollama est-il assez rapide sur M4 Mac mini ?

En local sur M4 Mac mini, le plafond vient souvent du Swap, pas d'un manque de GPU. En 7B, l'usage quotidien tient la route ; en 14B ou avec Chrome, VS Code et un runner CI, la mémoire unifiée Apple Silicon se remplit et la génération ralentit nettement. Article performance du cluster M4/M5 (qwen3:8b / qwen3:14b · charge réaliste).

Tableau benchmark

Config : Mac mini M4 · macOS 15.x · Ollama latest · Chrome + VS Code + Slack en fond. Mesure Ollama ; llama.cpp diffère en tok/s absolus, le comportement Swap reste comparable.

Usage réel (plus que le tableau)

① 7B : suffisant au quotidien

Complétion de code, chat, résumés, assistant local léger—la plupart des équipes s'arrêtent là. 16 Go OK ; 24 Go plus serein.

② 14B : la RAM décide

On le sent avant le tableur : tokens plus lents, flux saccadé, latence en multitâche. Sur 16 Go, le Swap rend l'expérience « lourde » tôt.

③ Le multitâche fait la différence

Sur 16 Go, qwen3:8b chargé pendant un xcodebuild local : Swap 0→1,8 Go, tok/s sur le même prompt 34→29—CI et inférence partagent la même mémoire unifiée.

Cas limite : 14B après ~2 h—pression mémoire verte→jaune sans nouvel onglet. Planification : Memory / Swap.

Mécanisme Swap (cœur SEO)

Sur Apple Silicon, le goulot local LLM est souvent ici—pas le nombre de cœurs Neural Engine :

1. Mémoire unifiée pleine
2. macOS récupère les pages inactives
3. Swap sur SSD
4. Latence IO
5. tok/s −5–15 %

Sous pression, macOS évacue vers le SSD. Pas de crash typique, mais latence IO visible. Le 34→29 avec CI illustre la chaîne au bureau.

M3 vs M4 vs M2

Chercher « M4 Ollama », c'est souvent demander : la nouvelle génération vaut-elle le coup ?

Tendance 7B (indicatif)

• M2 → référence
• M3 → ~+10–15 % tok/s
• M4 → ~+15–25 %, parfois moins marquant que 16→24 Go

Ce qui change vraiment l'expérience

• M2/M3/M4 font tourner le 7B ; changer de puce ne supprime pas la pression 14B
• M4 vs M3 en 7B : gain modeste ; stabilité 14B liée au Swap
• À l'achat, 16 vs 24 Go compte souvent plus que M3 ou M4

Conclusion : pour Ollama local, c'est surtout une question de configuration RAM. Hub M4/M5.

16 vs 24 Go — que choisir ?

16 Go convient

• Surtout 7B
• Pics sur Cloud Mac / CI

Profil : suffisant mais variable. Récit d'achat : 16 vs 24 Go — journal d'une semaine—ici, chiffres seulement.

24 Go convient

• 14B quotidien, CI + LLM, tok/s stables

Profil : production stable.

Règle : 7B → 16 Go ; 14B → prévoir 24 Go.

En résumé

M4 Mac mini + Ollama : le calcul suffit — RAM et Swap font l'expérience.

Rôles dans le cluster

Une URL benchmark primaire par locale ; le reste en liens internes :

Reproduction (annexe)

Même charge de fond (spec 📅 m4-ollama-benchmark-spec) :

ollama pull qwen3:8b && ollama run qwen3:8b ""
memory_pressure

ollama run qwen3:8b \
  "Write 512 tokens about Apple Silicon unified memory." \
  --verbose 2>&1 | tee /tmp/ollama-bench.log

Noter Memory Used · Swap · tok/s · Memory Pressure. 14B : qwen3:14b.