Mit dem neuen M6-Chip rückt Apple die lokale KI-Rechenleistung in den Mittelpunkt. Aber wie gut eignet sich der M6-Mac – konkret der neue Mac mini – wirklich, um große Sprachmodelle (LLMs) direkt auf dem eigenen Rechner laufen zu lassen? Die Antwort hängt an zwei Zahlen, nicht an der Marketing-Botschaft.
Passend dazu: Apple stellt den neuen Mac mini mit M6-Chip vor – hier ordnen wir ein, was das für lokale LLMs bedeutet.
Warum überhaupt LLMs lokal auf dem Mac?
Ein lokal laufendes Sprachmodell hat drei handfeste Vorteile: Die Daten verlassen den Rechner nicht (Datenschutz), es fallen keine API-Kosten pro Anfrage an, und es funktioniert komplett offline. Für sensible Dokumente, Programmierhilfe oder einfach zum Experimentieren ist das attraktiv – vorausgesetzt, die Hardware macht mit. Und genau hier trennt sich beim M6 die Marketing-Botschaft von der Praxis.
Zwei Zahlen entscheiden – nicht die Neural Engine
Für die LLM-Praxis zählen vor allem zwei Kennwerte:
- Unified Memory (RAM): Er bestimmt, welche Modelle überhaupt in den Speicher passen. Ein Modell muss vollständig geladen werden – passt es nicht in den RAM, läuft es gar nicht oder quälend langsam über die SSD.
- Speicherbandbreite (GB/s): Sie bestimmt, wie schnell Text erzeugt wird. LLM-Inferenz ist fast immer bandbreitenlimitiert: Für jedes einzelne Token muss das komplette Modell einmal durch den Speicher gelesen werden.
Eine brauchbare Faustformel für die Obergrenze der Geschwindigkeit lautet: Tokens/Sekunde ≈ Speicherbandbreite ÷ Modellgröße im RAM. In der Realität erreicht man davon etwa 60–80 Prozent, weil KV-Cache, Attention und Kernel-Overhead zusätzlich Bandbreite kosten.
Was der M6 Mac mini konkret mitbringt
Der neue Mac mini startet bei 16 GB Unified Memory mit 153 GB/s Bandbreite (899 US-Dollar). Wer auf 24 oder 32 GB aufrüstet, bekommt 170 GB/s. Das Maximum liegt bei 32 GB – und genau das ist für lokale LLMs die entscheidende Grenze.
- 16 GB (153 GB/s): Nach Abzug von macOS bleiben grob 10–12 GB nutzbar. Realistisch sind 7B-/8B-Modelle (4-bit-quantisiert, ~5 GB) – ideal für Chat, Zusammenfassungen und einfache Coding-Hilfe.
- 24 GB (170 GB/s): Jetzt passen auch 14B-Modelle (~8–9 GB) bequem, mit Reserve für längeren Kontext.
- 32 GB (170 GB/s): Die Obergrenze. Damit lassen sich sogar 30B-/32B-Modelle (4-bit, ~18–20 GB) laden – knapp, aber machbar. Modelle der 70B-Klasse (~40 GB) passen dagegen nicht mehr.
Wie schnell wird es? Ein paar Richtwerte
Angewandt auf die 170 GB/s des M6 (mit realistischem 70-Prozent-Abschlag) ergibt sich grob:
- 8B-Modell (~5 GB): etwa 20–25 Tokens/s – flüssiger als Lesegeschwindigkeit, sehr angenehm.
- 14B-Modell (~8,5 GB): etwa 12–16 Tokens/s – gut nutzbar für ernstere Aufgaben.
- 32B-Modell (~19 GB): etwa 5–7 Tokens/s – spürbar langsamer, aber für Qualitätsantworten okay, wenn man nicht auf jedes Wort wartet.
Zum Vergleich der Einordnung: Der Basis-M6 ist mit 153–170 GB/s solide, aber kein Bandbreiten-Monster. Ein Mac Studio mit M-Max- oder Ultra-Chip erreicht 400 bis über 800 GB/s und bis zu 192 GB RAM – dort laufen dann auch 70B-Modelle und höhere Geschwindigkeiten.
Hilft die duale Neural Engine bei LLMs?
Apple bewirbt den M6 mit einer neuen dualen Neural Engine (zwei 16-Kern-Einheiten). Wichtig zu wissen: Die verbreiteten LLM-Werkzeuge wie Ollama, LM Studio oder llama.cpp rechnen fast ausschließlich auf der GPU, nicht auf der Neural Engine (ANE). Die ANE beschleunigt vor allem Apples eigene On-Device-Funktionen und CoreML-Modelle. Für klassische lokale Chatbots bringt die zweite Neural Engine also weniger, als der Name vermuten lässt – der Flaschenhals bleibt die Speicherbandbreite.
Die passende Software
- Ollama – der einfachste Einstieg: ein Befehl, Modell wird geladen und läuft. Ideal für den ersten Test.
- LM Studio – grafische Oberfläche mit Modell-Browser, gut für Einsteiger ohne Terminal.
- MLX – Apples eigenes Framework, speziell für Apple Silicon optimiert und oft ein Stück schneller als generische Runtimes.
- llama.cpp – die schlanke Basis, auf der viele Tools aufsetzen; maximale Kontrolle für Fortgeschrittene.
Mac mini, Studio oder Pro – was passt für lokale LLMs?
Kurz gesagt: Der M6 Mac mini ist der ideale Einstieg in lokale LLMs bis etwa 14B, mit der 32-GB-Variante auch bis ~32B. Wer regelmäßig mit 70B-Modellen arbeiten, mehrere Modelle parallel laden oder hohe Geschwindigkeiten will, greift zum Mac Studio mit M-Max- oder Ultra-Chip (deutlich mehr RAM und Bandbreite). Einen „Mac Pro mit M6″ gibt es nicht – die Topmodelle setzen weiterhin auf die Ultra-Chips. Für die allermeisten Privat- und Entwickler-Setups ist der Mac mini mit 32 GB aber der Preis-Leistungs-Sweetspot.
Häufige Fragen (FAQ)
Reichen 16 GB für lokale LLMs? Für 7B-/8B-Modelle ja – die decken Chat, Zusammenfassungen und einfache Coding-Aufgaben gut ab. Für 14B und größer sollte es die 24- oder 32-GB-Variante sein.
Welches Modell ist ein guter Start? Ein aktuelles 8B-Modell (z. B. aus der Llama-, Qwen- oder gpt-oss-Familie) in 4-bit-Quantisierung läuft auf jedem M6 Mac mini flüssig und liefert bereits erstaunlich gute Ergebnisse.
Was bedeutet „4-bit-quantisiert“? Eine Komprimierung, die den Speicherbedarf grob viertelt, bei nur geringem Qualitätsverlust. Sie ist der Standard, um Modelle auf Consumer-Hardware nutzbar zu machen.
Kann ich 70B-Modelle auf dem Mac mini laufen lassen? Praktisch nein – sie brauchen rund 40 GB und mehr, der Mac mini endet bei 32 GB. Dafür ist ein Mac Studio mit mehr Unified Memory nötig.
Ist ein Mac mini oder ein Gaming-PC mit Grafikkarte besser? Eine dedizierte GPU mit viel VRAM ist bei der Bandbreite oft schneller, aber teuer und stromhungriger. Der Mac mini punktet mit sehr niedrigem Verbrauch, leisem Betrieb und der Fähigkeit, dank Unified Memory große Modelle überhaupt zu laden.
Quellen: 9to5Mac, AppleInsider, Apple Newsroom. Geschwindigkeitsangaben sind Näherungswerte auf Basis der Bandbreiten-Faustformel und variieren je nach Modell, Quantisierung und Kontextlänge.
