Abstrakte KI-Visualisierung fuer ein neues Sprachmodell

Perplexity bringt Hybrid Compute auf den Mac: KI teilt sich zwischen Cloud und Gerät auf

Perplexity hat mit „Hybrid Compute“ eine Funktion für den Mac veröffentlicht, die eine einzelne KI-Aufgabe zwischen leistungsstarken Cloud-Modellen und einem kompakten Modell direkt auf dem Gerät aufteilt – sensible Daten sollen den Rechner so gar nicht erst verlassen.

Wie Hybrid Compute funktioniert

Eine Anfrage startet wie gewohnt in der Cloud, wo große Modelle planen und recherchieren. Sobald ein Arbeitsschritt persönliche Informationen berührt, übergibt Perplexity ihn nach eigenen Angaben an ein lokales Modell auf dem Mac, ohne den Kontext der Aufgabe zu verlieren. Über die Grenze zwischen Cloud und Gerät entscheidet ein quelloffener Klassifikator namens PII-Tracer – ein Encoder-Modell mit rund 0,6 Milliarden Parametern, das vier Möglichkeiten kennt: lokal behalten, sensible Stellen maskieren, die Aktion verweigern oder beim Nutzer nachfragen. Lokal ausgeführte Arbeit verbrauche laut Anbieter keine Cloud-Credits.

Voraussetzungen und Modelle

Zum Start wählen Nutzer zwischen drei lokalen Modellen, darunter Googles Gemma 4 (E4B) und Alibabas Qwen3.6 35B-A3B sowie eine von Perplexity nachtrainierte Variante. Die Funktion ist für Abonnenten der Stufen Pro, Max und Enterprise verfügbar und stellt klare Hardware-Anforderungen.

  • Apple-Silicon-Mac mit macOS 15 oder neuer
  • Mindestens 24 GB vereinheitlichter Speicher, 32 GB empfohlen
  • Einrichtung per Klick in der Desktop-App, kein Terminal nötig

Der Ansatz zielt auf ein wachsendes Bedürfnis: leistungsfähige KI nutzen, ohne Namen, Adressen oder Kontonummern ungefragt an fremde Server zu senden. Dass Perplexity den Klassifikator offenlegt, lässt sich unabhängig prüfen – wie zuverlässig die Trennung im Alltag greift, muss die Praxis erst zeigen.

Quellen: Perplexity (Blog) · 9to5Mac · MarkTechPost

Mastodon
Nach oben scrollen