KI auf deinem Mac

Ollama mit LocalInbox: private KI für E-Mail auf dem Mac

Nutze ein Modell aus Ollama für Zusammenfassungen, Antwortvorschläge und Entwürfe in LocalInbox. Alles bleibt auf deinem Mac, ohne API-Schlüssel.

Kurz gesagt

Installiere Ollama auf deinem Mac und lade ein Modell, öffne dann in LocalInbox Einstellungen › Intelligenz, stelle „Geschrieben von“ auf „Ein Modellserver auf diesem Mac“ und klicke auf „Ollama“. LocalInbox trägt http://127.0.0.1:11434/v1 ein. Wähle dein Modell und klicke auf „Verbindung testen“. Zusammenfassungen, Antworten, Entwürfe und Antworten auf deine Fragen kommen dann von diesem Modell, auf deinem Mac.

Ollama für macOS von ollama.com und genug Arbeitsspeicher für das Modell, das du wählst. Apple Intelligence wird nicht gebraucht.

Schritte

  1. Lade Ollama von ollama.com, ziehe es in den Programme-Ordner und öffne es. Es läuft in der Menüleiste.
  2. Lade ein Modell. Im Terminal zum Beispiel: ollama pull llama3.2
  3. Öffne in LocalInbox Einstellungen › Intelligenz und stelle „Geschrieben von“ auf „Ein Modellserver auf diesem Mac“.
  4. Klicke auf „Ollama“. Die Adresse wird zu http://127.0.0.1:11434/v1.
  5. Wähle dein Modell im Menü „Modell“ oder lass das erste des Servers stehen.
  6. Klicke auf „Verbindung testen“. Es zeigt, welches Modell geantwortet hat und wie lange es gedauert hat.

Servereinstellungen

Serveradresse: http://127.0.0.1:11434/v1, die OpenAI-kompatible Adresse von Ollama auf deinem Mac. Wenn du den Port von Ollama geändert hast, nutze deinen, mit /v1 am Ende.

Fehlerbehebung

„Verbindung testen“ meldet, es antworte nichts

Ollama läuft nicht. Öffne es aus dem Programme-Ordner (oder führe im Terminal ollama serve aus) und versuche es dann noch einmal.

Das Menü „Modell“ ist leer

Ollama hat noch keine Modelle. Lade eines mit ollama pull und klicke dann auf die Taste zum Neuladen neben dem Menü.

Zusammenfassungen sind langsam

Die erste Anfrage lädt das Modell in den Speicher und dauert daher am längsten. Wenn die Antworten langsam bleiben, probiere ein kleineres Modell.

Fragen

Verlassen meine E-Mails meinen Mac?

Nicht durch LocalInbox: Es akzeptiert nur eine Serveradresse auf diesem Mac (127.0.0.1, ::1 oder localhost), umgeht jeden Systemproxy und folgt keinen Weiterleitungen. Wähle aber ein Modell, das auf deinem Mac läuft. Manche Server können Anfragen auch an Modelle in der Cloud weitergeben, etwa die Cloud-Modelle von Ollama, und LocalInbox kann das nicht sehen.

Was schreibt das Modell?

Zusammenfassungen, Antwortvorschläge, „Mit KI entwerfen“, „Umschreiben“ und „Frag dein Postfach“. Schalte Zusammenfassungen und Antwortvorschläge unter Einstellungen › Intelligenz getrennt aus; was du anforderst, wird weiterhin geschrieben. Das Sortieren von E-Mails nutzt den Server nicht.

Welches Modell soll ich laden?

Jedes Chat-Modell, das Ollama ausführen kann. Kleinere Modelle antworten schneller und brauchen weniger Speicher; größere schreiben besser. „Verbindung testen“ zeigt, wie lange deines braucht.

Unserem Discord beitreten