Ollama führt Sprachausgabe mit Phonon-Modellen von Gradium ein, zunächst auf macOS

Phonon ist das erste Sprachmodell

Ollama, das Tool zum lokalen Ausführen von KI-Modellen, hat am 24. Oktober 2026 die Unterstützung für Sprachmodelle angekündigt. Das erste Modell ist Phonon, das Ollama als Familie kleiner Text-to-Speech-Modelle von Gradium auf dem neuesten Stand der Technik beschreibt. Sprachmodelle laufen derzeit auf Macs mit Apple Silicon, nötig ist Ollama 0.40.11 oder neuer.

Der Einstieg gelingt mit einem Befehl, der das Modell lädt: ollama pull phonon. Danach folgt ein Aufruf wie ollama run phonon "Hello from Ollama."

Die Stimmen stammen aus dem Stimmenkatalog von Gradium. Nutzerinnen und Nutzer wählen eine Stimme mit dem Flag --voice oder dem Feld voice in der API aus, ollama show phonon listet alle verfügbaren Stimmen auf.

Sprachen und Lizenzen

Das Basismodell phonon deckt Englisch ab. Weitere Varianten führt Ollama wie folgt auf:

• phonon:40m-fr: Französisch
• phonon:40m-de: Deutsch
• phonon:40m-es: Spanisch
• phonon:40m-pt: Portugiesisch
• phonon:40m-multilingual: alle fünf Sprachen

Phonon steht unter der Apache-2.0-Lizenz. Die 40M-Modelle erscheinen unter CC BY-NC 4.0, was sie auf die nicht kommerzielle Nutzung beschränkt.

Tempo und Genauigkeit auf Apple Silicon

Auf Apple Silicon wird Ollama durch MLX beschleunigt, Apples Framework für maschinelles Lernen. Laut Ollama war es auf einem MacBook Pro mit M5 Max 35 Prozent schneller als die nächstschnellere Engine, die hauseigene Laufzeitumgebung von Gradium. Bei der Messung wurden 45 Sekunden Sprache erzeugt, ausgewertet wurde der Median aus 10 Durchläufen.

Ollama weist darauf hin, dass sich beide Setups in der numerischen Präzision unterscheiden. Gradiums Laufzeitumgebung ptts nutzt 8-Bit-Gewichte auf der CPU, fp16 auf der Neural Engine und f32 auf der GPU, während Ollama das Modell in bf16 ausführt.

Bei der Genauigkeit erklärt Ollama, die eigene Implementierung erreiche die Wortfehlerrate der Referenzimplementierung in Hugging Face Transformers. Für den Test wurden 200 Sätze aus dem englischen Testset von Seed-TTS verwendet und mit Whisper large-v3 transkribiert.

Antworten vorlesen lassen und die API nutzen

Phonon lässt sich mit einem Chatmodell kombinieren, indem die Ausgabe des einen Befehls an den anderen weitergeleitet wird. Im Beispiel von Ollama läuft gemma4, dessen Antwort an Phonon geht. Der Text wird gesprochen, sobald er eintrifft, die Wiedergabe beginnt also nach dem ersten Satz. Außerdem kann man ollama run phonon ohne Text starten und Zeilen an einem Prompt eingeben oder die Ausgabe umleiten, um eine WAV-Datei zu speichern.

Für Entwickler funktioniert Phonon mit dem OpenAI-kompatiblen Endpunkt /v1/audio/speech. Laut Ollama braucht bestehender Code, der das OpenAI-SDK nutzt, lediglich eine neue Basis-URL. Die Ankündigung enthält Beispiele für cURL, Python und JavaScript, die alle auf http://localhost:11434/v1 zeigen.

Die Antwort wird gestreamt, während das Audio entsteht, und kann daher sofort abgespielt werden. Das Audio ist 24 kHz mono und wird standardmäßig als WAV geliefert, oder als rohe 16-Bit-Samples, wenn response_format auf pcm gesetzt ist.

Was das für Nutzer bedeutet

Für Mac-Nutzer lässt sich die Spracherzeugung nun über dasselbe lokale Tool abwickeln, das sie vielleicht schon für Sprachmodelle verwenden, ganz ohne separate Laufzeitumgebung. Dank des OpenAI-kompatiblen Endpunkts können Apps, die für diese API gebaut wurden, auf einen lokalen Server umgelenkt werden. Windows- und Linux-Nutzer müssen sich gedulden, Ollama spricht nur davon, dass die Unterstützung bald kommt. Wer einen kommerziellen Einsatz plant, sollte die Lizenzen prüfen, da die 40M-Modelle auf nicht kommerzielle Nutzung beschränkt sind.