NAVER LABS Europe bringt LLMs bei, Texte zu schreiben, die beim Vorlesen gut klingen
Forschende von NAVER LABS Europe haben untersucht, wie große Sprachmodelle von vornherein Texte erzeugen können, die sich gut von einem Text-to-Speech-System vorlesen lassen, statt sie erst nachträglich zu korrigieren. In ihrem Beitrag für die EMNLP 2026 berichten sie, dass das Framework Feature-aware Sampling and Tuning (FaST) die beste Balance zwischen TTS-Tauglichkeit und Nützlichkeit erzielte.
- NAVER LABS Europe untersucht, wie LLMs von sich aus Texte erzeugen, die für Text-to-Speech geeignet sind.
- Die Autoren stellen zwei Präferenzdatensätze vor, CORA und Recipe, mit gepaarten TTS-tauglichen und TTS-untauglichen Antworten.
- Die Evaluierungssuite kombiniert eine heuristische Metrik, eine TTS-zu-ASR-Pipeline und eine MUSHRA-Hörstudie.
- Laut der Arbeit erzielt FaST den besten Gesamtkompromiss zwischen TTS-Tauglichkeit und Nützlichkeit.
- Die Metriken korrelieren stark, sodass eine effiziente Heuristik die TTS-Tauglichkeit zuverlässig beurteilen kann.
Das Problem: Texte fürs Lesen, nicht fürs Zuhören
Die Arbeit mit dem Titel „Ready to speak: aligning LLMs for TTS-friendly text generation“ stammt von Thibaut Thonet, Jos Rozen und Laurent Besacier. Sie ist für die Conference on Empirical Methods in Natural Language Processing (EMNLP) in Budapest, Ungarn, angesetzt, die vom 24. bis 29. Oktober 2026 stattfindet.
Laut den Autoren sind aktuelle Large Language Models vor allem auf geschriebenen Text optimiert. Ihre Ausgaben seien oft grammatikalisch korrekt und hilfreich, eigneten sich aber schlecht für die gesprochene Wiedergabe per Text-to-Speech (TTS). Das ist relevant für jede Sprachschnittstelle, die die Antwort eines Modells vorliest.
Alignment statt Umschreiben
Das Team versteht die Aufgabe als Problem des Preference Alignment. Statt auf nachgelagerte Module zu setzen, die eine geschriebene Antwort in einen gesprochenen Stil umwandeln, richten die Forschenden LLMs direkt so aus, dass der erzeugte Text von Anfang an für die gesprochene Wiedergabe optimiert ist.
Dafür stellen die Autoren zwei Präferenzdatensätze für unterschiedliche Zieldomänen vor, die CORA und Recipe heißen. Beide enthalten jeweils gepaarte TTS-taugliche und TTS-untaugliche Antworten, mit denen sich einem Modell beibringen lässt, welchen Stil es bevorzugen soll.
Eine dreiteilige Evaluierungssuite
Die Forschenden schlagen zudem eine Evaluierungssuite mit drei Komponenten vor:
- eine musterbasierte heuristische Metrik;
- eine TTS-zu-ASR-Evaluierungspipeline;
- eine MUSHRA-Hörstudie mit menschlichen Bewertern.
Die Autoren berichten von einer starken Korrelation zwischen diesen verschiedenen Metriken. Aus ihrer Sicht zeigt das, dass sich die TTS-Tauglichkeit mit einer effizienten Heuristik zuverlässig beurteilen lässt, ohne stets eine vollständige Hörstudie durchführen zu müssen.
FaST im Vergleich mit Alignment-Baselines
In den Experimenten vergleicht das Team das kürzlich vorgestellte Framework Feature-aware Sampling and Tuning (FaST) mit einer Reihe von Alignment-Baselines. Laut der Arbeit nutzt FaST interpretierbare Merkmale statt eines Black-Box-Reward-Modells.
Die Autoren schreiben, sie hätten „festgestellt, dass FaST über verschiedene Settings hinweg den besten Gesamtkompromiss zwischen TTS-Tauglichkeit und Nützlichkeit erzielt“. Numerische Ergebnisse nennt die Quelle in dieser Zusammenfassung nicht.
Was das bedeutet
Die Arbeit weist einen Weg, sprachtaugliche Sprachmodelle zu bauen, indem man ihr Training verändert, statt einen separaten Umschreibeschritt hinzuzufügen. Die veröffentlichten Datensätze und die heuristische Metrik könnten anderen Forschenden eine gemeinsame Grundlage bieten, um die Erzeugung von Texten im gesprochenen Stil zu testen. Die berichtete Übereinstimmung der Metriken legt zudem nahe, dass günstigere automatische Prüfungen aufwendige Hörtests ersetzen können.
NAVER LABS Europe: Ready to speak: aligning LLMs for TTS-friendly text generation
