NVIDIA zeigt, wie sich Nemotron mit Personas aus Frankreich und Belgien auf lokale Regeln abstimmen lässt

Personas auf Basis regionaler Daten

Nach Angaben von NVIDIA sind allgemeine Sprachmodelle eine solide Grundlage, es fehlt ihnen aber mitunter an lokalem Wissen, kulturellem Feingefühl und der Präzision, die eine konkrete Anwendung braucht. Ein Post-Training eines offenen Modells könne das beheben, so das Unternehmen: Es verbessere Genauigkeit und Nutzwert und unterstütze sicherere Interaktionen.

NVIDIA hat Nemotron-Personas-France gemeinsam mit dem französischen KI-Startup Pleias entwickelt, Nemotron-Personas-Belgium mit Pleias und der belgischen Universität KU Leuven. Beide gehören zum offenen NVIDIA-Nemotron-Datenprogramm, das regional verankerte Persona-Datensätze für 12 Länder umfasst. Der belgische Datensatz deckt Niederländisch, Französisch, Deutsch und Englisch ab.

Jede Persona ist ein synthetischer Einwohner, der auf regionalen demografischen, geografischen, sprachlichen und kulturellen Verteilungen beruht. NVIDIA stellt eine generische Persona wie „einen Franzosen, der einen Reisepass braucht“ einer fundierten gegenüber, die nach französischen Zensusdaten ein Alter, eine Gemeinde, einen Beruf und einen Haushalt hat, dazu schriftliche Profile zu Arbeit und Alltag. Solche Details prägen, was eine Person fragt und wie, und können die richtige Antwort verändern. NVIDIA nennt als Beispiel die Gebührenmarke für den Reisepass: Sie kostet in Französisch-Guayana 43 €, im französischen Mutterland 86 €.

Eine Passfrage als Testfall

Der Beitrag veranschaulicht das Problem an einem Agenten einer französischen Passbehörde. Ein Kunde schreibt, er könne aus gesundheitlichen Gründen nicht mehr reisen, und fragt, wie er einen Pass beantragen kann. Laut NVIDIA schlug ein Basismodell ohne Post-Training vor, den Antrag per Einschreiben zu stellen. NVIDIA bezeichnet diese Antwort als unspezifisch, nicht belegt und im Widerspruch zu den amtlichen Unterlagen, die einen Hausbesuch durch einen Beamten vorsehen.

Nach dem Feintuning heißt es in der Beispielantwort, ein Mitarbeiter könne nach Hause kommen, es werde ein weniger als 3 Monate altes ärztliches Attest benötigt, und das Verfahren lasse sich online über die ANTS-Seite oder in einem Rathaus mit Erfassungsstation starten. Zudem erinnert die Antwort daran, die Originaldokumente mitzubringen und die Gebührenmarke zu bezahlen. NVIDIA beschreibt das Ergebnis als knapper und stimmiger in der Rolle eines Support-Mitarbeiters.

Die Fakten in jeder Antwort stammen aus offiziellen Verfahrenstexten, die der Workflow jeder Persona zuordnet.

So läuft der Workflow ab

Der Workflow beginnt mit einem Verhaltensvertrag, der festlegt, was eine gute Antwort leisten soll, und einem eingefrorenen Holdout-Set. Anschließend erzeugt er aus Personas und offiziellen Verfahrenstexten synthetische Gespräche, trainiert Nemotron 3.5 Lightning mit LoRA auf NVIDIA NeMo feintunend nach, führt den Adapter zusammen und wertet das Ergebnis am eingefrorenen Testset aus.

Das Nemotron-Repository liefert wiederverwendbare Schritte für Datenerzeugung, Training und Evaluierung, jeweils mit definierten Ein- und Ausgaben sowie Konfigurationsoptionen. Es enthält außerdem Agent Skills, etwa einen für die Anpassung mit NVIDIA NeMo Automodel, die Coding-Agenten beim Zusammensetzen der Schritte helfen.

• Voraussetzungen: Python 3.11 bis 3.13, uv, Git, Docker, NVIDIA Container Toolkit und Zugriff auf das Repository.
• Hardware: eine NVIDIA DGX Station GB300 oder ein NVIDIA DGX Spark; laut NVIDIA lassen sich auch andere NVIDIA-GPU-Systeme verwenden.
• Beispielordner: french-public-service-assistant, mit Konfigurationsdateien, Skripten, einer Quelldatei für Verfahren und Test-Prompts.

Dieselbe Schleife gilt NVIDIA zufolge für jeden Markt mit Nemotron-Personas: anderen Persona-Datensatz einsetzen, Verhaltensvertrag und Prüfer anpassen, der Rest bleibt gleich.

Für wen es gedacht ist und wo die Grenzen liegen

NVIDIA empfiehlt den Workflow für Modelle, die in der Zielsprache bereits gewisse Fähigkeiten besitzen und anwendungsspezifisches Verhalten brauchen, etwa bei Terminologie, Förmlichkeit, Antwortstruktur oder Eskalationsregeln. Post-Training könne dieses Verhalten konsistenter machen und wiederholte Anweisungen verringern, heißt es. Persona-gestützte synthetische Daten könnten helfen, wenn passende Gespräche knapp, eingeschränkt zugänglich sind oder wichtige Fälle fehlen.

Pleias nutzt drei Nemotron-Personas-Datensätze, darunter Frankreich und Belgien, bei der Arbeit an Lamina, einem Assistenten für die Wirbelsäulenbehandlung eines Pleias-Partners. Die Personas machen aus wenigen realen Patientenfällen vielfältige Trainingsgespräche und erlauben Tests über verschiedene Patientenprofile hinweg. Pleias sagt: „Besser verankerte Daten machen ein kleines, effizientes regionalspezifisches Modell erst praktikabel.“

NVIDIA schränkt ein: Die Persona-Verankerung solle die Abdeckung verbessern und blinde Flecken in den Trainingsdaten verringern, garantiere aber weder Fairness noch eine angemessene Repräsentation. Für Teams, die Agenten für bestimmte Länder oder Branchen entwickeln, bietet die Veröffentlichung einen dokumentierten, offenen Weg zur lokalen Anpassung. Als nächste Schritte nennt NVIDIA das Nemotron-Repository, Modelle und Datensätze auf Hugging Face sowie einen Sizing-Rechner für GPU-Bedarf, Trainingszeit und Kosten.