Retell AI erreicht 100 Millionen Anrufe pro Monat, 80 Prozent davon mit OpenAI-Modellen

Wachstum und Modellauswahl

Retell AI unterstützt Unternehmen beim Aufbau von Sprachagenten, die Fragen beantworten, Aktionen ausführen und Anrufer bei Bedarf an einen Menschen übergeben. Die Plattform bedient inzwischen mehr als 4.000 Unternehmen. Laut Retell erzielen Kunden Lösungsquoten von über 80 Prozent.

Die Modelle wählt das Unternehmen anhand seines eigenen vCX-Benchmarks aus. Dieser vergleicht Dutzende Modelle bei anspruchsvollen, mehrstufigen Gesprächen aus realen Produktionsszenarien. Gemessen werden die Befolgung von Anweisungen, die Verankerung in den vorgegebenen Informationen, korrekte Tool-Aufrufe und natürliche Gesprächssprache.

Im Benchmark von Retell vom 13. Oktober 2026 belegte GPT‑6 Astra bei der Befolgung von Anweisungen mit 89,7 % den ersten Platz. Auswertungen vor dem Start von GPT‑6 Astra zeigten GPT‑5.5 mit aktiviertem Reasoning bei der Quote ohne Halluzinationen (88,0 %) und der Korrektheit der Tool-Aufrufe (88,3 %) vorn, vor Gemini‑3.1‑Pro und Claude‑4.6 in beiden Disziplinen. Auch bei der Quote ohne Halluzinationen mit deaktiviertem Reasoning lag es vorn.

Retell stellt nach eigenen Angaben neue OpenAI-Modelle am Tag ihres Starts bereit und lässt den Benchmark mit jeder Modellverbesserung erneut laufen. Kunden können außerdem OpenAI-Realtime-Modelle über die Realtime API sowie die Sprachsynthese von OpenAI als Voice-Engine nutzen.

So läuft ein Anruf ab und was Kunden berichten

Teams im Contact Center legen Geschäftskontext, Ziele und Regeln eines Agenten fest, Entwickler können Workflows und Integrationen konfigurieren. Während eines Anrufs steuert die Harness von Retell die Audiomodelle, verfolgt das Gespräch und regelt, wann der Agent spricht, zuhört oder Unterbrechungen behandelt. OpenAI-Modelle, darunter GPT‑6.1 Sol, GPT‑6 Astra und GPT‑5.5, erzeugen die Antworten und fordern Tool-Aufrufe an. Retell führt diese über Integrationen mit den Systemen des Kunden aus und kann Ergebnisse in einen Kundendatensatz zurückschreiben.

Wenn menschliches Urteilsvermögen gefragt ist, informiert der Agent den Mitarbeiter, beantwortet Rückfragen und holt eine Bestätigung ein, dass dieser bereit ist, bevor er den Kunden verbindet. Nach dem Anruf analysiert GPT‑5.6 Terra das Transkript und extrahiert Ergebnisse und weitere Daten.

• Anker: Agenten übernehmen den Tier‑1-Support nach dem Kauf in den USA und Großbritannien, darunter Sendungsverfolgung, Garantieprüfungen und Fehlerbehebung. Anker meldete eine Falllösungsquote von 80,4 % und einen Net Promoter Score von 63.
• Pine Park Health: Agenten übernehmen Terminerinnerungen und proaktive Terminplanung und dokumentieren Ergebnisse in den Patientenakten. Das Team gewann Arbeitszeit medizinischer Assistenten im Umfang von 2,1 Vollzeitstellen zurück, und der Terminagent erreichte eine Buchungsquote von 55,7 %, sobald er einen Patienten erreichte.

Latenz, Redundanz und Datenresidenz

Das Verkehrsaufkommen auf der Plattform von Retell kann tagsüber mehr als das 50-Fache des nächtlichen Tiefstwerts erreichen. Damit Anrufe auch bei Spitzenlast zügig beantwortet werden, nutzt Retell dedizierte Server bei OpenAI, die sich alle Kunden teilen.

Im Benchmark vom 13. Oktober 2026 erreichten GPT‑6 Astra und GPT‑6 Sol jeweils eine mediane Latenz bis zum ersten Satz von 883 Millisekunden, während GPT‑5.6 Luna mit 497 Millisekunden am besten abschnitt. Dank der regionalen API-Endpunkte von OpenAI kann Retell den Datenverkehr in bestimmte Regionen leiten. Das verkürzt die Netzwerklaufzeiten und hilft, Anforderungen an die Datenresidenz in Branchen wie dem Gesundheitswesen und der Finanzwirtschaft zu erfüllen.

Retell betreibt zudem einen eigenen Telefonie-Stack, ein zweiter steht zur Übernahme bereit, dazu kommen Backups für Sprach- und Modelldienste.

Codex und GPT‑6 Astra in der Entwicklung

Die Entwickler von Retell nutzen Codex, um unbekannten Code zu erkunden, Funktionen zu bauen und Fehler zu beheben. Sie geben Codex eine übergeordnete Anforderung vor, woraufhin das Tool den Code durchsucht, ihn mit echten Daten abgleicht und erklärt, was geändert werden muss. Beim Debugging gleicht es Logs und Datenbankeinträge mit dem Code ab. Auch bei der Arbeit mit Kunden, die auf OpenAI-Modellen aufbauen, kommt es zum Einsatz, etwa um die Anweisungen zu formulieren, die die Antworten eines Modells steuern.

Beim Front-End-Test öffnet die Computernutzung von GPT‑6 Astra die Oberfläche, sobald ein Entwickler einen Pull Request einreicht, klickt sich durch, testet Abläufe, versucht sie zu brechen und meldet Probleme. Frühere Modelle konnten das laut Retell nicht zuverlässig. Das Unternehmen gibt einen annualisierten Umsatz von 1,6 Millionen US-Dollar pro Mitarbeiter an und erklärt, das Entwicklungsteam habe nicht im gleichen Tempo wie das Geschäft wachsen müssen.

Wie es weitergeht

Retell plant, Qualitätssicherung und Simulation auszubauen, mehr Sprachen zu unterstützen und ein automatisches Lernen aus der Wissensdatenbank zu entwickeln. CEO Bing Wu sagte, das Unternehmen wähle Modelle „anhand echter Anrufe, nicht anhand von Demos“. Das erklärte Ziel ist, dass Unternehmen ihre eigenen Agenten bauen, testen und verbessern können und dafür ein internes Team intern eingesetzter Entwickler aufbauen, das alles verantwortet und betreibt.