JioStar entwickelt KI-Assistenten für die Entdeckung von Inhalten für mehr als 500 Millionen Zuschauer
JioStar hat für JioHotstar einen dialogorientierten Assistenten zur Entdeckung von Videos und Cricket-Statistiken entwickelt. Mithilfe der OpenAI API richtet er sich an Unterhaltungskonsumenten und Sportfans in einer Größenordnung von mehr als 500 Millionen Menschen. Nach Angaben des Unternehmens wurde das Angebot in rund acht Wochen für mehr als 15 Sprachen entwickelt.
- JioStar hat mithilfe der OpenAI API einen dialogorientierten Assistenten zur Entdeckung von Inhalten in JioHotstar integriert.
- Das Angebot unterstützt mehr als 15 Sprachen und wurde in rund acht Wochen entwickelt.
- Nutzer können per Sprache oder Text nach Unterhaltung, Live-Momenten aus Spielen und Cricket-Statistiken suchen.
- Mehr als 60 % der JioStar-Nutzer verwenden Sprache statt Text.
- JioStar betonte die Bedeutung von Leitplanken, Evaluierung und menschlichem Urteilsvermögen für produktive KI.
Eine Oberfläche für Unterhaltung und Cricket
Der Assistent ermöglicht es Zuschauern, auf natürliche Weise nach Filmen, Serien, historischen Highlights, Live-Momenten aus Spielen und Cricket-Statistiken zu suchen. Die Ergebnisse erscheinen in einer visuellen, dialogorientierten Darstellung statt in einer herkömmlichen Suchoberfläche.
JioStar-Chefarchitekt Vijay Seshadri bezeichnete das Produkt in einem Gespräch mit Sidharth Sharma, OpenAIs Leiter für Go-to-Market in ASEAN, beim Executive Summit von OpenAI in Singapur als „Sprach- und visuelle Oberfläche“. Das Gespräch war Teil der Reihe Executive Function von OpenAI, in der Führungskräfte über ihre Arbeit an der Transformation durch KI berichten.
Das System wurde für zwei unterschiedliche Arten der Suche entwickelt. Zuschauer aus dem Unterhaltungsbereich können nach etwas fragen, das zu ihrer Stimmung passt, eine überraschende Empfehlung anfordern oder einen Film beschreiben, ohne dessen Titel zu kennen. Cricket-Fans können nach dem Fall von Wickets, einer Serie von Sixes, einem mit dem Punktestand eines Spielers verbundenen Spiel oder Statistiken zu jedem einzelnen Ball suchen.
Geschwindigkeit, Genauigkeit und Kosten bestimmten das Design
JioStar betreibt Unterhaltungs- und Live-Sportplattformen, die von mehr als 500 Millionen Menschen genutzt werden. Die Plattformen haben bis zu 72,5 Millionen gleichzeitig aktive Zuschauer von Live-Sport unterstützt. Dadurch wurde die Leistungsfähigkeit im Produktivbetrieb zu einem zentralen Faktor des Projekts.
Seshadri zufolge orientierte das Team seine technischen Entscheidungen an einem Zielkonflikt zwischen Genauigkeit, Latenz und Kosten. Sprache machte dieses Gleichgewicht besonders wichtig, weil mehr als 60 % der JioStar-Nutzer Sprache statt Text verwenden. Der Assistent musste daher schnell relevante Antworten liefern und zugleich in dieser Größenordnung wirtschaftlich tragfähig bleiben.
Die Arbeit begann im Oktober und November, im Vorfeld eines großen Cricket-Turniers im Februar. JioStar arbeitete mit einer kleinen Gruppe aus Datenwissenschaftlern und Ingenieuren sowie mit den direkt eingesetzten Ingenieuren von OpenAI zusammen, um die zuverlässig funktionierenden Fähigkeiten zu ermitteln.
Leitplanken und Evaluierung hatten Vorrang vor der Erweiterung
Das Team legte zunächst fest, welche Fragen der Assistent nicht beantworten sollte, da eine offene Sprach- oder Textoberfläche nahezu jede Frage zulassen kann. Anschließend erstellte JioStar einen Ausgangsdatensatz für Evaluierungen und nutzte Modelle, um ihn um weitere Varianten zu erweitern.
Das Unternehmen setzte auf einen Maker-Checker-Ansatz: Ein Modell half dabei zu bestimmen, wie eine Antwort formuliert werden sollte, während ein anderes als Prüfinstanz diente. Seshadri zufolge stellte die Entwicklung dieser Prüfinstanz eine weitere Evaluierungsherausforderung dar: „Wer testet den Prüfer?“ Fachexperten, darunter Redakteure von Sportmagazinen, halfen dabei, realistische Fragen für die Prüfung von Cricket-Statistiken zu definieren.
OpenAIs Codex beschleunigte Aufgaben wie die Erstellung von Evaluierungsfällen und die Aktualisierung des Systems. Seshadri betonte, dass eine schnellere Entwicklung den Bedarf an menschlicher Beurteilung, Validierung und Leitplanken für den Produktivbetrieb nicht beseitige. Außerdem hätte er früher in die Überwachung der Modelleffektivität investiert, zusätzlich zu traditionellen Infrastrukturkennzahlen wie der P99-Latenz.
Was das Projekt für den Einsatz von KI bedeutet
JioStars Darstellung zeigt die KI-gestützte Entdeckung von Inhalten ebenso sehr als Problem der Produktionsentwicklung wie als Frage der Modellauswahl. Das Projekt verband mehrsprachige Interaktion, Spracheingabe, Unterhaltungsempfehlungen und detaillierte Sportdaten unter strengen Zeit- und Skalierungsanforderungen.
Unternehmen, die über Experimente hinausgehen, sollten sich laut Seshadri auf Ergebnisse statt auf sichtbare Aktivitäten konzentrieren. Er erklärte, dass die Zahl der generierten Codezeilen nichts darüber aussage, ob ein konkreter Nutzen entstanden sei, und argumentierte, dass produktive KI Menschen erfordere, die Werkzeuge mit Urteilsvermögen einsetzen können. Seiner Ansicht nach können leistungsstarke Ingenieure ihre Wirkung mit Werkzeugen wie Codex vervielfachen. Eine schwache Validierung kann jedoch gleichzeitig auch die Risiken vervielfachen.
