Cloudflare zeigt Vorschau auf Clairic, ein System-One-Modell zur Extraktion typisierter Werte

Eine neue Klasse von System-One-Modellen

Cloudflare zufolge baut Clairic auf der System-One-Idee auf, die TypeSafe einen Monat zuvor mit seinem Modell Jev eingeführt hat. Der Begriff stammt aus Daniel Kahnemans Buch Schnelles Denken, langsames Denken (im Original Thinking, Fast and Slow): Ein System-One-Modell soll schnell und präzise sein, im Gegensatz zu System-Two-Modellen wie LLMs, die zu bewusstem Schlussfolgern fähig sind.

Bisher waren alle System-One-Modelle Entscheidungsmodelle. Laut Cloudflare nehmen Jev und Clef einen Eingabezustand und eine Liste von Fragen entgegen und liefern Wahrscheinlichkeiten für die aufgelisteten Optionen. Clairic gehört zu einer anderen Klasse. Statt aus einer endlichen Menge zu wählen, antwortet es mit Werten, die direkt aus der Eingabe stammen, daraus berechnet oder über sie hinaus vorhergesagt werden.

Cloudflare verweist auf ein häufiges Muster: Viele Aufrufe von Frontier-LLMs mit strukturierter Ausgabe stellen immer wieder dieselben Arten von Fragen, etwa nach dem Rechnungsbetrag, dem Lieferdatum, der Zahl der Tage Verspätung einer Bestellung, den Kosten einer Reparatur oder dem Verkehrsaufkommen in den nächsten 24 Stunden. Diese Antworten lassen sich nicht vorab auflisten, weshalb ein Entscheidungsmodell nicht passt. Das Unternehmen will das Modell nach eigenen Angaben bald als Open-Weights-Modell veröffentlichen.

Was Clairic zurückgibt

Cloudflare unterteilt die Ausgabe von Modellen in drei Arten: eine Zahl, eine Auswahl aus einer festen Menge oder offener Text. Clairic deckt die erste ab und liefert Zahlen mit einem 80-Prozent-Intervall. Außerdem zieht es typisierte Werte wie Namen, Daten und Listen aus der Eingabe. Clef übernimmt die zweite Art, LLMs die dritte. In Cloudflares Darstellung machen Extraktionsmodelle aus Rohdaten typisierte Werte, Entscheidungsmodelle aus Werten Entscheidungen und LLMs aus Entscheidungen Worte.

• Extrahierte Werte: Aus der Eingabe kopierter Text, zurückgegeben als Span mit Zeichen-Offsets und Konfidenzwert.
• Berechnete Werte: Zahlen, Daten, Uhrzeiten, Datetimes, Dauern und Listen, die aus der Eingabe gelesen oder abgeleitet werden. Sie folgen den Regeln ihres Typs, etwa zwei Dezimalstellen bei Centbeträgen.
• Geschätzte Werte: Werte, die die Eingabe nicht nennt, für die sie aber Anhaltspunkte liefert. Sie werden als Verteilung innerhalb der angegebenen Grenzen zurückgegeben, mit Median und 80-Prozent-Intervall.
• Prognostizierte Werte: Künftige Werte einer Zeitreihe, ein Schätzwert pro Schritt in die Zukunft, jeweils mit eigenem 80-Prozent-Intervall.

Die Ausgaben sind entweder ein Wert des angeforderten Typs oder null, wenn die Eingabe keine Antwort hergibt. Jede skalare Antwort enthält p_null, die Wahrscheinlichkeit, dass der Wert nicht in den Eingaben enthalten ist, sowie einen Konfidenzwert. Schätzungen umfassen einen Median und ein 80-Prozent-Intervall (p10 bis p90), auf Wunsch zusätzlich alle 99 Perzentile.

Ein Durchlauf, keine Ausgabe-Tokens

Laut Cloudflare antwortet Clairic in einem einzigen parallelen Vorwärtsdurchlauf, ohne zu schlussfolgern oder Tokens zu generieren. Das Modell berechnet nur die Eingabe und antwortet in der Regel in unter einer Sekunde, während ein LLM, das denselben Schritt durchdenkt, nach Angaben des Unternehmens mehrere Sekunden braucht. Weil es keine Tokens erzeugt, kann es laut Cloudflare keine falsch typisierte Antwort liefern und nicht auf dieselbe Weise halluzinieren wie ein LLM, Fehler sind aber weiterhin möglich.

Eine Anfrage besteht aus einem Zustand, also dem zu lesenden Text mit bis zu vier optionalen Bildern, und einer Zuordnung typisierter Felder. Jedes Feld hat einen Namen, einen Typ und optional Anweisungen in natürlicher Sprache. Unterstützt werden die Typen text, number, date, time, datetime, duration, list, estimate und forecast. Die Zahl der Felder ist nicht begrenzt. Passen sie nicht neben der Eingabe in einen Durchlauf, teilt der Server sie auf parallele Durchläufe auf, die jeweils die gesamte Eingabe sehen, und führt die Antworten anschließend zusammen. Dreißig Felder abzufragen kostet laut Cloudflare ungefähr so viel wie drei.

Warum das für Extraktions-Pipelines wichtig ist

Cloudflare argumentiert, dass die Extraktion per LLM meistens funktioniert, aber auf schwer erkennbare Weise scheitert: mit ungültigem JSON, einer falsch gelesenen Ziffer und ohne Möglichkeit, einen zurückgegebenen Ausschnitt zu seiner Stelle in der Quelle zurückzuverfolgen. Teams bauen deshalb oft Pipelines mit mehreren Schichten aus Parsing, Schemavalidierung, Wiederholungen und Stichproben und zahlen dabei für jedes Feld jedes Dokuments Tokens für Reasoning und Ausgabe.

Clairics Span-Offsets, Konfidenzwerte, strikte Typisierung und explizite Behandlung von Nullwerten sollen einen Großteil dieses Gerüsts ersetzen. Die Quelle führt als Beispiel eine Kunden-Support-E-Mail an, mit Ankunftsdatum einer Bestellung, Preis und Steuerbetrag sowie der Bitte um Reparatur oder Erstattung, aufgerufen aus einem Worker über env.AI.run. Der vorliegende Text endet vor dem vollständigen Beispiel und den Ergebnissen, weshalb Details zur Ausgabe hier nicht behandelt werden. Clairic ist eine Vorschau, und Cloudflare hat noch keinen Termin für die Veröffentlichung der Open Weights genannt.