Pinecone integriert OpenAIs text-embedding-3-Modelle

Embedding und Suche in Pinecone

Die beiden OpenAI-Modelle ergänzen die von Pinecone gehosteten Modelle, die über das integrierte Embedding verfügbar sind. Teams können für ein Textfeld in einem Documents-API-Index eines der beiden Modelle auswählen und Pinecone Klartext senden. Pinecone erstellt anschließend für jeden Schreib- und Abfragevorgang, der mit diesem Feld verbunden ist, Embeddings.

Dadurch entfallen mehrere Schritte einer typischen Einrichtung. Statt vor dem Senden der Daten an Pinecone OpenAI aufzurufen, kann ein Entwicklungsteam Texte direkt übertragen. Pinecone erstellt ein Embedding für eine Abfrage und führt die Suche in einem Aufruf aus, während der Text jedes Dokuments zusammen mit seinem Embedding gespeichert wird. Laut Pinecone können dadurch Volltext- und semantische Suche dieselbe Version eines Dokuments verwenden.

Kein separates OpenAI-Konto und keine separate Embedding-Abrechnung

Bei einer direkten OpenAI-Integration müssen Teams ein OpenAI-Konto, einen API-Schlüssel und Ratenbegrenzungen verwalten und OpenAI getrennt von Pinecone bezahlen. Pinecones integrierte Option verlagert diese Embedding-Aufrufe in seinen Dienst. Es muss kein OpenAI-API-Schlüssel verwaltet werden, und für Embeddings gibt es keine separate Rechnung. Die Tokens erscheinen zum Listenpreis von OpenAI auf der Pinecone-Rechnung.

Pinecone zufolge stellt das Unternehmen die Modelle über Microsoft Azure bereit, wobei der Datenverkehr auf mehrere Azure-Regionen verteilt wird. Wenn eine Region langsamer wird oder Fehler zurückgibt, versucht Pinecone die Verarbeitung automatisch in einer anderen Region innerhalb desselben Verarbeitungsstandorts erneut und leitet den Datenverkehr um, bis sich die betroffene Region erholt.

Modelle, Dimensionen und Tarifgrenzen

Beide Modelle unterstützen konfigurierbare Dimensionen. text-embedding-3-small unterstützt Dimensionen von 1 bis 1.536, wobei 1.536 der Standardwert ist. text-embedding-3-large unterstützt Dimensionen von 1 bis 3.072, wobei 3.072 der Standardwert ist. Laut Pinecone können Nutzer die Dimension weglassen, um die vollständige Größe des Modells zu verwenden, oder eine unterstützte Größe auswählen, die zu einem bestehenden Index passt.

Die Modelle verarbeiten Texte standardmäßig weltweit oder ausschließlich in den Vereinigten Staaten, wenn ein Feld den Verarbeitungsstandort USA verwendet. Sie sind in allen Tarifen verfügbar, während der Verarbeitungsstandort USA ab dem Standard-Tarif verfügbar ist.

Bis zum 31. Dezember 2026 erhalten die Tarife Starter und Builder für OpenAIs Modelle das Doppelte ihres enthaltenen monatlichen Token-Kontingents. Starter erhält bei jedem Modell 10M Tokens pro Monat, Builder 20M pro Monat. Regulär umfasst das Kontingent für jedes OpenAI-Modell bei Starter 5M Tokens und bei Builder 10M.

Verfügbarkeit für Nutzer der Documents API

Die Modelle funktionieren mit serverlosen Documents-API-Indizes. Sie werden nicht von BYOC-, Pod-basierten oder Records-API-Indizes unterstützt. Die Pinecone-Konsole und Python SDK 10.3.0 unterstützen sie, die Unterstützung in den Node.js- und Go-SDKs soll bald folgen.

Pinecones Beispiel erstellt einen Documents-API-Index mit einem Body-Feld, das text-embedding-3-small mit 1.536 Dimensionen verwendet, und aktiviert die Volltextsuche für dieses Feld. Nutzer können anschließend Klartext einfügen und mit einer Textabfrage suchen, sodass dasselbe Feld semantische und Stichwortsuche unterstützt.

Bestehende Vektorindizes können ohne erneute Erstellung von Embeddings in Documents-API-Indizes umgewandelt werden. Das Hinzufügen von integriertem Embedding zu einem umgewandelten Index soll jedoch bald möglich sein. Bis dahin verweist Pinecone Nutzer für diese Modelle auf neue Documents-API-Indizes.