BotPsy bringt einen 0.8B-Agenten für lokale KI-Workflows auf Geräte
Tether AI Research hat BotPsy vorgestellt, ein Sprachmodell mit 0.8B Parametern für Funktionsaufrufe und agentische Workflows auf Geräten. Das auf Qwen3.5-0.8B basierende Modell richtet sich an einfache bis mittelschwere Aufgaben und hält Nutzerdaten auf der lokalen Hardware.
- BotPsy ist ein Agent mit 0.8B Parametern, der auf Qwen3.5-0.8B basiert.
- Das Modell ist für Funktionsaufrufe und Workflows direkt auf dem Gerät ausgelegt.
- BotPsy übertraf getestete Modelle mit bis zu 1.2B Parametern bei sechs agentischen Benchmarks.
- Die Veröffentlichung erfolgt unter der Apache-2.0-Lizenz in den Präzisionen bf16, Q8 und Q4.
- BotPsy ist für einfache bis mittelschwere Aufgaben gedacht, nicht für kritische Einsatzbereiche.
Ein kleines Modell für alltägliche Assistentenaufgaben
BotPsy ist dafür ausgelegt, im Auftrag der Nutzer Tools in Bereichen wie Websuche und Recherche, Reisen und Lifestyle, Handel und Finanzen, Geschäfts- und Kundenprozesse, Geräte- und Fahrzeugsteuerung, Dateien und Dokumente, Kalender sowie E-Mail und Nachrichten zu verwenden.
Tether AI Research zufolge ist das Modell für sichere Workflows direkt auf dem Gerät gedacht. Die lokale Verarbeitung kann die Abhängigkeit von Cloud-Anbietern verringern und dabei helfen, die Kontrolle über Daten zu bewahren. Nach Angaben des Unternehmens können kleinere, spezialisierte Agenten viele routinemäßige Aufgaben ohne die Kosten und Abhängigkeit moderner Cloud-Modelle erledigen.
Aufgrund seiner Parameterzahl eignet sich BotPsy am besten für Aufgaben mit niedrigem bis mittlerem Schwierigkeitsgrad. Die Entwickler warnen zudem, dass das Modell Fehler machen kann und nicht für kritische Einsatzbereiche vorgesehen ist.
Bessere Benchmark-Ergebnisse als ähnlich große Modelle
BotPsy hat laut Tether AI Research bei allen sechs getesteten Benchmarks für Tool-Nutzung und agentische Fähigkeiten jedes Modell mit bis zu 1.2B Parametern übertroffen. Dazu zählen BFCL v4, ACEBench, τ-bench, ToolSandbox, Claw-Eval und BrowseComp-Plus.
Bei mehreren Messungen verdoppelte das Modell die agentischen Fähigkeiten seines Basismodells ungefähr. BFCL v4 stieg von 23.4 auf 44.0, ACEBench von 30.1 auf 58.7 und τ-bench von 23.2 auf 51.5.
BotPsy übertraf außerdem Qwen3.5-2B-Think, das laut Quelle 2.5× so groß ist, bei fünf der sechs Benchmarks. Bei BFCL v4 erreichte es 44.0 gegenüber 37.7, bei ACEBench 58.7 gegenüber 55.4, bei τ-bench 51.5 gegenüber 46.5, bei ToolSandbox 64.6 gegenüber 41.2 und bei BrowseComp-Plus 4.5 gegenüber 2.8. Qwen3.5-2B-Think lag bei Claw-Eval vorn und erzielte 48.9 gegenüber 46.5.
Das Unternehmen berichtet zudem von Verbesserungen beim Befolgen von Anweisungen und beim Allgemeinwissen. IFEval stieg von 59.7 auf 90.8, während IFBench von 22.0 auf 55.9 zulegte. GPQA Diamond verbesserte sich von 33.2 auf 38.1 und MMLU-Pro von 41.6 auf 48.9.
Sicherheit, Effizienz und Verfügbarkeit
Beim automatisierten Red-Teaming in sechs Schadenskategorien erzeugte BotPsy laut Tether AI Research in 21% der Fälle unsichere Antworten, verglichen mit 36% beim Basismodell. Unter Prompt-Injection-Angriffen sank die Rate unsicherer Antworten von 46% beim Basismodell auf 31%.
Bei Fragen, die fünf getestete Modelle korrekt beantworteten, verwendete das Modell außerdem weniger Reasoning-Tokens. Bei GPQA Diamond waren es 3,690 Tokens gegenüber 11,563 beim Basismodell. Bei MMLU-Pro lagen die Werte bei 1,912 und 5,105. Bei IFBench-Versuchen sank der Anteil repetitiver Reasoning-Schleifen von 22.9% auf 1.4%, während der Anteil der Durchläufe, die das Limit von 32k Tokens erreichten, von 28.3% auf 0.2% fiel.
BotPsy soll mit offenen Gewichten unter der Apache-2.0-Lizenz für Forschungs- und Bildungszwecke veröffentlicht werden. Angeboten werden die Präzisionen bf16, Q8 und Q4 als Hugging-Face-Safetensors sowie als GGUF-Dateien für das QVAC SDK und llama.cpp.
Eine Grundlage für lokale Agenten
Tether AI Research zufolge soll die künftige Entwicklung die Fähigkeit von BotPsy erweitern, mit lokaler Hardware und lokalen Diensten zu arbeiten. Geplant sind unter anderem robustere dezentrale Peer-to-Peer-Abfragen über Tethers Hypersearch, eine umfassendere lokale Feinabstimmung mit QVAC Fabric sowie die Delegation von Smartphones an Heim-PCs oder vertrauenswürdige sichere Peer-to-Peer-Knoten.
Das Unternehmen plant außerdem stärkere Datenschutzprotokolle und eine sichere Kommunikation zwischen Agenten über vertrauenswürdige lokale Netzwerke. Für Nutzer liegt die unmittelbare Bedeutung in einem kleinen, lokal einsetzbaren Modell, das Tools aufrufen und mehrstufige Workflows verwalten kann, ohne jede Aufgabe an einen Cloud-Dienst senden zu müssen. Aufgrund seiner Einschränkungen ist es für routinemäßige Unterstützung und nicht für kritische Entscheidungen gedacht.
