femtoAI öffnet Entwickler-Community und SPU-Chip-Kit für alle Entwickler

Was Entwickler bekommen

Wie femtoAI, ein Anbieter von KI-Silizium und Kompressionstechnik aus einer Hand, mitteilt, steht die Community nach einem aus Sicht des Unternehmens erfolgreichen Betaprogramm nun allen Entwicklern offen. Der Zugang erfolgt über developer.femto.ai.

Das Unternehmen nennt folgende zentrale Funktionen der Community:

• SPU-Evaluierungskit: Entwickler können ein eigenes Kit bestellen, um auf den SPU-Chip zuzugreifen.
• Selbstbedienung bei der Entwicklung: Zugang zum gesamten Paket an femtoAI-Tools, Compilern und Modellen.
• Flexibilität bei den Modellen: Entwickler können ein eigenes Modell mitbringen, eines der vorgefertigten Modelle von femtoAI nutzen oder von Grund auf neu entwickeln. Eine agentenfreundliche Dokumentation steht bereit.
• Sparsity Studio: ein Messwerkzeug, das die tatsächlichen Strom- und Speichereinsparungen zeigt, die die Sparsity-Technik von femtoAI freisetzt.
• Community-Forum: offener Austausch und Fragerunde mit femtoAI-Experten und anderen Entwicklern.

femtoAI zufolge macht die Technik aus patentierter Sparsity in neuronalen Netzen und fortgeschrittener Modellkompression echte Einsparungen: einen 10X geringeren Stromverbrauch und einen 10X kleineren Speicherbedarf. Diese Zahlen sind Angaben des Unternehmens.

Betakunden und Kompressionsarbeit

Bill Hoppin, Chief Business Officer bei femtoAI, sagte, das Unternehmen arbeite in der Community bereits mit Dutzenden Unternehmen zusammen, die auf seiner Plattform neue Produkte entwickeln. "Jetzt ist die Zeit, diese Erfahrung für mehr Unternehmen und Entwickler zu öffnen", sagte er. Als Kunden, die mit den Entwicklerwerkzeugen und Systemen einen Wettbewerbsvorteil erzielt hätten, nannte er Legato und Marshall.

Die Plattform kam bislang im Audio- und Sensorikgeschäft von femtoAI zum Einsatz. Laut Unternehmen haben Legato, das es als Smart-Glasses-Firma beschreibt, Marshall, eine Marke für Kopf- und Ohrhörer, sowie NewSound mit der Technik KI-gestützte Audiolösungen mit 10X weniger Speicher und 10X weniger Strom entwickelt.

Sangnam Choi, VP of Audio & Sensing bei femtoAI, sagte, das Unternehmen setze fortgeschrittene Modellkompressionstechniken ein, mit denen es Open-Source-Modelle wie OpenAI Whisper mit 10X weniger Speicher sowie individuelle Lösungen wie lokale Sprachbefehle liefern konnte. Das Team setze weiterhin neue Verfahren um, um einen noch geringeren Strom- und Speicherbedarf zu erreichen.

Mehul Trivedi, CEO von Legato Hearing, sagte, die Integration von KI-Audio auf der femtoAI-Plattform habe geholfen, bei Legato Frames ein Hörniveau zu erreichen, "das im gegebenen Formfaktor zuvor unmöglich war, und das in bemerkenswert kurzer Zeit."

Veranstaltung und Hintergrund zum Unternehmen

femtoAI veranstaltet während der SF Tech Week am Mittwoch, dem 7. Oktober, einen Developer Happy Hour im Biergarten der Barebottle Brewing Company im Salesforce Park. Laut Unternehmen erhalten die Teilnehmer dort von femtoAI-Experten eine exklusive Einführung in die Entwickler-Community.

femtoAI wurde 2018 von Forschern des Brains in Silicon Lab der Stanford University gegründet und hat seinen Hauptsitz im Silicon Valley. Die Plattform richtet sich nach Unternehmensangaben an Geräte von Wearables und Haushaltsgeräten bis hin zu Smart Glasses und Robotik.

Was das für Entwickler bedeutet

Der Schritt erweitert den Zugang zu einem Hard- und Software-Stack, den bislang nur ein begrenzter Kreis von Unternehmen nutzte. Entwickler, die an Geräten mit knappem Strom- und Speicherbudget arbeiten, können das Evaluierungskit bestellen, eigene oder vorgefertigte Modelle testen und mit Sparsity Studio die Einsparungen selbst messen, statt sich auf die Angaben des Unternehmens zu verlassen. Preise für das Kit oder Details zur Verfügbarkeit über die Bestellung auf der Entwicklerseite hinaus nennt die Quelle nicht.