AWS bietet 23 wiederverwendbare Bausteine für schnellere generative KI
AWS hat einen Katalog mit 23 quelloffenen, produktionsreifen Bausteinen veröffentlicht. Sie sollen Teams dabei helfen, Anwendungen für generative KI zu entwickeln, ohne gängige Komponenten neu erstellen zu müssen. Das AWS Generative AI Innovation Center erklärt, dass sich Entwicklungszeiten damit von Monaten auf Wochen verkürzen lassen.
- AWS hat 23 quelloffene, produktionsreife Bausteine für generative KI katalogisiert.
- Die Bausteine decken RAG, Dokumentenverarbeitung, Agenten, Evaluierung und Prompt-Management ab.
- DoorDash war laut AWS nach 2 Monaten für Live-Tests bereit.
- Ricoh senkte die Zahl der Arbeitsstunden pro Bereitstellung von 80 auf weniger als 5.
- FAST kann eine Anwendung mit React und Amazon Bedrock AgentCore in weniger als 30 Minuten bereitstellen.
Ein Katalog für wiederkehrende Entwicklungsaufgaben
Der Katalog ist jetzt Teil von AWS Frontier AI Engineering & Services und umfasst wiederverwendbare Bausteine für Pipelines zur Retrieval Augmented Generation, die Dokumentenverarbeitung, Agentenanwendungen, Evaluierung und Prompt-Management. AWS zufolge bieten die Assets einen validierten Ausgangspunkt, sodass Teams nicht mit einer leeren Datei beginnen müssen.
AWS nennt drei Ursachen für redundante Entwicklungsarbeit: Die Assets sind über Repositories und andere interne Ressourcen verteilt, Teams fehlen verlässliche Hinweise auf Qualität und Produktionsreife, und die Wiederverwendung erfolgt häufig informell. Das Unternehmen erklärt, dass selbst von KI generierter Code noch für den Produktionseinsatz gehärtet, auf Sicherheit geprüft, im großen Maßstab getestet und laufend gewartet werden muss.
AWS zufolge werden die Assets des Katalogs vor der Veröffentlichung auf Qualität und Sicherheit geprüft. Sie umfassen Anleitungen für die Bereitstellung, die Nachverfolgung der Nutzung und die Wartung über den gesamten Lebenszyklus. Außerdem erklärt das Unternehmen, dass die Bausteine in Produktionsumgebungen getestet, auf die Einhaltung von Sicherheitsvorgaben geprüft und anhand von Kundenfeedback weiterentwickelt werden.
DoorDash, Lyft und Ricoh setzen die Bausteine ein
AWS verweist auf Implementierungen bei Kunden als Beleg für den Ansatz. DoorDash nutzte den Baustein Contact Center GenAI Agent, um ein sprachgesteuertes Self-Service-Kontaktzentrum für generative KI zu entwickeln. AWS zufolge verarbeitet die Lösung mehr als 100.000 Anrufe pro Tag bei einer Antwortlatenz von 2,5 Sekunden, erhöhte die Testkapazität um das 50-Fache und war nach 2 Monaten für Live-Tests bereit. Amazon Bedrock verkürzte die Entwicklungszeit laut AWS um 50 Prozent.
Lyft nutzte denselben Baustein für agentenbasierte KI-Erlebnisse für Fahrgäste und Fahrer. Der Contact Center GenAI Agent unterstützt die automatisierte Beantwortung von Fragen per Text und Sprache. Dabei kommt für mehrteilige Gespräche und Kontext eine Architektur auf Basis von Retrieval Augmented Generation zum Einsatz. Die Lösung ist in Amazon Connect und Amazon Bedrock Knowledge Bases integriert.
Ricoh nutzte den Baustein Accelerated Intelligent Document Processing on AWS, um ein standardisiertes System mit Mandantenfähigkeit für die Klassifizierung und Extraktion von Dokumenten zu entwickeln. AWS berichtet von einer siebenfachen Steigerung des Durchsatzes, von 10.000 auf 70.000 Dokumente pro Monat, während die Zahl der Arbeitsstunden pro Bereitstellung von 80 Stunden auf weniger als 5 sank. Die Zeit für die Anbindung neuer Kunden verringerte sich von 4 bis 6 Wochen auf 2 bis 3 Tage. Bei Verkehrsspitzen kann das System 1.000 Dokumente innerhalb von Minuten verarbeiten.
Neue Vorlagen zielen auf agentenbasierte Anwendungen
AWS hebt außerdem zwei kürzlich eingeführte Bausteine für agentenbasierte Software hervor. Die Fullstack AgentCore Solution Template, kurz FAST, ist ein Start-Repository, das ein abgesichertes React-Frontend mit Amazon Bedrock AgentCore verbindet. AWS zufolge lässt sich die Lösung mithilfe von Infrastructure as Code in weniger als 30 Minuten bereitstellen. Sie umfasst Integrationen für den AgentCore-Speicher, Gateway, Code Interpreter und Observability.
FAST verwendet Amazon Cognito zur Authentifizierung und ist für die KI-gestützte Entwicklung konzipiert. Dank des modularen Aufbaus können Teams Identitätsanbieter, Frontend-Frameworks, Hosting-Lösungen oder Agenten-Frameworks austauschen, wenn sich die Anforderungen ändern.
Der Agentic Chatbot Accelerator nutzt das AWS Cloud Development Kit für Infrastructure as Code. Die auf Strands Agents und Amazon Bedrock AgentCore basierende Lösung bietet konfigurierbare Muster für Authentifizierung, Hosting und Skalierung. Die Bereitstellungsansätze wurden in Implementierungen bei Kunden validiert.
Was der Katalog für Entwickler bedeutet
Die Assets richten sich an Teams, die ihre Entwicklungsarbeit auf kundenspezifische Geschäftslogik konzentrieren möchten, statt eine gemeinsame Infrastruktur neu aufzubauen. AWS zufolge kann der Katalog die Entwicklungszeit von Monaten auf Wochen verkürzen. FAST soll die Arbeit an vollständigen agentenbasierten Anwendungen von Wochen auf Tage reduzieren.
Nutzer können über den Asset-Katalog auf die 23 quelloffenen Bausteine zugreifen und sie mithilfe der jeweiligen Dokumentation bereitstellen. Die Beispiele zeigen, dass dieselben Komponenten unterschiedliche Kundenmodelle unterstützen können. Die gepflegte und auf Sicherheit geprüfte Struktur soll zudem den Prüfaufwand verringern, der vor einem Einsatz in der Produktion anfällt.
