Microsoft baut klinischen Datenagenten von Novo als gehosteten Foundry-Dienst neu auf

Microsoft und Novo Nordisk haben einen KI-Agenten für die Sekundäranalyse klinischer Studiendaten als gehosteten Agenten in Microsoft Foundry neu implementiert. Nach Angaben von Microsoft vereinfachte der Wechsel den Betrieb, verbesserte die Sitzungsisolation und verband das System mit Werkzeugen für Tracing, Evaluierung und Optimierung.
- Microsoft und Novo Nordisk haben einen Agenten für klinische Studiendaten in Microsoft Foundry neu aufgebaut.
- Der Agent unterstützt medizinische Experten bei offenen Sekundäranalysen.
- Foundry bietet per VM isolierte Sitzungen, verwaltete Skalierung und Zustandsspeicherung.
- Microsoft empfiehlt, die Subnetzkapazität vor der Erstellung einer Foundry-Ressource zu planen.
- Foundry Tracing kann Eingaben, Ausgaben, Werkzeugaktivitäten, Token-Verbrauch und Latenz erfassen.
Ein Agent für offene klinische Forschung
Der Agent richtet sich an medizinische Experten, deren Fragen über die festgelegten Abläufe eines Studienprotokolls hinausgehen. Nutzer können Daten untersuchen, indem sie eine Hypothese testen, Patientengruppen vergleichen, einen Trend visualisieren oder eine Richtung für weitere Forschung identifizieren.
Da jede Anfrage einen anderen Ansatz erfordern kann, interpretiert der Agent die Frage, untersucht die verfügbaren Daten, schreibt und führt Analysecode aus, prüft das Ergebnis und kann seine Methode überarbeiten, bevor er eine Zusammenfassung und Visualisierung erstellt. Microsoft erklärte, die Codeausführung sei das zentrale Werkzeug der Implementierung. Analysen und Visualisierungen würden innerhalb einer kontrollierten Umgebung erstellt.
„Die Neugestaltung der Architektur hat uns geholfen, uns auf das Wesentliche zu konzentrieren: unseren medizinischen Experten die Untersuchung klinischer Daten und die Gewinnung von Erkenntnissen zu ermöglichen, die die pharmazeutische Entwicklung unterstützen“, sagte Sid Prabhu, Senior Director und Head of FounData AI Application bei Novo, in der Microsoft-Ankündigung. Die verwaltete Skalierung und isolierte Analysesitzungen hätten den Teams geholfen, die Anwendung schneller Tausenden Forschern bereitzustellen, ohne die gesamte Infrastruktur selbst aufbauen und betreiben zu müssen.
Foundry übernimmt mehr Aufgaben der Laufzeitumgebung
In der ursprünglichen Produktionsarchitektur lief der Agent in Azure Container Apps. PostgreSQL speicherte die Unterhaltungen, während dynamische Sitzungen von Azure Container Apps eine abgeschirmte Codeausführung ermöglichten. Dadurch hatte das Team die Kontrolle über jede Komponente, war aber auch für die Skalierung der Container, den Lebenszyklus der Sitzungen, die Speicherung der Unterhaltungen, die Ausführungsisolation, das Netzwerk, die Telemetrie und die Verbindungen zwischen diesen Komponenten verantwortlich.
Bei einem gehosteten Foundry-Agenten wird der Code des Teams als Container verpackt und auf einer von Foundry Agent Service verwalteten Infrastruktur ausgeführt. Das Entwicklungsteam behält die Kontrolle über die Orchestrierungslogik, Modelle, Werkzeuge und das Laufzeitverhalten. Foundry verwaltet den Endpunkt, die Identität des Agenten, die Sitzungsrechenleistung, die Zustandsspeicherung, die Skalierung und den Lebenszyklus.
Jede Sitzung erhält eine eigene, per VM isolierte Sandbox. Foundry stellt bei Bedarf Rechenleistung bereit, hält sie aktiv, solange die Sitzung genutzt wird, und gibt sie nach Ablauf der konfigurierten Leerlaufzeit wieder frei. Sitzungsdateien können dauerhaft gespeichert und bei der Fortsetzung einer Sitzung wiederhergestellt werden. Die Skalierung richtet sich nach den aktiven Sitzungen und nicht nach einer Replikazahl, die das Team vorhersehen und konfigurieren muss.
Nach Angaben von Microsoft unterstützt die Architektur auch private Netzwerke, einschließlich der Integration in virtuelle Netzwerke und des privaten Zugriffs auf abhängige Azure-Ressourcen. Tracing, Evaluierungen, Experimente, Überwachung und Optimierung können über dieselbe Plattform angebunden werden. Die Integration von Microsoft Agent 365 ermöglicht den Zugriff auf Bestandsverwaltung, Identität, Zugriffskontrolle und Governance des Lebenszyklus in Unternehmen.
Infrastruktur und Beobachtbarkeit bleiben zentrale Entscheidungen
Microsoft betonte, dass gehostete Agenten den Bedarf an Sicherheits- und Qualitätskontrollen nicht beseitigen. Das Team musste weiterhin Zugriffskontrollen festlegen, Telemetriedaten schützen, den Agenten für seinen Einsatzzweck testen und jedes System überprüfen, das er aufrufen konnte. Die Änderung bestand darin, dass einige zuvor vom Team zusammengestellte Kontrollen zu Plattformfunktionen wurden, die einheitlich konfiguriert und betrieben werden konnten.
Die Netzwerkplanung war eine der wichtigsten Lehren aus dem Projekt. Microsoft zufolge verbrauchen gehostete Agenten je nach Sitzungen Netzwerkkapazität. Das Foundry-Konto, Projekte, gehostete Agenten, gleichzeitige Sitzungen und Agentenversionen tragen allesamt zur IP-Nutzung bei. Die aktuellen Netzwerkrichtlinien empfehlen für Produktionsbereitstellungen gehosteter Agenten ein /24-Subnetz und dokumentieren /27 als unterstütztes Minimum für kleinere Bereitstellungen.
Das Team behielt außerdem seinen bestehenden Telemetriepfad in Langfuse bei und verband den Agenten mit Foundry Tracing. Foundry Tracing nutzt OpenTelemetry und speichert Telemetriedaten in Azure Monitor Application Insights. Erfasst werden können Benutzereingaben, Ausgaben des Agenten, Modellaufrufe, Werkzeugaktivitäten, Token-Verbrauch und Latenz.
„Für uns hat die Qualität des Agenten höchste Priorität und muss messbar sein“, sagte Rasmus S Andersen, Associate Director, Products and AI, FounData, Novo, in der Ankündigung. Die Verbindung von Tracing und Evaluierung werde dem Team helfen, Fehler zu diagnostizieren, die Qualität anhand von Experten validierter Antworten zu messen und den Agenten zu verbessern. Die Sitzungsisolation und private Netzwerke stellten zugleich wichtige Kontrollen zum Datenschutz bereit.


