Rafay und Fortanix bringen vertrauliche KI in Neoclouds und Unternehmen

Rafay Systems und Fortanix haben eine gemeinsame Lösung angekündigt, mit der sich vertrauliche KI als Service auf Neocloud-, souveränen KI-Cloud- und Unternehmensinfrastrukturen bereitstellen lässt. Das Angebot nutzt hardwarebasierte Trusted Execution Environments, kryptografische Attestierung und die sichere Freigabe von Schlüsseln, um Daten und KI-Modelle während der Verarbeitung zu schützen.
- Rafay und Fortanix haben eine gemeinsame Lösung für vertrauliche KI angekündigt.
- CoCo führt Kubernetes-Pods in leichtgewichtigen vertraulichen virtuellen Maschinen aus.
- Fortanix gibt Verschlüsselungsschlüssel nur an attestierte Umgebungen frei.
- Nutzer starten vertrauliche Workloads über den Rafay Developer Hub.
- Die Unterstützung für CoCo-basierte Bereitstellungen ist ab sofort verfügbar.
KI-Workloads laufen in attestierten Umgebungen
Die Rafay Platform orchestriert nun Workloads, die auf CNCF Confidential Containers, kurz CoCo, mit Fortanix Confidential AI laufen. Die Integration erweitert die bestehende Unterstützung der Unternehmen für vertrauliche virtuelle Maschinen.
CoCo überträgt vertrauliches Computing auf den Kubernetes-Pod. Die auf Kata Containers basierende Lösung führt jeden Pod in einer eigenen, leichtgewichtigen vertraulichen virtuellen Maschine aus, wobei der Speicher durch die CPU verschlüsselt wird. Auf unterstützter Hardware sind auch GPUs Teil der Vertrauensgrenze.
Der Fortanix Confidential Computing Manager führt eine kombinierte Attestierung der Umgebung durch. Er überprüft die Integrität der Trusted Execution Environments von CPU und GPU sowie von Firmware- und Softwarekomponenten, bevor er die Freigabe von Verschlüsselungsschlüsseln autorisiert. Der Fortanix Data Security Manager, der auf einer FIPS-140-3-Level-3-HSM-Zertifizierung basiert, gibt Schlüssel nur für Umgebungen frei, die die Attestierung bestanden haben. Schlägt die Überprüfung fehl, bleiben die Schlüssel geschützt.
Rafay ergänzt Mandantenfähigkeit und Self-Service
Rafay macht aus den zugrunde liegenden Sicherheitskontrollen einen Service, den Betreiber ihren Kunden anbieten können. Rafay Blueprints installieren Fortanix-CoCo-Add-ons und halten sie über vertrauliche Cluster hinweg synchron. Betreiber können GPU-Infrastrukturen einmalig integrieren und anschließend jedem Kunden einen isolierten Mandanten bereitstellen.
Administratoren können vertrauliche Workloads in Rafay SKU Studio als SKUs bündeln. Endnutzer starten sie bei Bedarf über den Rafay Developer Hub, ohne ein Support-Ticket einreichen zu müssen. Richtlinien, Zugriffskontrollen und Kontingente gelten über Mandanten und Cluster hinweg.
Laut Rafay-Chief-Product-Officer Mohan Atreya ermöglicht die Vereinbarung einer Neocloud oder souveränen Cloud, vertrauliche KI als SKU anzubieten, während Modellanbieter proprietäre Modelle auf Infrastrukturen bereitstellen können, die sie nicht selbst betreiben. Fortanix-Chief-Product-Officer Anuj Jaiswal sagte, das System sei so ausgelegt, dass Modellbesitzer, Unternehmen und Betreiber jeweils die Kontrolle über ihr Eigentum behalten können.
Anwendungsfälle reichen von regulierten Branchen bis zu KI-Cloud-Anbietern
Die Unternehmen nennen Finanzdienstleistungen, das Gesundheitswesen und den öffentlichen Sektor als wichtige Anwendungsfälle. In diesen Bereichen werden möglicherweise Kundendaten, Patienteninformationen und Finanztransaktionen verarbeitet, während Modellanbieter zusätzlich ihre proprietären Modellgewichte schützen müssen.
Neoclouds und GPU-Cloud-Anbieter können vertrauliche KI als Premium-Service anbieten, der durch Attestierungsnachweise abgesichert ist. Souveräne KI-Clouds können Schlüssel in einem HSM unter der Kontrolle des Betreibers aufbewahren und vor der Entschlüsselung von Daten überprüfen, was ausgeführt wird. Regulierte Unternehmen können sensible Daten verarbeiten und sie während der Verarbeitung vor dem Infrastrukturbetreiber geschützt halten.
Fortanix und Atomik Research stellten fest, dass 93% der KI-Verantwortlichen verstehen, dass herkömmliche Verschlüsselung Daten während der Verarbeitung durch KI nicht schützt, während nur die Hälfte den vorhandenen Schutz während der Inferenz vollständig überprüfen kann. Die Unterstützung von Rafay für CoCo-basierte Bereitstellungen mit Fortanix Confidential AI ist ab sofort verfügbar, ebenso wie die bestehende Integration vertraulicher virtueller Maschinen.


