SAS erwartet, dass 2027 die Rechenschaft, den Nutzen und das Vertrauen in KI auf die Probe stellt

Autonome KI wirft Fragen nach der Verantwortung auf

Nach Einschätzung von SAS nähert sich der Markt für Unternehmens-KI einem Punkt, an dem Organisationen drei Fragen beantworten müssen: Wer trägt die Verantwortung, wenn ein KI-System handelt, kann es seinen Nutzen nachweisen und sind seine Entscheidungen vertrauenswürdig?

Wenn KI-Agenten systemübergreifend mit Daten und Geschäftsprozessen arbeiten, müssen Chief Information Officers Identität, Berechtigungen, Sicherheitskontrollen und Überwachung neu denken. Die Infrastruktur zur Verwaltung menschlicher Nutzer muss künftig auch autonome digitale Systeme abdecken. SAS-CIO Jay Upchurch zufolge wird der Wettlauf um Agenten davon abhängen, welche Organisationen ihnen den Betrieb anvertrauen können, nicht davon, wer die meisten einsetzt.

Das Unternehmen erwartet außerdem, dass Agenten über Einkaufs- und Kaufentscheidungen hinausgehen und zunehmend folgenreichere finanzielle Entscheidungen treffen, darunter Geldüberweisungen im Auftrag menschlicher Auftraggeber. Banken müssen dann prüfen, ob ein Kunde eine Handlung autorisiert hat, ob die Autorisierung eine bestimmte Transaktion abdeckt und ob ein Agent kompromittiert wurde.

Für Unternehmen gilt laut SAS: Die Verantwortung kann nicht der KI selbst zugewiesen werden. Unternehmen brauchen Regeln, die festlegen, was Agenten eigenständig entscheiden dürfen, wann Menschen einbezogen werden müssen und wer befugt ist, einen Agenten zu stoppen. Nicht autorisierte Angebote, gebrochene Versprechen oder schlechte Kundeninteraktionen könnten zu Markenkrisen werden, wenn Kunden die Handlungen des Agenten mit dem Unternehmen verbinden.

Unternehmen werden messbare Erträge von KI verlangen

SAS prognostiziert für 2027 einen wirtschaftlichen Neustart bei KI. Hohe Bewertungen, steigende Schulden und die Kosten für den Ausbau von Rechenzentren treffen auf den Druck, nachhaltige Erträge nachzuweisen. Das Unternehmen erwartet, dass Unternehmen selektiver investieren und dort investieren, wo der Nutzen die Kosten rechtfertigt.

Laut SAS-CFO Matt Parsons könnten Hyperscaler gestärkt aus dieser Entwicklung hervorgehen. Ihre Infrastruktur, Kundenbasis, diversifizierten Geschäftsbereiche und ihre Größe eröffnen ihnen mehr Möglichkeiten, KI zu monetarisieren und sich an veränderte Marktbedingungen anzupassen. Zugleich müssen Softwareanbieter den Kauf ihrer Produkte überzeugender machen, da KI die Entwicklung im eigenen Haus erleichtert.

SAS sieht Domänenwissen, Produktqualität und Umsetzung als die Bereiche, in denen sich erfolgreiche Softwareanbieter unterscheiden werden. Außerdem werde die Wirtschaftlichkeit von KI zunehmend an den Kosten gemessen, die für die Bereitstellung vertrauenswürdiger Geschäftsentscheidungen anfallen, und nicht nur an Modellen, Tokens und Diensten. Daten, Governance und Infrastruktur werden in die Berechnung einfließen.

Das Unternehmen prognostiziert eine Lücke zwischen der Produktivität von KI und der Produktivität von Unternehmen. Organisationen könnten mehr Inhalte, Code, Analysen und Empfehlungen erzeugen, ohne ihre Geschäftsleistung im gleichen Maß zu verbessern. Der Engpass wird sich auf die Bewertung, Priorisierung und Umsetzung dieser Ergebnisse verlagern. SAS erwartet außerdem, dass mehr Menschen mithilfe von KI-Agenten eigene Software entwickeln. Dadurch gewinnt die unternehmerische Frage, ob man selbst entwickelt oder einkauft, an Bedeutung.

Simulationen helfen, Entscheidungen vor dem Einsatz zu testen

SAS erwartet, dass Simulationen, digitale Zwillinge und synthetische Daten zunehmend zu wichtigen Testumgebungen für KI werden. Organisationen könnten damit Maschinenfehler untersuchen, die Beschäftigte in Fabriken gefährden könnten, Abläufe in virtuellen medizinischen Umgebungen testen oder Finanzsysteme einem Stresstest gegen unerwartetes Verhalten von KI-Agenten unterziehen.

Wenn Agenten Handlungsvollmachten erhalten, bieten simulierte Umgebungen Organisationen einen kontrollierten Ort, an dem sie Fehler machen, daraus lernen und es erneut versuchen können, bevor Entscheidungen die reale Welt beeinflussen. SAS beschreibt dies als Möglichkeit, sowohl mögliche als auch erwartete Ergebnisse zu untersuchen.

Das Unternehmen prognostiziert außerdem, dass Chief Data Officers und andere Datenverantwortliche zunehmend wegen unvollkommener Entscheidungen unter Druck geraten werden, da der Einsatz von Agenten zunimmt. Sie müssen definieren, was eine gute Entscheidung ausmacht, Befugnisse delegieren, akzeptable Zielkonflikte festlegen und zentrale Ziele bestimmen.

Governance wird Teil des organisationalen Lernens

Laut SAS wird die Geschwindigkeit von Entscheidungen weniger wichtig sein als die Frage, ob Entscheidungen von Menschen und KI erklärbar, ethisch und gemeinschaftlich getroffen werden. Plattformen für Entscheidungsintelligenz können sowohl gute als auch schlechte Entscheidungen in großem Maßstab vervielfachen. Dadurch gewinnen die Qualität der zugrunde liegenden Regeln und Ziele an Bedeutung.

Das Unternehmen erwartet, dass Governance kontinuierliches Lernen unterstützt, indem sie die Wirksamkeit überwacht, Verhalten innerhalb oder außerhalb akzeptabler Grenzen erkennt und bestimmt, welche institutionellen Erkenntnisse bewahrt werden sollten. Organisationen müssen nicht nur prüfen, was die KI entschieden hat, sondern auch, wann Menschen eingegriffen haben und ob diese Eingriffe das Ergebnis verbessert haben.

Für Nutzer und den breiteren Markt deutet die Prognose von SAS auf einen Wandel hin: Nicht mehr der Einsatz von KI soll das wichtigste Fortschrittsmaß sein, sondern die Bewertung der Entscheidungen, die KI ermöglicht. Die Prognosen des Unternehmens umfassen Technologie, Finanzdienstleistungen, Versicherungen, Marketing, öffentliche Verwaltung, Biowissenschaften und Gesundheitswesen. Vertrauen, Aufsicht und nachweisbarer geschäftlicher Nutzen werden dabei als Voraussetzungen für eine breitere Nutzung in Unternehmen dargestellt.