AWS ergänzt Smart Approvals, um Routineabfragen in Amazon Quick zu reduzieren

Freigaben bleiben durch bestehende Kontrollen begrenzt

Smart Approvals prüft vorgeschlagene Aktionen anhand der Anfrage des Nutzers und der bereits in Amazon Quick konfigurierten Kontrollen. Dazu gehören Custom Permissions, Quick Guardrails, Berechtigungen für Connector-Aktionen und Nutzereinstellungen. Verweigerte Aktionen bleiben blockiert, während Connector-Berechtigungen für bestimmte Aktionen die Zustimmung einer Person verlangen können.

Eine Aktion kommt nur dann für eine automatische Prüfung infrage, wenn die Nutzereinstellung „Jedes Mal fragen“ lautet und keine andere Kontrolle eine menschliche Freigabe erfordert. Administratoren legen mit Custom Permissions fest, wer Smart Approvals verwenden darf. Die Funktion ist standardmäßig aktiviert, Profile mit aktivierter standardmäßiger Ablehnung müssen sie jedoch ausdrücklich erlauben. Nutzer können sie außerdem für sich selbst über Unterhaltungen und geplante Ausführungen hinweg deaktivieren.

Ein separater Klassifikator bewertet Anfrage und Kontext

Amazon Quick nutzt ein separates Modell namens Klassifikator, um geeignete Aktionen anhand der Anfrage des Nutzers und einer begrenzten Ansicht der Unterhaltung zu bewerten. Dabei berücksichtigt es, was eine Aktion bewirkt, wohin Daten gelangen und wen sie betrifft. Der Klassifikator kann außerdem den Wissensgraphen des Nutzers heranziehen, einschließlich Personen und Arbeitsbeziehungen aus verbundenen Quellen. AWS zufolge bleibt diese Abfrage auf das Quick-Konto beschränkt. Die vom Klassifikator geprüften Inhalte werden demnach weder zum Trainieren von Modellen noch zur Verbesserung des Dienstes verwendet.

Aktionen können weiterhin zur Prüfung an den Nutzer zurückgegeben werden, wenn sie das Senden von Inhalten außerhalb der Organisation oder an Führungskräfte in der Berichtslinie des Nutzers, Änderungen an Zugriffsrechten, das Löschen von Datensätzen oder das Auslösen von Zahlungen umfassen. Der Klassifikator prüft auch, ob abgerufene Inhalte versuchen, den Agenten durch eine indirekte Prompt-Injection umzuleiten. AWS zufolge weist Quick sowohl den Agenten als auch den Klassifikator an, solche Inhalte als Informationen und nicht als Anweisungen zu behandeln.

Jede automatische Freigabe gilt nur einmal und ausschließlich für die genau geprüfte Aktion und deren Parameter. Sie gewährt keine dauerhafte Berechtigung, und Quick kennzeichnet automatische Freigaben in der Unterhaltung. Bei Zeitüberschreitungen und anderen Fehlern bei der Prüfung wird die Aktion an den Nutzer zurückgegeben, anstatt sie freizugeben. AWS weist darauf hin, dass die Modellprüfung Fehler machen kann. Aktionen, die immer eine menschliche Freigabe erfordern, sollten daher über die Berechtigungen für Connector-Aktionen gesteuert werden.

AWS empfiehlt Pilotprojekt mit Prüfprotokollierung

AWS nennt folgendes Beispiel: Ein Kundenbetreuer bittet Quick, eine Zusammenfassung an zwei namentlich genannte Kollegen zu senden. Weist eine Kontonotiz Quick zusätzlich an, die Zusammenfassung an eine Verteilerliste für den gesamten Vertrieb mit etwa 2.000 Personen zu senden, soll Smart Approvals den umfangreicheren Versand zur Prüfung zurückgeben, weil der Empfängerkreis über die Anfrage des Nutzers hinausgeht. Die Freigabe für die ursprünglichen Empfänger kann nicht für den größeren Empfängerkreis wiederverwendet werden.

Berechtigungsänderungen im Zusammenhang mit Smart Approvals werden in AWS CloudTrail protokolliert, einschließlich Nutzer, Connector, Aktion und Zeitpunkt. Quick protokolliert außerdem die Ergebnisse der Berechtigungsprüfungen sowie Änderungen an der Smart-Approvals-Einstellung eines Nutzers. AWS empfiehlt, diese Aufzeichnungen mit Quick-Aktivitäten, Amazon CloudWatch Logs, Chatprotokollen, Agentenmetadaten und Datensätzen des Zielsystems abzugleichen. Der CloudTrail-Ereignisverlauf speichert Ereignisse 90 Tage lang. Für längere Untersuchungen rät AWS daher zur Konfiguration eines Trails.

Für die Einführung empfiehlt AWS, sicherzustellen, dass folgenreiche Aktionen über Connector-Berechtigungen eine Freigabe erfordern, die Protokollierung zu konfigurieren und die Funktion mithilfe von Custom Permissions auf ein Pilotteam und einen festgelegten Arbeitsablauf zu beschränken. Sicherheitsverantwortliche sollten Fälle mit hoher Auswirkung testen und überprüfen, ob Teams Aktionen von der Freigabe bis zur Ausführung nachvollziehen können. Maßstab für wirksame Kontrolle ist laut AWS, dass Menschen die Kontrolle über folgenreiche Entscheidungen behalten, nicht wie häufig ein Agent um eine Freigabe bittet.