Aaron Levie und Rao Surapaneni von Google über Governance, Sicherheit und das Agenten-Zeitalter

Auf dem Box Content+AI Summit in San Francisco Anfang dieses Monats führte Aaron Levie, CEO von Box, ein Gespräch mit Rao Surapaneni, Vice President und General Manager für Business Applications bei Google Cloud, um dessen Sichtweise dazu zu erfahren, wie Unternehmen den Übergang zu AI-first-Geschäftsprozessen bewältigen. Hier finden Sie eine Mitschrift des Gesprächs, die aus Gründen der Verständlichkeit leicht überarbeitet wurde.

Wesentliche Erkenntnisse:

Der Einsatz von KI geht über den Bereich der Chat-Funktionen hinaus: KI wird bereits in großem Umfang für die Wissenssynthese und zur Steigerung der persönlichen Produktivität genutzt, und Unternehmen beginnen nun, sich mit Agenten zu befassen, die spezifischere Aufgaben und Workflows bewältigen können
Unternehmen müssen ihre Workflows nicht nur automatisieren, sondern neu überdenken: Rao ist der Ansicht, dass Unternehmen bestehende Prozesse mithilfe von KI verbessern können, doch im Laufe der Zeit müssen viele Prozesse möglicherweise für eine KI-native Welt neu gestaltet werden.
Governance und Koordination stellen große Herausforderungen dar: Eine sichere Zugriffskontrolle, systemübergreifende Interoperabilität und eine bessere Koordination mehrerer Akteure:innen werden für die Einführung in Enterprise-Umgebungen von entscheidender Bedeutung sei

AARON

Rao, es ist wirklich toll, Sie hier zu haben. Sie stehen im Mittelpunkt der Diskussion über die Transformation von Enterprise-Unternehmen durch den Einsatz von Agenten und die Automatisierung von Workflows. Was sehen Sie? Woran arbeiten Sie derzeit?

RAO

Vielen Dank, Aaron, ich freue mich sehr, hier zu sein.

Generell gilt: Im Zuge der technologischen Weiterentwicklung liegt mein Fokus sowohl darauf, die Produktentwicklung voranzutreiben, als auch den Blick in die Zukunft zu richten: Wohin führt uns die Entwicklung im Bereich der Multi-Agenten? Wie können wir den Einsatz dieser Lösungen in der Praxis einfacher, sicherer und zuverlässiger gestalten?

AARON

Wo stehen wir Ihrer Meinung nach derzeit in Bezug auf Agenten und die Einführung in Unternehmen? Wir befinden uns hier im Herzen des Silicon Valley. Betrachten wir das Ganze aber landes- und weltweit: Wo stehen wir im Hinblick auf den Übergang vom Chat- zum Vollagenten?

Nun, im Hinblick auf die Wissenssynthese und die Unterstützung von Menschen ist die Anwendung bereits weit fortgeschritten. Unabhängig davon, ob es sich um die Interaktion über einen Chatbot oder um eingehende Recherchen handelt – die Menge an Inhalten, die von den heutigen Modellen verarbeitet und analysiert werden kann, ist enorm. Als Nächstes geht es darum, die Erfahrung zu gestalten und wie sie für jeden einzelnen Anwendungsfall richtig umgesetzt werden kann.

Anschließend folgen Agentenlösungen, bei denen der Agent in der Lage ist, mehr Aufgaben eigenständig zu erledigen. Wir sehen erste Erfolge in Multi-Agenten-Szenarien, in denen jeder Agent eine bestimmte Aufgabe erstaunlich gut ausführen kann, allerdings in sehr deterministischen und eng begrenzten Bereichen.

Die nächste Herausforderung besteht darin, dies zu orchestrieren, dabei aber dennoch auf Zuverlässigkeit zu achten. Wir erkennen bereits erste Anzeichen dafür. Allerdings befinden sich noch viele autonome Funktionen im Entwicklungsstadium.

AARON

Sie haben soeben das gesamte Szenario für die nächsten 5 oder 10 Jahre angesprochen, nämlich diesen Sprung von eng gefassten, deterministischen Handlungen hin zu der Frage, was geschieht, wenn der Agent über einen langen Zeitraum läuft oder über viele Unteragenten verfügt. Wie stellen Sie sicher, dass die Leistung so hochwertig ist, dass Sie damit einen Kreditbearbeitungsprozess, einen Workflow zum Onboarding von Kund:innen oder einen kompletten Personalprozess abwickeln können? Was müssen Unternehmen dabei beachten? Gibt es die Modelle bereits oder noch nicht?

RAO

Wenn Sie ein Unternehmen sind, betrifft die Einführung von KI oder jeder anderen neuen Technologie tatsächlich alle Bereiche – Mitarbeiter:innen, Prozesse und Produkte.
Wir müssen den Menschen vermitteln, wie sie diese Technologie nutzen und wie sie Feedback geben können, damit die Technologie und die Produkte verbessert werden können.

Wenn Sie ein Unternehmen sind, betrifft die Einführung von KI oder jeder anderen neuen Technologie tatsächlich alle Bereiche – Mitarbeiter:innen, Prozesse und Produkte.
Rao Surapaneni, VP und GM of Business Applications bei Google Cloud

Außerdem gibt es bereits so viele bestehende Prozesse. Sie können KI in bestehende Prozesse integrieren und so Verbesserungen von 20 % bzw. 30 % erzielen. Sie sollten jedoch auch berücksichtigen, wo das Modell heute steht und wohin es sich entwickeln wird.

Wenn ich diesen Prozess neu gestalten würde, bräuchte ich ihn dann überhaupt noch? Kann ich meine Vorgehensweise im Hinblick auf die KI-native Welt überdenken? Kann ich diese Aufgabe an einen Agenten delegieren, und welche Hindernisse stehen dem im Wege?

AARON

Ich möchte Ihnen jetzt eine ganz und gar unfaire Frage stellen – wenn wir in zehn Jahren hier sitzen und Rückschau halten …

RAO

Zehn Jahre in der KI-Welt?

AARON

Ja, also 400 Jahre Fortschritt in der Modellentwicklung. Welcher Prozentsatz der Workflows wird von Grund auf neu gestaltet worden sein, um den vollen Nutzen aus den Agenten zu ziehen, und welcher Prozentsatz bleibt in der ursprünglichen, von Menschen ausgeführten Form bestehen?

RAO

Im Unternehmenskontext gehe ich davon aus, dass wir mindestens 60 % bis 70 % neue Prozesse benötigen werden, um die Möglichkeiten der KI voll auszuschöpfen. Noch einmal: Zehn Jahre sind eine sehr lange Zeit.

AARON

Stimmt. Wir können Sie nicht wirklich darauf festnageln. Es ist jedoch eine interessante Frage, über die sich alle Gedanken machen: Wir haben uns die ideale Lösung als eine KI vorgestellt, die so schlau und intelligent ist, dass man sie einfach in den Workflow einbindet und sie dann alles automatisiert. Allerdings gibt es all diese Einschränkungen. Sie haben Einschränkungen hinsichtlich des Kontextfensters, der Zugriffskontrolle sowie der Planung. Wie sollten wir die Neugestaltung von Prozessen betrachten? Wie fängt man damit an?

RAO

Ich spreche mit vielen Kund:innen, und meiner Meinung nach gibt es zwei Möglichkeiten, wie man dabei vorgehen kann.
Wir müssen den Menschen vermitteln, wie sie diese Technologie nutzen und wie sie Feedback geben können, damit die Technologie und die Produkte verbessert werden können. Diese Möglichkeit, mithilfe von KI die Entwicklung von Agenten sowie die persönliche Produktivität zu fördern – sei es beim Zusammenfassen einer E-Mail oder beim Verfassen besserer Inhalte –, ist bereits heute Realität.

Das andere Ende des Spektrums besteht darin, sich eingehend mit Workflows auseinanderzusetzen. Ich nehme als Beispiel das Onboarding von Mitarbeiter:innen. Das ist ein durchgängiger Prozess: Die neuen Mitarbeiter:innen benötigen einen Laptop, und die Beschaffung der Laptops könnte in einem anderen System erfolgen, das über einen eigenen Agenten verfügt. Sollte es sich bei den neuen Mitarbeiter:innen um Verkaufskräfte handeln, sollten Sie ihnen bereits am ersten Tag ihr Gebiet, ihre Kund:innen und ihre Arbeitsanweisungen zur Verfügung stellen. Sie müssen also in der Lage sein, all diese Agenten, die spezialisierte Aufgaben ausführen, zu orchestrieren.

AARON

Dies ist eines der Dilemmas bei vielen agentischen Workflows: die schwierige Aufgabe, einem Agenten Zugriff zu gewähren, ohne dass dieser versehentlich an einer anderen Stelle im Workflow nach außen gelangt. Wie stehen Sie zum Thema Agenten-Governance und Sicherheit?

RAO

Ich betrachte die Governance von Agenten und das Datenmanagement als entscheidende Faktoren, um tatsächlich eine Beschleunigung zu erreichen. Unternehmensrichtlinien wurden aus gutem Grund eingeführt. Wir müssen uns also wirklich überlegen, ob all diese Maßnahmen für diese Technologie tatsächlich erforderlich sind. Welche Kompromisse gehen wir ein? Es läuft letztlich auf das Verhältnis von Nutzen und Komfort einerseits und Risiko und Ertrag andererseits hinaus. Sie benötigen angemessene Governance-Richtlinien, doch die Gewährung von Zugriffsrechten an einen Agenten erschließt einen erheblichen Mehrwert. Diese Frage ist von Fall zu Fall zu prüfen.

Ich betrachte die Governance von Agenten und das Datenmanagement als entscheidende Faktoren, um tatsächlich eine Beschleunigung zu erreichen.
Rao Surapaneni, VP und GM of Business Applications bei Google Cloud

AARON

Haben Sie eine klare Vorstellung davon, bei welchen Workflows der Agent die Rechte und Zugriffsberechtigungen von Benutzer:innen übernehmen kann und bei welchen er hingegen eine eigene Identität sowie eigene Zugriffsrechte benötigt?

RAO

Das ist ein Aspekt, den wir bei Unternehmensimplementierungen berücksichtigen. Heute wenden wir die geltenden Regeln der Unternehmens-Governance an: Wenn ein Agent in meinem Namen eine Aktion ausführt, übernimmt er meine Authentifizierung und Autorisierung. Und das funktioniert hervorragend, da die bestehenden Richtlinien und Modelle eingehalten werden.

Angenommen, ich wende mich mit einer Anfrage an eine Person aus der Personalabteilung, die Zugriff auf mehr Daten hat als ich. Mein Agent kann diese Aufgabe übernehmen und mir eine Zusammenfassung liefern, ohne dabei unbedingt alle Einzelheiten offenlegen zu müssen. Dies sind Fälle, in denen Sie einem Agenten erweiterte Berechtigungen gewähren müssen.

Dies sind die impliziten und latenten Privilegien sowie Richtlinienentscheidungen, mit denen wir uns heute befassen.

AARON

Wir gehen jetzt mal kurz richtig nerdig zu Werke. Ich denke, eine große Herausforderung, vor der wir stehen werden, besteht beispielsweise darin, einen Agenten nach dem Gehalt eines Teammitglieds zu fragen. Weiß dieser Agent, wie er deterministisch feststellen kann, ob ich diese Frage stellen darf? Kann ich den Agenten durch Social Engineering dazu bringen, Daten preiszugeben, auf die ich keinen Zugriff haben sollte? Können Sie sich vorstellen, dass es zwischen dem System und dem Agenten eine Orchestrierungsschicht oder ein Bedienfeld gibt?

RAO

Ja, die Zugriffskontrolle und die Kontextbewertung müssen in einer Agentenwelt bei jedem Schritt des Prozesses erfolgen. Um noch einmal dasselbe Beispiel wie zuvor zu verwenden: Sobald ich mich bei einem Unternehmen anmelde, bin ich die Person, die ich bin, und alle meine Berechtigungen und Zugriffsrechte bleiben bestehen. In einer agentischen Welt muss jedoch jeder einzelne Aufruf einer Funktion, jeder einzelne Zugriff auf Inhalte im Kontext der zu diesem Zeitpunkt stattfindenden Ereignisse bewertet werden. Anstelle einer einmaligen, statischen Anmeldung muss die Autorisierung in jeder Phase fest in diese Plattformen integriert werden.

In einer agentischen Welt müssen Zugriffskontrolle und Kontextbewertung in jedem Schritt des Prozesses erfolgen.
Rao Surapaneni, VP und GM of Business Applications bei Google Cloud

AARON

In den nächsten zwei Jahrzehnten wird es für niemanden in der IT-Branche an Arbeit mangeln. Es wird so viele Aufgaben im Bereich der Systemkonfiguration, -integration und -sicherheit geben, die wir alle bewältigen müssen.

Interoperabilität ist eine der wichtigsten Voraussetzungen, auf die alle angewiesen sind. Ich möchte Agenten in meiner gesamten Infrastruktur bereitstellen, aber funktionieren alle meine Tools mit diesem Agenten und dieser Orchestrierungsebene? Wo stehen wir Ihrer Meinung nach in Bezug auf Interoperabilitätsstandards?

RAO

Zu meinen Nebenjobs gehört die Zusammenarbeit mit Normungsgremien aus der gesamten Branche, damit all diese Plattformen tatsächlich miteinander kompatibel sind. Meine ursprüngliche These lautete, dass es Mehragentenplattformen geben wird. Wenn ein Unternehmen also Box, ServiceNow und Workday einsetzt, müssen diese Systeme miteinander kompatibel sein.

Früher erfolgte dies auf herkömmliche Weise über den API-Zugriff. Mit Agenten haben Sie nun jedoch die Möglichkeit, diese Schnittstellen spontan zu erkennen und zu sagen: „Dieser Datenpunkt fehlt mir. Können diese Daten weitergegeben werden?“ Und sofern die Berechtigungen dies zulassen, können diese Daten zurückfließen.

Somit ist diese Fähigkeit, eine Aufgabe zur Laufzeit zu erkennen, eine Verbindung herzustellen und sie abzuschließen, möglich. Aus Sicht der Einführung spielen jedoch zahlreiche branchenbezogene Faktoren eine Rolle. APIs sind da. MCP entwickelt sich zum De-facto-Standard für Tools und Daten. Auch was Agenten angeht, gibt es verschiedene Möglichkeiten. Eines der von uns entwickelten Protokolle ist die Agent-zu-Agent-Fähigkeit. Wir sind also auf diesem Weg – jede Lösung zur Orchestrierung mehrerer Agenten erfordert zusätzliche Komponenten. Wie finden Sie neue Agenten? Wie entscheiden Sie, welches Modell für die von Ihnen gewünschte Aufgabe geeignet ist?

AARON

Wenn Sie einen Blick in Ihre Kristallkugel werfen und die nächsten 12 bis 18 Monate betrachten, wo werden wir Ihrer Meinung nach dann stehen? Wie ist der Stand der Entwicklung bei KI-Modellen und diesen Multi-Agenten-Systemen?

RAO

Nun, das Verstehen von Abfragen und die Verarbeitung natürlicher Sprache sind gut gelöst. Wir haben beobachtet, wie sich die Fähigkeiten im Bereich des logischen Denkens sprunghaft verbessert haben. Deshalb sind wir in der Lage, umfangreiche Dokumente zu verarbeiten und den Sachverhalt bereits anhand eines einzigen Prompts zu erfassen.
Der nächste Schritt wird die Erinnerung sein. Wir Menschen erinnern uns am Ende eines Tages meist nur an einige wenige Höhepunkte. Agenten müssen sich diese wichtigen Punkte merken, damit sie die Interaktionen individuell gestalten und sich im Laufe der Zeit verbessern können. Wir beginnen also nun, uns mit dem Thema Gedächtnis zu befassen.

Ein weiterer Aspekt aus technischer Sicht betrifft die Feedback-Schleifen. Ich verwende die Analogie, dass Agenten Praktikanten sind. Wenn ein Praktikant in ein Unternehmen kommt, muss er sich mit vielen Dingen auseinandersetzen, und wir möchten, dass er dies zügig erledigt. Am Ende der Woche verfasst er einen Statusbericht, in dem er darlegt, was gut gelaufen ist, wo er Unterstützung benötigte – wobei ein Mensch in den Prozess eingebunden war – und wo Fehler unterlaufen sind.

Das ist eine Gelegenheit für Feedback. Aber wenn Sie einem Agenten dieses Feedback geben, speichert er dieses Wissen dann, um sich zu verbessern, wenn er das nächste Mal mit diesem Szenario konfrontiert wird? Wir müssen den Einsatz von Gedächtnis und Speicher untersuchen, um diesen Regelkreis zu vervollständigen, damit sich die Agenten zu schnelleren Praktikanten entwickeln, die in ihrer Karriere deutlich weiter vorankommen werden.

AARON

Kurz gesagt: Wir werden alle zahlreiche Leistungsbeurteilungen und Einzelgespräche mit den Agenten führen.

RAO
Ich betrachte alle Mitarbeiter:innen als Führungskräfte eines Teams von Agenten.

Ich betrachte alle Mitarbeiter:innen als Führungskräfte eines Teams von Agenten.
Rao Surapaneni, VP und GM of Business Applications bei Google Cloud

AARON

Noch ein letzter Rat? Wenn Sie allen eine einzige Erkenntnis mit auf den Weg geben müssten, die sie später am Tag an ihre Agenten weitergeben könnten – was sollten wir anders machen?

RAO

Setzen Sie sie ein. Setzen Sie sie in großem Umfang ein. Geben Sie Feedback. Nur so können wir sie einem Stresstest unterziehen und herausfinden, was funktioniert und was nicht. Die Technologie ist da. Es geht darum, wie wir sie mit dem richtigen Risikoprofil auf die richtigen Anwendungsfälle anwenden.

AARON

Großartig. Rao, vielen Dank. Wir wissen die Zusammenarbeit sehr zu schätzen.

RAO

Danke.

* Wir setzen uns stetig dafür ein, Produkte und Services mit Datenschutz, Sicherheit und Compliance höchsten Grades anzubieten. Dennoch stellen die Informationen in diesem Blogbeitrag keine Rechtsberatung dar. Wir empfehlen potenziellen und bestehenden Kund:innen dringend, bei der Beurteilung von Compliance nach geltendem Recht eigene Sorgfaltsprüfungen durchzuführen.