Einsatz von KI-Agenten für Unternehmen braucht lückenlose GovernanceWer kontrolliert KI-Agenten?

Wenn es darum geht, Unternehmen zu transformieren, ist das Potenzial von KI-Agenten enorm. Davon sind Experten weltweit überzeugt. In einer Studie befragte Boomi 300 Führungskräfte aus Wirtschaft und Technologie, darunter auch welche aus Deutschland. Fast drei Viertel (73 Prozent) glauben, dass KI-Agenten die größte Veränderung für ihr Unternehmen in den letzten fünf Jahren darstellen werden.

Doch die Studie zeigt auch, dass nur zwei Prozent der derzeit eingesetzten KI-Agenten vollständig für ihre Handlungen verantwortlich sind und einer kontinuierlichen, konsistenten Governance unterliegen. Was im Umkehrschluss bedeutet, dass 98 Prozent keine oder zumindest keine ausreichenden Governance-Regeln besitzen. Und genau hier liegt die Gefahr für Unternehmen, denn ohne Kontrolle kann die Leistungsfähigkeit von KI-Agenten nicht richtig kanalisiert werden.
KI-Agenten bekommen immer mehr Verantwortung

War noch bis vor kurzem die Meinung vorherrschend, dass kritische Unternehmensbereiche wie das Managen von Sicherheitsrisiken oder die Genehmigung von Investitionen und Budgets allein menschliche Expertise benötigten, so hat sich das mit der raschen Weiterentwicklung von KI-Agenten gewandelt.

Führungskräfte sind nun in immer größerem Maße bereit, auch diese Bereiche einem KI-Agenten zumindest teilweise anzuvertrauen. Welch enorme Verantwortung damit auf dieser Technologie liegt, ist ersichtlich. Führungskräfte und IT-Teams sind nicht mehr über alle Arten der Nutzung sensibler Daten durch die Technologie informiert und dies kann zu potenziellen Verstößen gegen Sicherheits- oder Compliance-Vorschriften führen. Für jedes Unternehmen ist die unkontrollierte Autonomie von KI-Agenten ein inakzeptables Risiko.

Background Check für „digitale Mitarbeiter“

Doch die aktuellen Standards für die Governance von KI-Agenten sind unzureichend. Oft werden bereits die Mindestanforderungen an eine Governance-Strategie für KI-Agenten nicht erfüllt. So verfügt weniger als ein Drittel über ein Governance-Framework für KI-Agenten, und nur 29 Prozent bieten regelmäßige Schulungen für Mitarbeiter und Führungskräfte zum verantwortungsvollen Umgang mit KI-Agenten an. Und wenn es um spezifische Prozesse wie Protokolle zur Bewertung von Bias oder die Planung von Maßnahmen bei Ausfällen von KI-Agenten geht, sind noch weniger Unternehmen vorbereitet (jeweils nur rund ein Viertel).

Unternehmen müssen daher damit beginnen, digitale Mitarbeiter (KI-Agenten) genauso wie menschliche Mitarbeiter zu behandeln. Bei diesen ist es Gang und Gäbe, ihre Fähigkeiten und ihre Vergangenheit auf ethische Verstöße hin zu überprüfen. KI-Agenten müssen nach denselben Standards behandelt werden und beispielsweise dahingehend überprüft werden, ob sie eine Vorgeschichte mit Voreingenommenheit oder Halluzinationen haben.

Universelle Governance ist unerlässlich

Die universelle Governance von KI-Agenten ist nicht nur ein nettes Extra. Sie ist für die Datensicherheit und die Verbesserung der Unternehmensleistung unerlässlich. Unternehmen mit einer fortschrittlichen Governance schneiden in einer Vielzahl wichtiger Geschäftskennzahlen besser ab als Unternehmen, die nur über ein grundlegendes Niveau verfügen.

Zudem sichern sie sich vor Compliance-Verstößen, Reputationsschäden und letztlich auch vor einem durch nicht geprüfte KI-Agenten ausgelösten Sicherheitsvorfall mit erheblichem finanziellen Schaden. Denn im aktuellen Wettbewerbsumfeld kann selbst ein kleiner Vorsprung den Unterschied zwischen Führungsposition und Rückstand ausmachen.

Markus Müller ist Global Field CTO API Management bei Boomi.

Boomi