Schatten-KI-Risiken nehmen durch die hohe Akzeptanz von genAI-Plattformen und KI-Agenten zu Hälfte aller aktuellen App-Nutzungen gehören zur „Schatten-KI“.

Mit zunehmender Verbreitung von genAI und KI-Agenten in den Unternehmen steigt das Cyber-Risiko, obwohl Unternehmen SaaS-genAI-Anwendungen in größerem Umfang sicher einsetzen. Das hat eine Untersuchung der Netskope Threat Labs ergeben.

Die Nutzung von genAI-Plattformen in Unternehmen in den drei Monaten bis Mai 2025 um 50 Prozent gestiegen. Das hat der „Threat Labs Report: Schatten-KI und Agentische KI“ von Netskope ergeben. Trotz einer anhaltenden Verlagerung hin zu einer sicheren Aktivierung von SaaS genAI-Apps und KI-Agenten erhöht das Wachstum von Schatten-KI – also von nicht genehmigten KI-basierten Anwendungen, die von Mitarbeitern genutzt werden. Schätzungsweise sind mehr als die Hälfte aller aktuellen App-Nutzungen Schatten-KI.

Die genAI-Plattformen sind grundlegende Infrastruktur-Tools, mit denen Unternehmen benutzerdefinierte KI-Apps und KI-Agenten erstellen können. Aufgrund ihrer Einfachheit und Flexibilität stellen sie für die Nutzer die am schnellsten wachsende Kategorie der Schatten-KI dar. In den drei Monaten bis Mai 2025 stieg die Zahl der Nutzer dieser Plattformen um 50 Prozent.

Diese-Plattformen beschleunigen die direkte Verbindung von Unternehmensdatenspeichern mit KI-Anwendungen, wobei die Popularität der Nutzung neue Risiken für die Datensicherheit in Unternehmen schafft, die der Verhinderung von Datenverlusten (DLP) und der kontinuierlichen Überwachung und Sensibilisierung zusätzliche Bedeutung verleihen. Der mit der Nutzung von KI-Plattformen verbundene Netzwerkverkehr stieg im Vergleich zum vorangegangenen Drei-Monats-Zeitraum um 73 Prozent. Im Mai setzten bereits 41 Prozent der Unternehmen mindestens eine genAI-Plattform ein. Ungefähr 29 Prozent der Unternehmen nutzen Microsoft Azure OpenAI, gefolgt von Amazon Bedrock (22 Prozent) und Google Vertex AI (7,2 Prozent).

Sicherheitsteams wollen die Innovationsbestrebungen der Endanwender nicht behindern, aber die Nutzung von KI wird nur zunehmen. Um diese Innovation zu schützen, müssen Unternehmen ihre KI-App-Kontrollen überarbeiten und ihre DLP-Richtlinien so weiterentwickeln, dass sie Elemente des Benutzer-Coachings in Echtzeit einbeziehen.“

Die vielen Facetten der On-Premise KI-Innovation

Von der lokalen Bereitstellung von genAI über On-Premise GPU-Quellen bis hin zur Entwicklung von On-Premise Tools, die mit SaaS-genAI-Anwendungen oder genAI-Plattformen interagieren, evaluieren Unternehmen viele Optionen, um mithilfe von KI schnell innovativ zu sein. Sie wenden sich zunehmend Large Language Model (LLM)-Schnittstellen zu.

Das Versprechen von KI-Agenten treibt dieses Verhalten an, da die Daten zeigen, dass es jetzt eine kritische Masse von Nutzern in Unternehmen gibt, die KI-Agenten entwickeln und die KI-Funktionen von SaaS-Lösungen nutzen. GitHub Copilot wird jetzt in 39 Prozent der Unternehmen eingesetzt, und 5,5 Prozent der Nutzer setzen Agenten ein, die von beliebten KI-Agenten-Frameworks vor Ort generiert wurden. Darüber hinaus rufen Agenten vor Ort mehr Daten von SaaS-Diensten ab und greifen dabei auf mehr API-Endpunkte als Browser zu. Zwei Drittel (66 Prozent) der Unternehmen haben Benutzer, die API-Aufrufe an api.openai.com und 13 Prozent an api.anthropic.com tätigen.

Weiterentwicklung der SaaS-KI-Nutzung

Netskope verfolgt jetzt mehr als 1.550 verschiedene genAI-SaaS-Anwendungen, im Vergleich zu nur 317 im Februar. Dies weist auf das rasante Tempo hin, mit dem neue Anwendungen veröffentlicht und im gesamten Unternehmen angenommen werden. Unternehmen nutzen jetzt etwa 15 genAI-Anwendungen, im Februar waren es noch 13. Darüber hinaus ist die Datenmenge, die jeden Monat in genAI-Apps hochgeladen wird, im Quartalsvergleich von 7,7 GByte auf 8,2 GByte gestiegen.

Unternehmensanwender beginnen, sich um speziell entwickelte Tools wie Gemini und Copilot zu konsolidieren, da immer mehr Sicherheitsteams daran arbeiten, diese Anwendungen und Lösungen in ihrem Unternehmen sicher zu aktivieren, da diese Chatbots nun besser in ihre Produktivitäts-Suiten integriert sind.

Von den Top 10 der beliebtesten genAI-Apps pro Unternehmen war ChatGPT die einzige, die seit Februar einen Rückgang verzeichnete, während andere beliebte Apps, darunter Anthropic Claude, Perplexity AI, Grammarly und Gamma, alle einen Anstieg der Akzeptanz in Unternehmen verzeichneten. Darüber hinaus ist Grok aufgrund seiner zunehmenden Beliebtheit zum ersten Mal in die Top 10 der meistgenutzten Anwendungen aufgestiegen. Grok ist zwar weiterhin in den Top 10 der meistgesperrten Apps, aber die Blockierraten sind tendenziell rückläufig, da immer mehr Unternehmen granulare Kontrollen und Überwachungen evaluieren und einsetzen.

Sicherstellung von KI-Governance und Nutzungsmonitoring

CISOs und andere Sicherheitsverantwortliche sollten die notwendigen Schritte unternehmen, um eine sichere und verantwortungsvolle Übernahme inmitten der beschleunigten Nutzung verschiedener KI-Technologien zu gewährleisten. Netskope empfiehlt folgende Maßnahmen:

• Bewerten Sie die genAI-Landschaft: Ermitteln Sie, welche genAI-Tools im Unternehmen eingesetzt werden, und bestimmen Sie, wer diese Tools verwendet und wie sie genutzt werden.
• Verstärkung der genAI-App-Kontrollen: Legen Sie eine Richtlinie fest, die nur die Nutzung von im Unternehmen zugelassenen genAI-Anwendungen erlaubt, und setzen Sie sie durch. Implementieren Sie robuste Sperrmechanismen und setzen Sie ein Echtzeit-Benutzercoaching ein.
• Inventarisierung lokaler Kontrollen: Wenn ein Unternehmen genAI-Infrastrukturen lokal betreibt, sollten Sie relevante Sicherheits-Frameworks wie OWASP Top 10 for Large Language Model Applications prüfen sowie anwenden und sicherstellen, dass Daten, Benutzer und Netzwerke, die mit der lokalen genAI-Infrastruktur interagieren, angemessen geschützt sind.
• Kontinuierliches Monitoring und Sensibilisierung: Implementieren Sie ein kontinuierliches Monitoring der genAI-Nutzung innerhalb der Organisation, um neue Schatten-KI-Instanzen zu erkennen und über neue Entwicklungen in der KI-Ethik, regulatorische Änderungen und feindliche Angriffe auf dem Laufenden zu bleiben.
• Bewertung der aufkommenden Risiken von agentenbasierter Schatten-KI: Identifizieren Sie diejenigen, die bei der Einführung von agentenbasierter KI führend sind, und arbeiten Sie mit ihnen zusammen, um eine umsetzbare und realistische Richtlinie zur Begrenzung von Schatten-KI zu entwickeln.

Ray Canzanese ist Director der Netskope Threat Labs.

Netskope