85 Prozent der deutschen Unternehmen passen ihre KI-Use-Cases anAusufernde Token-Kosten bremsen KI
30. Oktober 2026
Steigende Kosten, Governance-Anforderungen und Souveränitätsvorgaben zwingen Unternehmen in Deutschland neu zu entscheiden, wie und wo sie KI betreiben. So lautet ein Ergebnis der globalen Umfrage “The State of Enterprise AI 2026: The New Rules of Scale“ von Cloudera. Die Erhebung untersucht, wie Unternehmen mit den steigenden Kosten für KI, den veränderten Compliance-Anforderungen und der Flexibilität umgehen, die für den groß angelegten Einsatz von KI erforderlich ist.
Der Preisdruck aufgrund steigender Token-Kosten beschäftigt viele deutsche Unternehmen. Um bei der Skalierung von KI zu sparen, geben 85 Prozent der Befragten in der Umfrage “The State of Enterprise AI 2026: The New Rules of Scale“ an, ihre KI-Use-Cases begrenzt oder umgebaut zu haben.
45 Prozent haben ihre Workloads in eine andere Umgebung verlagert, etwa in eine Private Cloud oder auf eine On-Premises-Plattform. Fast ebenso viele (42 Prozent) haben als Antwort auf den Kostendruck Verarbeitungsfrequenz, Modellgröße, Output oder den Kontext ihrer KI-Modelle reduziert. Auf globaler Ebene zeichnet sich ein ähnliches Bild ab. Dort haben fast neun von zehn Befragten (89 Prozent) ihre KI Use-Cases wegen des steigenden Token-Verbrauchs eingeschränkt.
Trotz des Kostendrucks bleiben die KI-Investitionen der deutschen IT-Entscheider hoch. 41 Prozent haben sie im vergangenen Jahr erhöht. Mehr als zwei Drittel (71 Prozent) investieren mindestens 500.000 US-Dollar pro Jahr. Ein Drittel (33 Prozent) gibt sogar an, wenigstens eine Million Dollar dafür aufzuwenden. Dennoch bleibt für viele die Frage nach dem Return on Investment (ROI): Während 61 Prozent der Befragten sagen, dass sich Aufwand und Kosten decken, sehen nur 21 Prozent einen höheren Mehrwert als Kostenaufwand. Wer diesen Wert belegen will, braucht Kostentransparenz, Kontrolle und Governance.
Souveränität bestimmt, wo KI läuft
Für 40 Prozent der deutschen IT-Entscheider und Führungskräfte ist fehlende Expertise in der Belegschaft sowie für je 39 Prozent die Datenintegration und die Souveränität ein großes Hemmnis bei der KI-Skalierung. Als noch hinderlicher werden Token- und Inferenzkosten von 45 Prozent der hierzulande Befragten genannt. Als größte Bremse für den KI-Ausbau im Unternehmen nehmen fast drei Viertel (73 Prozent) jedoch Governance-Anforderungen und Compliance wahr.
Damit liegt Deutschland nahe am globalen Durchschnitt von 75 Prozent. Weltweit geben 55 Prozent der Befragten außerdem an, dass Kosten für Governance höher ausfallen als erwartet. Besonders bedenklich: In Deutschland entwickelt sich die KI für knapp ein Drittel (29 Prozent) zu schnell für ihre Kontrollen, nur 46 Prozent sehen hingegen eine gute Balance.
Hier spielen hybride Umgebungen eine zentrale Rolle: Für 41 Prozent der IT-Entscheider in Deutschland sind Souveränität und Datenstandort die wichtigsten Treiber für den Betrieb in heterogenen Umgebungen. Mehr als acht von zehn (85 Prozent) entscheiden abhängig von Residenz und Souveränitätsvorgaben, wo Workloads laufen. Einschränkungen sehen mehr als die Hälfte (56 Prozent) der deutschen Befragten vor allem bei der Flexibilität und geben an, dass ein Wechsel zwischen den Umgebungen einen mittleren oder großen Umbau erfordert.
Die Skalierung offenbart eine neue Realität für KI in Unternehmen: Was heute funktioniert, ist morgen möglicherweise weder wirtschaftlich noch operativ sinnvoll. Kosten und regulatorische Vorgaben ändern sich, Modelle entwickeln sich weiter, und damit wandelt sich auch der optimale Ort für die Ausführung von Workloads. Führungskräfte benötigen eine KI-Strategie, die dieser Realität gerecht wird und ihnen die Freiheit gibt, sich anzupassen, ohne die Kontrolle über ihre Daten, Governance oder Ausgaben zu verlieren.
Deutsche Unternehmen investieren weiter in KI, müssen dabei aber stärker auf Kosten, Kontrolle und Souveränität achten. Wer den Wert seiner KI-Projekte belegen will, braucht daher von Beginn an automatisierte Kontrollen mit klaren Schwellenwerten und volle Transparenz über Inferenz-, Speicher- und Token-Kosten, bevor Modelle in Produktion gehen.
Der Ausführungsort von KI-Workloads wird damit zu einer strategischen Entscheidung. Plattformen wie die von Cloudera unterstützen Unternehmen dabei, KI in der Umgebung zu betreiben, in der die Daten verwaltet werden, und dabei eine einheitliche Governance zu behalten.
Methodik der Studie
Die von Cloudera beauftragte und von Wakefield Research durchgeführte Studie basiert auf einer Befragung von 1.500 IT-Verantwortlichen und Entscheidungsträgern auf mindestens Direktorenebene. Sie wurde in drei Regionen und neun Märkten durchgeführt: Amerika (USA: 475, Kanada: 100, Brasilien: 100), EMEA (Italien: 125, Deutschland: 360, Vereinigte Arabische Emirate: 40) sowie Asien-Pazifik (Australien: 160, Südkorea: 100, Indonesien: 40). Die Teilnehmenden wurden per E-Mail eingeladen und füllten vom 2. bis 14. September 2026 einen Online-Fragebogen aus.
Christian Sohn ist Regional Vice President für Deutschland und Österreich bei Cloudera.
