DSAG zu den Entwicklungen beim AI ActBalance zwischen Regulierung und Förderung von KI-Innovationen notwendig

Da die Beratungen zum AI Act der EU weiter anhalten, scheint eine Einigung bis Dezember 2023 unwahrscheinlich. Die Deutschsprachige SAP-Anwendergruppe e. V. (DSAG) hat die neuesten Entwicklungen zum Anlass genommen und die Wichtigkeit eines potenziellen EU AI Acts bewertet. Gleichzeitig hat die DSAG ihre Positionen im Kontext Künstlicher Intelligenz herausgearbeitet.

Die geplante KI-Regulierung der EU soll dazu dienen, mögliche Risiken von KI zu reduzieren und Gefahren, die mit ihrem Einsatz verbunden sein können, zu unterbinden. Gleichzeitig soll sie jedoch keine Überregulierung darstellen, die Innovationen in Europa hemmt und die Unternehmen belastet. Die finale Gesetzgebung besitzt somit das Potenzial, die Entwicklungs- und Verbreitungsgeschwindigkeit von KI-Anwendungen stark zu beeinflussen.

Alle KI-Beteiligten sollten sich daher frühzeitig mit den möglichen Auswirkungen auf Wirtschaft und Gesellschaft auseinandersetzen. Denn schon auf Basis der aktuellen Diskussion sind der zu erwartende Rechtsrahmen für vertrauenswürdige KI und wesentliche Schlüsselelemente einer Regulierung ersichtlich. Diese werden nicht nur die Anbieter von KI-Systemen betreffen, sondern auch die Unternehmen, die eigenverantwortlich ein KI-System verwenden sowie alle Beteiligten entlang der KI-Wertschöpfungskette.

Aus DSAG-Sicht braucht es dringend eine Balance zwischen Regulierung und Förderung von KI-Innovationen. Denn schon die Einordnung von KI-Anwendungen, wie sie der AI Act vorsieht, ist hochproblematisch: Er konzentriert sich auf verbotene sog. Hochrisikoanwendungen, ohne dass hierfür eine klar eingrenzbare Definition dieser Anwendungen bereits möglich wäre.

Die unterschiedlichen Definitionen der aktuellen Verhandlungspartner reichen teilweise sehr weit und könnten bei strenger Auslegung sogar statistische Software oder KI-unterstützte Auswertungsprozesse beinhalten. Sofern dieser weitreichenden Definition stattgegeben wird, resultieren daraus Auflagen, die den Einsatz von KI an vielen Stellen unterbinden werden, wo er aber für Erleichterung und Effizienz sorgen könnte – bspw. bei der Digitalisierung der öffentlichen Verwaltung.

Probleme bei Deepfakes und Urheberrechten

Die aktuellen, medial präsenten Schwerpunkte in der Diskussion, nämlich „Deepfakes“ und das „Großraum Urheberrecht“, sind aus DSAG-Sicht ebenfalls problematisch. Bezogen auf Deepfakes sind die großen Probleme kaum mit den derzeitigen Regulierungsinstrumenten und Verboten in den Griff zu bekommen. Und in Sachen „Großraum Urheberrecht“ hat die EU in der Vergangenheit bereits bei der Einführung der Datenschutzgrundverordnung (DSGVO) eine schlechte Figur abgegeben. Auch, wenn Deepfakes und das Urheberrecht relevant sind, so sind sie bei der Regulierung von KI nur zwei Szenarien unter vielen.

Ein Knackpunkt wird die Risikoklassifizierung der Anwendungsfälle darstellen. Neben der Einschätzung der Systeme selbst stellt sich auch die Frage, wer eigentlich all die KI-basierten „Hochrisikosysteme“ zertifizieren soll. Es gilt zu verhindern, dass die EU sich hier einen unnötigen und kostenintensiven Verwaltungsvorgang auferlegt, dessen damit verbundenen Aufwand sich vielleicht Großunternehmen werden leisten können, aber nicht kleine und mittelständische Unternehmen. Die Gefahr, dass die EU bei einer entsprechenden Überregulierung von China und Amerika im Rahmen der rasanten Entwicklung rund um die AI-Technologien technologisch vollends abgehängt wird, ist mehr als real.

Es scheint so, als wolle die EU die regulierteste KI der Welt. Dabei darf sie jedoch nicht vergessen, die wirtschaftlichen Interessen sorgfältig abzuwägen, um eine mögliche Überregulierung zu vermeiden. Die DSAG-Forderungen an die Politik lassen sich vor diesem Hintergrund zusammenfassen:

• Eine staatliche KI-Strategie ist notwendig, um institutionelle Rahmenbedingungen für die Entwicklung von Technologie zu schaffen und Innovationen zu fördern, sowie den Digitalisierungsstau der Verwaltungen auch bei fortwährendem Fachkräftemangel aufzulösen.
• Der Einsatz von KI sollte für den Mittelstand wirtschaftlich attraktiv sein und daher schnellstmöglich eine konkurrenzfähige finanzielle Förderung von KI-Technologien etabliert werden – wie bspw. die Initiative des „Large European AI Models (LEAM:AI)“, um große, datenreiche KI-Modelle zu entwickeln.
• Strenge Datenschutzregeln dürfen den erfolgreichen Einsatz von KI nicht behindern und müssen an aktuelle und zukünftige Szenarien angepasst werden.
• Es bedarf einer zentralen koordinierenden Stelle für den Einsatz von KI im öffentlichen Sektor, um Wissenstransfer, rechtliche Rahmenbedingungen, technische Unterstützung und Fortbildungen sicherzustellen.
• Eine verbesserte Bildung rund um alle Themen der Digitalisierung ist notwendig, um einen gesellschaftlichen Konsens zum Umgang mit KI zu befördern – denn die Technologie ist bereits real und alle Unternehmen, ihre Mitarbeiter und die EU-Bürger werden lernen müssen mit ihr umzugehen und zu arbeiten.

Künstliche Intelligenz (KI) ist ein mächtiges Werkzeug, aber oft wird übersehen, dass sie Daten benötigt, um wirklich nützlich zu sein. Die Vorstellung, dass technische Experten und Berater KI-Systeme problemlos in Unternehmen implementieren können, ist ein Trugschluss. Tatsächlich sind die Fachleute in den Unternehmen entscheidend, um die Vorteile von KI-Systemen zu nutzen, wie z. B., um die Produktivität zu steigern – auch wenn KI hier nicht das alleinige Allheilmittel darstellt, zu dem sie im Rahmen des aktuellen Hypes gemacht wird.

So bleibt eine besondere Herausforderung im Rahmen des AI Acts unberücksichtigt, wenn es darum geht, die AI-Technologien nachhaltig einzusetzen: Künstliche neuronale Netze zu trainieren, benötigt enorme Mengen an Rechenleistung, Energie und Ressourcen. Wie viel Energie genau, darüber geben die Entwicklerfirmen keine detaillierte Auskunft. So bleibt die Frage aktuell unbeantwortet, ob er Einsatz solcher energieintensiven Technologien mit den angestrebten globalen Klimazielen vereinbar ist – hier könnte die EU mit klaren Zertifizierungs-, Kompensations- und Transparenzpflichten einen wesentlichen Beitrag mit internationalem Vorbildcharakter leisten.

KI und SAP-Lösungen

Was für die EU im übergreifenden Kontext gilt, ist auch auf SAP als Lieferant von Software-Produkten für Unternehmensprozesse im Speziellen anwendbar: Wie viele andere Software-Hersteller hat auch SAP erkannt, dass KI ein wichtiges Zukunftsthema ist und ergänzt dementsprechend das bestehende Portfolio sukzessive mit Blick auf die Business-Anforderungen der Unternehmen. Mit KI sollen in Unternehmen nicht nur Prozesse automatisiert und beschleunigt, sondern auch die effizientere Nutzung von Daten gefördert werden. Unternehmen mit einem hohen Digitalisierungsgrad könnten davon besonders profitieren – z. B., was die Entwicklung oder Weiterentwicklung von Geschäftsmodellen betrifft.

Kontraproduktiv sind in diesem Kontext Ankündigungen wie die im Juli von SAP, dass KI-Innovationen nur für Kunden mit bestimmten Cloud-Verträgen und mit entsprechendem Preisaufschlag verfügbar sein sollen. Für eine erfolgreiche Digitalisierung ist es unabdingbar, dass SAP alle KI-Innovationen auch für alle Kunden zur Verfügung stellt.

Darüber hinaus ist es notwendig, dass SAP einheitliche Rahmenbedingungen und ein umfassendes Monitoring bei der Integration großer Sprachmodelle in SAP-Prozesse sicherstellt. Gleichzeitig braucht es transparente Lizenz- und Nutzungsbedingungen – insbesondere im Zusammenhang mit Partnerschaften von SAP mit anderen Unternehmen im KI-Kontext.

Es muss Klarheit über die indirekte Nutzung von Daten aus SAP-Systemen für KI-Anwendungen geschaffen und diese in den Lizenzvereinbarungen festgelegt werden. Unternehmen sollten zudem Unterstützung und Best-Practice-Guides für die Integration von KI-Anwendungen erhalten, um den Datenschutz zu gewährleisten und konkrete Use Cases umzusetzen.

Sebastian Westphal ist Technologievorstand bei der Deutschsprachige SAP-Anwendergruppe e. V.

Deutschsprachige SAP-Anwendergruppe e. V.