Verantwortungskrise in Sachen Künstliche Intelligenz aufgedeckt: Führungskräfte fordern eindeutige KI-Governance

6. März 2025

Das rasante Wachstum von KI überfordert die Governance. Führungskräfte ringen um eine Balance zwischen Innovation, Verantwortung und Ethik. Das schafft rote Linien für die zukünftige Nutzung von KI.

Es droht eine Verantwortungslücke, die durch KI möglich gewordenen Fortschritte untergraben könnte. Zu dieser Aussage kommt die Studie „The AI Responsibility Gap: Why Leadership is the Missing Link“ von NTT DATA. Demnach räumen mehr als 80 Prozent der Führungskräfte ein, dass Führungsfähigkeiten, Governance und die Bereitschaft der Mitarbeitenden nicht mit den Fortschritten der KI mithalten können. Das gefährdet Investitionen, Sicherheit und das Vertrauen der Öffentlichkeit.

Die Begeisterung für KI ist unbestreitbar. Unsere Ergebnisse aber zeigen, dass Innovation ohne Verantwortung ein Risikomultiplikator ist. Allerdings brauchen Unternehmen führungsgesteuerte Strategien für die KI-Governance, um diese Lücke zu schließen, bevor der Fortschritt ins Stocken gerät und das Vertrauen schwindet.

Die Studie zeigt, dass die Kluft bei der KI-Verantwortung immer größer wird.

Innovation versus Verantwortung als Konflikt in der Vorstandsetage: Die Führungsetage ist gespalten. Während ein Drittel der Führungskräfte der Meinung ist, dass Verantwortung wichtiger ist als Innovation, gibt ein weiteres Drittel der Innovation den Vorzug vor Sicherheit. Das verbleibende Drittel bewertet beide Aspekte als gleich wichtig.

  • Regulatorische Unsicherheit hemmt das Wachstum: Mehr als 80 Prozent der Führungskräfte geben an, dass unklare staatliche Vorschriften Investitionen und die Implementierung von KI behindern, was deren Einführung verzögert.
  • Sicherheit und Ethik bleiben hinter den KI-Ambitionen zurück: 89 Prozent der Führungskräfte sind über die KI-Sicherheitsrisiken besorgt. Aber nur 24 Prozent der CISOs glauben, dass ihr Unternehmen über solide Richtlinien verfügt, um KI-Risiken und Wertschöpfung in Einklang zu bringen.
  • Die Belegschaft ist nicht bereit: 67 Prozent der Führungskräfte geben an, dass ihre Mitarbeitenden nicht über die nötigen Fähigkeiten verfügen, um KI effektiv einzusetzen. Gleichzeitig räumen 72 Prozent ein, dass sie keine Richtlinien für den verantwortungsvollen Einsatz von KI haben.
  • Bedenken hinsichtlich der Nachhaltigkeit: 75 Prozent der Führungskräfte geben an, dass ihre KI-Ziele mit den Nachhaltigkeitszielen des Unternehmens kollidieren. Das zwingt die Unternehmen dazu, energieintensive KI-Lösungen zu überdenken.

Das Schließen der KI-Verantwortungslücke ist eine Führungsaufgabe

Ohne entschlossenes Handeln riskieren die Unternehmen eine Zukunft, in der die Fortschritte der KI die Governance überholen, die für eine ethische, sichere und effektive KI-Einführung erforderlich ist. Um dieser Herausforderung zu begegnen, müssen Führungskräfte folgende Aspekte berücksichtigen:

  • Responsible by Design: KI muss durchgängig und von Grund auf verantwortungsvoll entwickelt werden. Sicherheit, Compliance und Transparenz müssen von Anfang an in die Entwicklung einbezogen werden.
  • Governance-Imperativ: Führungskräfte müssen über die gesetzlichen Anforderungen hinausgehen und die ethischen und sozialen Standards der KI mit einem systematischen Ansatz erfüllen.
  • Einbeziehung der Belegschaft: Unternehmen müssen ihre Mitarbeitenden für die Arbeit mit KI qualifizieren und sicherstellen, dass alle Teams die Chancen und Risiken von KI verstehen.
  • Globale Zusammenarbeit bei den KI-Policies: Unternehmen, Regulierungsbehörden und Branchenführer müssen zusammenarbeiten, um klare und in der Praxis umsetzbare Rahmenwerke für die KI-Governance zu schaffen und globale KI-Standards festzulegen.

Zur Methodik

NTT DATA beauftragte Jigsaw Research Ende September und Anfang Oktober 2024 mit der Durchführung einer Primärforschung. Das Team befragte Führungskräfte aus Unternehmen in 34 Ländern in Nordamerika, Europa, Asien-Pazifik, Lateinamerika, dem Nahen Osten und Afrika. 98 Prozent der über 2.300 Befragten haben direkte Entscheidungsbefugnis oder Einfluss auf GenAI-Kaufentscheidungen.

Die vertretenen Branchen sind Banken und Investment (11 Prozent), Versicherungen (9 Prozent), Fertigung (14 Prozent), Automobilindustrie (8 Prozent), Logistik, Reisen und Transport (5 Prozent), Telekommunikation, Medien und Technologie (9 Prozent), Gesundheitswesen (9 Prozent), Biowissenschaften und Pharmazeutik (9 Prozent), Einzelhandel und Verbrauchsgüter (5 Prozent), öffentlicher Sektor (8 Prozent), Energie- und Versorgungsunternehmen (7 Prozent) sowie Hochschulwesen und Forschung (6 Prozent).

Zum Report „The AI Responsibility Gap: Why Leadership is the Missing Link

Lesen Sie auch