Datenethik und DSGVO: So sollten Unternehmen mit Daten umgehenQualität der Daten als sicherer Ausgangspunkt

Algorithmen sind aus der Unternehmens-IT und vor allem beim Einsatz von Künstlicher Intelligenz nicht mehr wegzudenken. Sie helfen Firmen dabei, große Datenmengen in Sekundenschnelle auszuwerten. Sie liefern wichtige Informationen zu Geschäftspartnern und unterstützen das Business Development. Doch nicht immer bereichern Algorithmen das Geschäft. Funktionieren sie nicht richtig, also weisen die verwendeten Daten nicht die nötige Qualität auf, erstellen sie beispielsweise falsche Prognosen. Halten sie sich nicht an gewisse ethische Regeln, kann sogar der Ruf auf dem Spiel stehen. Richtig und vor allem ethisch erhobene und verarbeitete Daten werden so zum Wettbewerbsfaktor.

Algorithmen – besonders in Form von Künstlicher Intelligenz (KI) – werden immer intensiver und konkreter diskutiert. Im Zentrum stehen etwa Fragen danach, was sie dürfen und können sollen und wie nützlich sie wirklich sein können. Und es häufen sich negative Berichterstattungen: Französische Medien zum Beispiel berichteten kürzlich, dass eine fehlerhafte Software, die im zweitgrößten Krankenhaus Frankreichs zum Einsatz kam, das Leben von Patientinnen riskierte.

Schuld war die Datenbasis des Algorithmus: Die Software listete Namen von Medikamenten nicht vollständig, sondern nur mit ihren Abkürzungen auf. So kam es zu Verwirrungen und falschen Rezeptausstellungen. Ein anderes System, das Richterinnen und Richtern eigentlich bei der Entscheidung helfen sollte, welche Häftlinge vorzeitig entlassen werden sollten, war der Ansicht, dass eine dunkle Hautfarbe das entscheidende Kriterium für eine hohe Rückfallwahrscheinlichkeit für Straftaten sei. Hierbei irrte sich die Software nicht nur, sondern war auch voller Vorurteile.

Minderwertige Trainingsdaten machen Algorithmen unbrauchbar

Mag ein Einsatzzweck noch so vorbildlich sein, Algorithmen und datenbasierte Entscheidungen funktionieren oft noch nicht so, wie sie sollten. Klar ist, datenbasierte Technologien bergen prinzipiell große Chancen für den Alltag des Einzelnen und können Nutzen für Wirtschaft, Wissenschaft und die Gesellschaft stiften. Sie können Aufgaben sehr viel schneller erledigen oder Zusammenhänge erkennen, die dem menschlichen Auge verborgen bleiben.

Die genannten Fälle zeigen aber auch, dass für den erfolgreichen Einsatz von Algorithmen oft sensible Daten von Geschäftspartnern notwendig sind, etwa Bewegungs- und Gesundheitsdaten, Name, Geschlecht, Bankdaten, Historie und viele mehr. Und diese müssen in hoher Zahl, zuverlässig und in hoher Qualität verarbeitet werden.

Bei einer falschen Programmierung entstehen schnell falsche Urteile und vor allem Vorurteile, die sich der Algorithmus oder die KI zu eigen machen. Dann werden Fälle falsch bewertet oder unzutreffende Prognosen erstellt, die das Geschäft behindern oder im schlimmsten Fall über das Schicksal eines Menschen entscheiden. Denn wer Algorithmen ethisch einsetzen will, muss sie auch ethisch trainieren und verwalten

Auf diese Weise setzen Unternehmen ihren Ruf aufs Spiel und riskieren teils dramatische Vertrauensverluste ihrer Kunden und Geschäftspartner. Besonders groß ist der Vertrauensbruch, wenn Daten auch noch unberechtigt an Dritte weitergegeben oder von ihnen gekauft wurden und die Firmen nicht richtig über den Zweck der Datenverarbeitung informiert haben. Der richtige Einsatz und Umgang von Daten und Algorithmen – hier vor allem Kunden- und Geschäftspartnerdaten – ohne Diskriminierungen oder Verstöße gegen den Datenschutz will gelernt sein.

Oftmals scheitern Unternehmen an der Programmierung, weil sie nicht genügend Basisdaten von Kunden und Geschäftspartnern erhalten. Wer auf Basis sensibler Informationen Algorithmen trainieren will, der muss sich zuerst das Vertrauen des Nutzers verdienen und Anreize schaffen, damit dieser Daten hinterlässt.

DSGVO allein reicht nicht, Vertrauen muss aufgebaut werden

Um die richtigen, personenbezogenen Daten zu bekommen und seine Algorithmen damit zu trainieren, genügt es keinesfalls, sich nur an Gesetze wie etwa die DSGVO zu halten. Geschäftspartner müssen über Datenschutz und Privatsphäre hinaus von der Vertrauenswürdigkeit des Unternehmens überzeugt werden. Es empfiehlt sich ein ethischer Umgang mit den sensiblen Kunden- und Geschäftspartnerdaten, der laut Datenethikkommission (BMJV) und der Akademie Berlingen unter anderem folgende Rechte vorsieht:

• Schutz der Privatsphäre: Um nicht zu sehr in die Intim- und Privatsphäre ihrer Geschäftspartner einzudringen, sollten sich Unternehmen an die Prinzipien „Zweckbindung“ und „Datensparsamkeit“ halten: Daten sollen nur zu dem Zweck eingesetzt werden, für den sie erhoben wurden, und es sollen nur so viele Daten erhoben werden, wie für einen bestimmten Zweck tatsächlich benötigt werden. Zudem sollten Daten nicht zwischen verschiedenen Firmen ausgetauscht werden, auch nicht anonymisiert. Unternehmen sollten Eingriffe in die Privatsphäre mit ihren berechtigten Ansprüchen sorgsam abwägen.
• Das Recht, die eigene Identität zu kontrollieren: Im Rahmen der informationellen Selbstbestimmung sollte jeder Geschäftspartner das Recht haben, die über ihn gespeicherten Daten einzusehen und zu bearbeiten. Algorithmen kombinieren verschiedene Informationen zu einer Person hinsichtlich einer digitalen Identität, auch „Golden Profile“ genannt. Unternehmen müssen in der Lage sein, korrekte Rückschlüsse zu ziehen und technische Maßnahmen ergreifen können, automatisierte Urteile zu verifizieren.
• Schutz vor Diskriminierung und Datenmissbrauch: Auf keinen Fall sollten Algorithmen Geschäftspartner ungleich behandeln und somit diskriminieren. Das geschieht jedoch schnell, etwa, wenn es um individualisierte Preise geht. Algorithmen ordnen Individuen, basierend auf teilweise nicht oder nur beschränkt beeinflussbaren Merkmalen, verschiedenen Klassen zu, die als Basis für das personalisierte Angebot dienen. Oft sind sie mit Werten belegt und agieren mit Vorurteilen. Dieser ethischen Brisanz sollten sich Unternehmen bewusst sein.

Die Verarbeitung von Geschäftspartnerdaten transparent kommunizieren: Wozu werden welche Daten erhoben und ausgewertet? Das sollten Unternehmen, die sich Vertrauen verdienen wollen, transparent kommunizieren. Und zwar nicht nur versteckt im Kleingedruckten der AGB.

In dem Zusammenhang ist ebenfalls eine Corporate Digital Responsibility (CDR) ratsam. Mit der CDR wird die Verantwortung der Unternehmen gegenüber diesen Daten adressiert. Die Firma verbürgt sich sozusagen dafür, dass alle Informationen korrekt, aktuell und vollständig sind und entsprechend ethisch und sicher behandelt werden. Doch wie können Unternehmen die Einhaltung dieser Prinzipien sicherstellen?

Datenqualität und CDR als Strategie für das Kerngeschäft

Um das entgegenbrachte Vertrauen nicht zu verspielen, müssen Unternehmen Tools implementieren, die diese Basisdaten für Algorithmen gewissenhaft verwalten. Das heißt, sie müssen eine hohe Datenqualität sicherstellen und diese über einen langen Zeitraum erhalten. Denn wie eingangs erwähnt, ist ein Algorithmus nur so gut wie die Trainingsdaten und verärgert Geschäftspartner, wenn sie fehlerhaft behandelt werden. Den Qualitätsansprüchen sind sich mittlerweile die meisten Unternehmen bewusst. 69 Prozent von ihnen arbeiten laut aktueller Uniserv-Studie kontinuierlich an ihrer Datenqualität.

In erster Linie müssen dazu Silos aufgelöst werden, denn um eine digitale Identität oder das Golden Profile eines Geschäftspartners zu erhalten, müssen Daten aus verschiedenen Quellen konsolidiert werden. Technisch kann dabei insbesondere aus Sicht des Marketings eine Customer-Data-Plattform (CDP) helfen. Diese vereinheitlicht, bereinigt und vervollständigt die verfügbaren Geschäftspartnerstammdaten.

Zusammengefasst zu einem Golden Profile ergibt sich daraus die einzig wahre Datenbasis beziehungsweise die wahre digitale Identität, die Unternehmen zum Training ihrer Algorithmen verwenden sollten. Auf Basis dieser 360-Grad-Sicht auf alle Geschäftspartner können Unternehmen ihre CDR aufbauen und auch einhalten. Denn klar ist: Im Markt bestehen können nur diejenigen, die sich der neuen digitalen Verantwortung bewusst sind, für die Datenethik also keine leere Worthülse darstellt, sondern die aktiv Sinn-fokussiert nach ethischen Grundsätzen handeln.

Dr. Simone Braun ist Head of Business Development bei Uniserv.

Uniserv