KI und Ethik am Arbeitsplatz: Die Rolle von Data Scientists

Data Scientists entwickeln und trainieren KI-Systeme. Sie entscheiden mit, welche Daten ein Modell nutzt, nach welchen Kriterien es Ergebnisse liefert und wer von diesen Ergebnissen betroffen ist. Damit tragen sie neben der technischen auch eine ethische Verantwortung – für die Qualität der Daten, den Schutz personenbezogener Informationen und die Vermeidung von Verzerrungen (Bias). Dieser Beitrag zeigt, welche ethischen Fragen im Arbeitsalltag von Data Scientists auftreten und wie sich KI und Ethik im Entwicklungsprozess zusammenbringen lassen.

Warum Ethik zur Arbeit von Data Scientists gehört

Die Forschung im Bereich KI-Ethik zeigt: Ethische Grundlagen lassen sich nicht nachträglich anfügen, sondern müssen von Beginn an in die Entwicklung einfließen. Data Scientists stehen dabei an der Schnittstelle zwischen technischer Machbarkeit und gesellschaftlicher Akzeptanz. Wo Algorithmen zunehmend eigenständig Entscheidungen vorbereiten, prägt ihre Arbeit mit, ob diese Systeme nachvollziehbar, fair und vertrauenswürdig sind.

Wie eng technische und ethische Fragen zusammenhängen, zeigt das Forschungsprojekt KITQAR, gefördert von der Denkfabrik Digitale Arbeitsgesellschaft im Bundesministerium für Arbeit und Soziales (BMAS). Unter Leitung des VDE und mit Partnern wie dem Hasso-Plattner-Institut und dem Ethikzentrum der Universität Tübingen entwickelte es Qualitätsstandards für KI-Test- und Trainingsdaten. Beteiligte wie PD Dr. Jessica Heesen (Universität Tübingen) und Prof. Dr. Felix Naumann (Hasso-Plattner-Institut) verbinden darin informatische, ethische und rechtliche Perspektiven.

Gemeinwohlorientierte KI-Anwendungen

Ethisch entwickelte KI bedient nicht allein wirtschaftliche Interessen, sondern kann einen gesellschaftlichen Mehrwert schaffen – etwa in der Gesundheitsversorgung oder im Umweltschutz. Als Orientierung dienen etablierte Modelle der Informations- und KI-Ethik: das PAPA-Modell (Privacy, Accuracy, Property, Accessibility) und das AI4People-Rahmenwerk mit fünf ethischen Prinzipien für eine „gute KI-Gesellschaft“. Sie geben Data Scientists konkrete Prüffragen für den Umgang mit Daten und Modellen an die Hand.

Ethische Herausforderungen im Arbeitsalltag

Drei Themen prägen die ethische Diskussion um KI am Arbeitsplatz besonders: der Schutz der Privatsphäre, verzerrte Ergebnisse durch Bias und der Wandel der Arbeitswelt.

Privatsphäre und Datenschutz

KI-Modelle benötigen große Datenmengen – das steht häufig im Spannungsverhältnis zum Schutz personenbezogener Daten. Data Scientists müssen Lösungen finden, die aussagekräftig bleiben und zugleich Vertraulichkeit und die Vorgaben des Datenschutzes wahren. Verfahren wie Anonymisierung, Datensparsamkeit und klar geregelte Zugriffsrechte gehören dazu.

Bias und Diskriminierung

Bias in Trainingsdaten oder Algorithmen kann zu systematischer Benachteiligung führen – etwa im Recruiting, bei der Kreditvergabe oder in der medizinischen Diagnostik. Wer solche Verzerrungen früh erkennt, kann gegensteuern, bevor sie sich in Entscheidungen niederschlagen. Dazu gehören die kritische Prüfung der Datenbasis, Tests auf ungleiche Ergebnisse für verschiedene Gruppen und eine transparente Dokumentation der Modelle.

KI und Arbeitsnormen

KI verändert Arbeitsabläufe, Rollen und Anforderungen an Beschäftigte. Wo Mensch und Maschine zusammenarbeiten, braucht es Regeln, die Zuständigkeiten und Verantwortlichkeiten klären. Ein offener Austausch zwischen Entwicklung, Anwendung und Gesellschaft hilft, diesen Übergang nachvollziehbar zu gestalten.

Datenqualität und Qualitätssicherung

Die Ergebnisse eines KI-Systems hängen unmittelbar von der Güte der zugrunde liegenden Daten ab. Datenqualität bedeutet dabei mehr als fehlerfreie Datensätze: Es geht auch um Vollständigkeit, Relevanz und die Vielfalt der Daten, die für das Training genutzt werden. Ethische Kriterien bei Auswahl und Aufbereitung der Daten von Anfang an mitzudenken, gehört deshalb zu den Kernaufgaben von Data Scientists.

Um eine dauerhaft hohe Datenqualität zu sichern, greifen Data Scientists auf mehrere Maßnahmen zurück:

• Bewertung der Datenqualität und ihrer Auswirkungen auf KI-Modelle
• Maßnahmen zur Erkennung und Vermeidung von Bias und Verzerrungen
• Erkennung und Bereinigung fehlerhafter Daten
• kontinuierliche Validierung und Überwachung der Systeme im Betrieb

Qualitätssicherung ist damit kein einmaliger Schritt, sondern ein laufender Prozess. Gerade in einem sich schnell verändernden Feld wie der KI trägt sie dazu bei, dass Systeme leistungsfähig, nachvollziehbar und vertrauenswürdig bleiben.

Mehr zum Thema

• KI und Automatisierung in der Produktionsbranche
• Prinzipien für die ethische Nutzung künstlicher Intelligenz (HMD Praxis der Wirtschaftsinformatik)
• Ethik im Data-Science-Alltag (data-analyst.de)

Häufig gestellte Fragen

Welche ethischen Kompetenzen sollten Data Scientists mitbringen?

Neben technischem Fachwissen zählen ein Bewusstsein für Datenschutz und Bias, die Fähigkeit, gesellschaftliche Folgen einer Anwendung einzuschätzen, sowie eine transparente Dokumentation der eigenen Arbeit. Orientierung geben etablierte Ethik-Modelle wie PAPA (Privacy, Accuracy, Property, Accessibility) oder AI4People.

Wie erkennt man Bias in KI-Systemen und wie lässt er sich vermeiden?

Bias entsteht meist in den Trainingsdaten und zeigt sich, wenn ein Modell für verschiedene Gruppen systematisch unterschiedliche Ergebnisse liefert. Prüfen lässt er sich durch Analyse der Datenbasis und Tests auf ungleiche Ergebnisse; verringern durch ausgewogenere Daten, klare Bewertungskriterien und laufende Kontrolle im Betrieb.

Welche Rolle spielt Datenschutz im Arbeitsalltag von Data Scientists?

Data Scientists arbeiten häufig mit personenbezogenen Daten und müssen dabei die Vorgaben des Datenschutzes einhalten. Grundsätze wie Datensparsamkeit, Zweckbindung, Anonymisierung und geregelte Zugriffsrechte helfen, den Schutz der Privatsphäre mit der Aussagekraft der Modelle zu vereinbaren.

Gibt es spezielle Weiterbildungen zu KI-Ethik für Data Scientists?

Eine einheitliche Pflichtzertifizierung gibt es nicht. Entsprechende Kompetenzen werden meist über Hochschulkurse, Fachliteratur und Weiterbildungsangebote aufgebaut. Zusätzlich stellen Forschungsprojekte wie KITQAR frei zugängliche Kriterien und Arbeitshilfen zur Bewertung von KI-Datenqualität bereit.