Wer trägt die Verantwortung für automatisierte Personalentscheidungen?
Digitale Systeme übernehmen in Organisationen zunehmend Aufgaben, die traditionell mit menschlicher Führung verbunden sind. Sie unterstützen die Verteilung von Arbeitsaufträgen, berechnen Leistungskennzahlen, priorisieren Vorgänge und stellen Informationen bereit, auf deren Grundlage Entscheidungen über Beschäftigte getroffen werden. In manchen Arbeitsbereichen bestimmen algorithmische Verfahren bereits wesentlich mit, wann Aufgaben zu bearbeiten sind, welche Bearbeitungsreihenfolge vorgesehen ist und wie die erbrachte Leistung bewertet wird.
Diese Entwicklung verändert die Organisation von Arbeit. Während klassische Führungsentscheidungen häufig in persönlichen Gesprächen oder durch unmittelbare Anweisungen vermittelt werden, entstehen bestimmte Vorgaben nun innerhalb digitaler Systeme. Beschäftigte erhalten Aufgaben über eine Anwendung, reagieren auf automatisierte Hinweise und orientieren sich an Kennzahlen, deren Berechnungsgrundlagen ihnen möglicherweise nur teilweise bekannt sind.
Die Forschung bezeichnet entsprechende Formen der Arbeitssteuerung als Algorithmic Management. Darunter fällt die Nutzung algorithmischer Systeme zur Organisation, Zuweisung, Überwachung und Bewertung von Arbeit. Solche Verfahren müssen nicht zwangsläufig auf künstlicher Intelligenz beruhen. Auch regelbasierte Systeme können Funktionen übernehmen, die zuvor unmittelbar durch Führungskräfte ausgeführt wurden.
Wenn Entscheidungen in technischen Systemen verborgen sind
Ein algorithmisches System kann beispielsweise Arbeitsaufträge anhand definierter Kriterien verteilen. Dabei werden bestimmte Informationen berücksichtigt, etwa verfügbare Kapazitäten, Bearbeitungszeiten, Standorte oder festgelegte Prioritäten. Aus technischer Perspektive erscheint die Aufgabenzuweisung als Ergebnis einer nachvollziehbaren Berechnung.
Für die betroffenen Beschäftigten kann jedoch unklar bleiben, weshalb gerade ihnen bestimmte Aufgaben zugeteilt werden. Dies ist besonders problematisch, wenn wesentliche Kriterien nicht transparent sind oder persönliche Arbeitsbedingungen nur unzureichend abgebildet werden.
Eine automatisierte Verteilung kann beispielsweise effizient erscheinen, weil sie möglichst kurze Bearbeitungszeiten anstrebt.
Gleichzeitig berücksichtigt sie möglicherweise nicht ausreichend, dass bestimmte Aufgaben zusätzliche Abstimmungen erfordern oder einzelne Beschäftigte bereits andere, in der Anwendung nicht erfasste Verpflichtungen erfüllen.
Das bedeutet nicht, dass algorithmische Verfahren grundsätzlich schlechter entscheiden als Menschen. Sie können umfangreiche Informationen verarbeiten, wiederkehrende Abläufe vereinheitlichen und organisatorische Abstimmungen erleichtern. Entscheidend ist jedoch, welche Ziele und Annahmen in ihre Gestaltung eingeflossen sind und welche Informationen tatsächlich berücksichtigt werden.
Ein technisch korrekt berechnetes Ergebnis ist nicht automatisch eine fachlich oder organisatorisch angemessene Entscheidung.
Automatisierung verändert die Ausübung von Macht
Digitale Systeme erscheinen im Arbeitsalltag häufig als neutrale Werkzeuge. Tatsächlich beruhen ihre Funktionen jedoch auf bestimmten Entscheidungen darüber, welche Ziele verfolgt, welche Kriterien verwendet und welche Verhaltensweisen als erwünscht bewertet werden.
Wird beispielsweise die individuelle Bearbeitungsgeschwindigkeit besonders stark gewichtet, kann dies Auswirkungen auf das Verhalten der Beschäftigten haben. Sie orientieren ihre Arbeitsweise möglicherweise stärker an der messbaren Geschwindigkeit als an Qualitätsaspekten, die im System weniger sichtbar sind.
Auch die Auswahl dessen, was überhaupt gemessen wird, ist damit eine organisationsrelevante Entscheidung. Nicht jede wichtige Leistung lässt sich einfach digital erfassen. Koordinationsarbeit, die Unterstützung anderer Beschäftigter oder die sorgfältige Bearbeitung ungewöhnlicher Einzelfälle können in standardisierten Kennzahlensystemen unterrepräsentiert sein.
Hier zeigt sich eine Verbindung zum früheren Beitrag dieser Reihe über unsichtbare Arbeit. Wenn ein System ausschließlich jene Tätigkeiten bewertet, die technisch eindeutig dokumentiert werden können, besteht die Gefahr, dass andere relevante Beiträge zur organisationalen Leistung aus dem Blick geraten.
Algorithmische Steuerung kann bestehende Bewertungsmuster dadurch nicht nur übernehmen, sondern unter Umständen weiter verfestigen. Eine systematisch erzeugte Kennzahl erscheint möglicherweise besonders objektiv, obwohl ihre Aussagekraft von den zugrunde liegenden Annahmen abhängt.
Verantwortung lässt sich nicht an ein System übertragen
Besonders anspruchsvoll ist die Frage der Verantwortung. Wenn eine algorithmisch vorbereitete Entscheidung zu einem problematischen Ergebnis führt, stellt sich die Frage, wer die zugrunde liegenden Kriterien festgelegt hat, wer die Anwendung verantwortet und wer befugt ist, eine Entscheidung zu überprüfen oder zu korrigieren.
Eine Führungskraft kann sich dabei nicht allein darauf berufen, dass ein digitales System eine bestimmte Empfehlung ausgegeben hat.
Ebenso wenig genügt es, Beschäftigten theoretisch die Möglichkeit zu geben, automatisierte Entscheidungen anzusprechen, wenn tatsächlich keine nachvollziehbaren Verfahren zur Überprüfung bestehen.
Organisationen müssen deshalb klären, welche Entscheidungen automatisiert vorbereitet werden dürfen, welche menschliche Beurteilung erforderlich bleibt und wie Abweichungen oder mögliche Fehler behandelt werden. Dabei ist zwischen unterstützenden Systemen und Verfahren zu unterscheiden, die Entscheidungen faktisch weitgehend vorgeben.
Auch die europäische Regulierung berücksichtigt die besondere Sensibilität algorithmischer Anwendungen im Beschäftigungskontext. Bestimmte KI-Systeme, die etwa bei Personalauswahl, arbeitsbezogener Aufgabenverteilung oder Leistungsbewertung eingesetzt werden, fallen aufgrund ihres vorgesehenen Einsatzzwecks unter die Hochrisikokategorien des europäischen KI-Rechts. Welche Pflichten im konkreten Fall gelten, hängt von der jeweiligen Anwendung, ihrer Einordnung und den maßgeblichen rechtlichen Bestimmungen ab.
Unabhängig von der rechtlichen Bewertung ergibt sich eine organisatorische Grundanforderung: Entscheidungen mit erheblichen Auswirkungen auf Beschäftigte benötigen nachvollziehbare Kriterien, angemessene Kontrolle und eindeutig zugeordnete Verantwortlichkeiten.
Wenn Daten nicht die gesamte Arbeit abbilden
Ein wesentlicher Unterschied zwischen menschlicher und algorithmischer Arbeitssteuerung liegt nicht zwangsläufig in der Fähigkeit zur Informationsverarbeitung. Er besteht unter anderem darin, welche Informationen verfügbar sind und wie der jeweilige Entscheidungskontext berücksichtigt werden kann.
Digitale Systeme können nur auf Grundlage jener Daten und Regeln arbeiten, die ihnen zugänglich gemacht wurden beziehungsweise die sie aus diesen Daten ableiten. Wenn relevante Aspekte der Arbeit nicht erfasst werden, können sie im Ergebnis fehlen oder nur unzureichend berücksichtigt sein.
Eine niedrige Bearbeitungszahl kann beispielsweise unterschiedliche Ursachen haben. Möglicherweise besteht ein fachlicher Entwicklungsbedarf. Ebenso denkbar sind besonders schwierige Vorgänge, zusätzliche Koordinationsaufgaben oder technische Störungen. Ohne eine angemessene Kontextualisierung kann dieselbe Kennzahl zu unterschiedlichen, teilweise unzutreffenden Schlussfolgerungen führen.
Für Führungskräfte entsteht deshalb nicht zwangsläufig weniger Verantwortung, sondern eine veränderte Aufgabe. Sie müssen die Aussagekraft digitaler Informationen beurteilen, mögliche Verzerrungen erkennen und sicherstellen, dass Entscheidungen weiterhin unter Berücksichtigung relevanter Arbeitsbedingungen getroffen werden.
Damit gewinnen Kompetenzen an Bedeutung, die über eine rein technische Bedienung hinausgehen. Führungskräfte benötigen ein ausreichendes Verständnis dafür, wie algorithmische Systeme zu ihren Ergebnissen gelangen, welche Grenzen bestehen und an welchen Stellen zusätzliche fachliche Prüfungen erforderlich sind.
Fazit: Digitale Steuerung braucht menschliche Verantwortlichkeit
Algorithmische Verfahren können Arbeitsprozesse unterstützen und unter geeigneten Bedingungen zu einer besseren Koordination beitragen. Gleichzeitig verändern sie, wie Aufgaben verteilt, Leistungen bewertet und Entscheidungen vorbereitet werden. Dadurch entstehen neue Fragen nach Transparenz, Handlungsspielräumen und organisationaler Verantwortung.
Professionelle Führung muss deshalb nicht nur die technische Leistungsfähigkeit solcher Systeme berücksichtigen. Ebenso wichtig sind ihre tatsächlichen Auswirkungen auf Beschäftigte und Arbeitsbedingungen.
Ein Algorithmus kann eine Entscheidung vorbereiten oder innerhalb bestimmter Grenzen automatisiert ausführen. Er übernimmt damit jedoch nicht die rechtliche und organisationale Verantwortung derjenigen, die das System auswählen, gestalten und einsetzen.
Der abschließende Beitrag dieser Reihe greift einen grundlegenden Zusammenhang auf. Organisationen können neue Technologien, Methoden und Kompetenzen entwickeln und gleichzeitig an überholten Vorstellungen festhalten. Damit stellt sich die Frage, weshalb organisationaler Fortschritt nicht allein durch zusätzliches Lernen entsteht, sondern manchmal auch das bewusste Aufgeben bisheriger Routinen erfordert.