Wer haftet, wenn die KI mitentscheidet?

Eine Kreditzusage wird abgelehnt, weil ein Scoring-Modell es so vorschlägt. Ein Recruiting-Tool sortiert Bewerbungen vor. Ein Produktionsalgorithmus priorisiert Aufträge um. In all diesen Fällen hat ein Mensch am Ende auf „Bestätigen" geklickt – aber wer hat eigentlich entschieden? 

Eine Frage, die wir uns alle wohl regelmäßig stellen: Wem gehört die Entscheidung, wenn ein System sie vorbereitet, beeinflusst oder sogar trifft. Es gibt mehrere Optionen, sich dieser Grundsatzdebatte anzunähern: Juristisch, indem wir sie über Paragrafen lösen – hier passiert zumindest viel am Europäischen Gerichtshof, unter anderem Dank der GEZ. Wir könnten auch den „Lanz & Precht“-Weg gehen und uns floskelnd und philosophierend an die Lösung iterieren. Oder aber wir machen das, was wir am besten können und betrachten unsere Kunden, denn eins ist klar:  

Klassischerweise war Verantwortung in Organisationen an Personen und Rollen gebunden: Die Führungskraft trägt die Entscheidung, das Team setzt um, jemand zeichnet ab. Mit AI im Entscheidungsprozess verschiebt sich dieses Muster in zwei Richtungen gleichzeitig. 

Auf der einen Seite individualisiert sich Verantwortung neu: Mitarbeitende, die mit AI-gestützten Tools arbeiten, sollen plötzlich beurteilen können, ob ein Output sinnvoll, fair oder korrekt ist – oft ohne zu verstehen, wie das System zu seinem Vorschlag kam. Die Verantwortung „der letzten Meile" landet bei der Person, die den Knopf drückt, unabhängig davon, ob sie die Entscheidung inhaltlich nachvollziehen kann. 

Auf der anderen Seite diffundiert Verantwortung systemisch: Wenn ein Algorithmus über mehrere Abteilungen hinweg wirkt, war niemand allein verantwortlich für das Ergebnis – aber auch niemand eindeutig nicht. Die Verantwortung verteilt sich auf so viele Schultern, dass sie de facto bei niemandem mehr ankommt. Ihr erinnert euch an das Titanic Prinzip: Jeder wusste, dass das Ruder zu klein und die Rettungsboote zu wenig waren, aber gesagt wurde es erst, nachdem das Schiff auf Grund lag.  

Beide Bewegungen passieren gleichzeitig, oft im selben Prozess. Das Ergebnis ist eine Organisation, die formal genau weiß, wer wofür zuständig ist (es steht ja schließlich so im Organigramm und der dazugehörigen RACI Matrix) und in der trotzdem niemand das Gefühl hat, wirklich Einfluss oder Eigentümerschaft zu haben. Eine Frage, die vor allem in Deutschland gerne gestellt wird ist: „Wer haftet?", denn der oder diejenige ist doch dann auch verantwortlich…  aber das ist die falsche erste Frage. 

In vielen Unternehmen wird die Verantwortungsfrage sofort juristisch gerahmt: Compliance-Richtlinien, Freigabeprozesse, Haftungsausschlüsse. Das ist notwendig – aber es beantwortet nicht die eigentliche Frage, die Teams im Alltag umtreibt: Darf ich der künstlichen Intelligenz vertrauen? Und wenn ich es nicht tue, mache ich dann etwas falsch? 

Das ist keine rechtliche, sondern eine kulturelle Frage. Sie entscheidet sich nicht im Vertragswerk, sondern darin, wie eine Organisation tatsächlich mit Fehlern, Unsicherheit und Autorität umgeht: 

• Wird es honoriert, wenn jemand einen AI-Vorschlag hinterfragt – oder gilt das als ineffizient? 
• Gibt es einen akzeptierten Weg, zu sagen „ich vertraue dem Ergebnis nicht", ohne dass das als persönliches Versagen gewertet wird? 
• Wissen Führungskräfte, an welcher Stelle sie selbst noch entscheiden müssen – und wo sie delegieren dürfen? 

Eine Organisation, die diese Fragen nicht beantwortet, hat zwar ein sauberes Freigabe-Diagramm, aber keine gelebte Antwort auf die Frage, wem eine Entscheidung tatsächlich gehört. Bleibt diese Klärung aus, beobachten wir in der Praxis fast immer eines von zwei Mustern, oder auch beide gleichzeitig in unterschiedlichen Teilen derselben Organisation: 

Blockade: Aus Unsicherheit, wer im Zweifel geradesteht, wird AI gar nicht oder nur halbherzig genutzt. Tools werden eingeführt, aber niemand verlässt sich wirklich darauf. Jede Empfehlung wird doppelt geprüft, jeder Prozess bleibt manuell abgesichert – die versprochene Effizienz verpufft, weil die Verantwortungsfrage in jeden einzelnen Arbeitsschritt zurückgespiegelt wird. 

Wildwuchs: Das Gegenteil passiert dort, wo niemand die Leerstelle bewusst gestaltet hat. Einzelne Teams oder Personen nutzen AI-Tools nach eigenem Ermessen und mit eigenen Maßstäben. Es entstehen Parallelstrukturen, ungleiche Qualität und im schlimmsten Fall Entscheidungen, die niemand mehr nachvollziehen kann – schlicht, weil nie geklärt wurde, wer das hätte tun sollen. 

Ein mittelständisches Unternehmen führt ein AI-gestütztes Tool zur Angebotskalkulation ein. Die Geschäftsführung erwartet schnellere, konsistentere Angebote. Sechs Monate später zeigt sich: Ein Teil des Vertriebsteams nutzt die AI-Vorschläge ungeprüft, weil „das System ja dafür gebaut wurde" – Wildwuchs an der einen Stelle. Ein anderer Teil rechnet jedes Angebot parallel auf herkömmlicher Weise, weil niemand klargestellt hat, wer bei einer Fehlkalkulation haftet – Blockade an der anderen Stelle. Beide Reaktionen sind rational. Beide sind teuer. Und beide verschwinden erst, wenn Rollen, Eskalationswege und Vertrauensregeln explizit definiert werden – nicht als IT-Projekt, sondern als Organisationsentwicklung. 

Genau an diesem Punkt zeigt sich, warum die Einführung von AI kein technisches Rollout-Thema ist, sondern eine Frage von Struktur, Rollen und Kultur gleichzeitig. Es reicht nicht, ein Tool bereitzustellen und zu hoffen, dass sich die Verantwortlichkeiten von selbst einspielen. Organisationen brauchen: 

• Geklärte Rollenmodelle, die explizit benennen, wer eine AI-gestützte Empfehlung prüft, wer sie verantwortet und wer im Zweifel eskaliert 
• Eine Fehlerkultur, in der das Infragestellen einer AI-Entscheidung als Kompetenz gilt, nicht als Bremse 
• Führung, die selbst vorlebt, an welcher Stelle Algorithmen unterstützen – und an welcher Stelle menschliches Urteilsvermögen nicht verhandelbar ist 

Was wir bei VISION & AIM in Transformationsprojekten immer wieder sehen: Technologische Reife allein macht noch keine handlungsfähige Organisation. Erst wenn Struktur, Mensch und Methode zusammen gedacht werden, wird aus einem KI-Tool eine tatsächlich genutzte Fähigkeit der Organisation und nicht ein weiteres System, das im Graubereich zwischen Blockade und Wildwuchs versandet. 

Wie steht es um die Verantwortungsklärung in deiner Organisation, wenn AI mitentscheidet? Wir unterstützen Unternehmen dabei, Rollen, Governance und Kultur für AI-gestützte Entscheidungen tragfähig zu gestalten.

Bild: Adobe Firefly, KI-generiert
Text : Stefanie Grünberg-Vasile, Michael Grashiller