Künstliche Intelligenz: Wer trägt die Verantwortung?

Ein Algorithmus lehnt einen Kreditantrag ab. Ein Fahrassistent bremst zu spät. Eine Software sortiert Bewerbungen aus, bevor ein Mensch sie gesehen hat. In allen drei Fällen hat eine Maschine entschieden, und in allen drei Fällen stellt sich dieselbe Frage: Wer trägt die Verantwortung, wenn etwas schiefgeht?

Die juristische Seite dieser Frage beschäftigt Gesetzgeber und Gerichte. Die moralische Seite ist älter und zugleich schwieriger. Verantwortung setzt nach klassischem Verständnis voraus, dass jemand wusste oder wissen konnte, was er tut, und dass er anders hätte handeln können. Auf eine Maschine trifft beides nicht zu.

Delegation ist alt, die Undurchsichtigkeit ist neu

Menschen übertragen Entscheidungen an andere, seit es Arbeitsteilung gibt. Wer einen Steuerberater beauftragt oder einem Arzt vertraut, delegiert Urteilsvermögen. Das entlastet, ohne die Verantwortung ganz abzugeben: Der Auftraggeber wählt aus, kontrolliert und kann widersprechen.

Bei lernenden Systemen verschiebt sich dieses Gefüge. Moderne KI-Modelle treffen ihre Einschätzungen auf Grundlage statistischer Muster, die selbst ihre Entwickler oft nicht im Einzelnen nachvollziehen können. Wer ein solches System einsetzt, delegiert an eine Instanz, deren Innenleben niemand vollständig überblickt. Kontrolle im klassischen Sinn ist damit kaum noch möglich. Genau hier beginnt das moralische Problem.

Die Verantwortungslücke

In der Philosophie wird dieses Problem als Verantwortungslücke diskutiert. Die Maschine selbst scheidet als Trägerin von Verantwortung aus: Sie hat kein Bewusstsein, keine Absichten und kein Gewissen. Sie kann nichts bereuen und nichts wiedergutmachen. Zugleich zeigen alle beteiligten Menschen aufeinander. Der Entwickler verweist auf die Trainingsdaten, der Betreiber auf den Hersteller, die Anwenderin auf die Empfehlung des Systems. Am Ende hat scheinbar niemand entschieden.

Wie ernst dieses Problem ist, hängt vom Einsatzfeld ab. Bei einer Musikempfehlung ist die Frage nach dem Schuldigen belanglos. In der Medizin, in der Strafjustiz oder im Straßenverkehr sieht es anders aus: Dort greifen automatisierte Systeme in Gesundheit, Freiheit und Leben ein. Je gewichtiger die Folgen, desto weniger darf die Zurechnung von Verantwortung dem Zufall überlassen bleiben.

Ob diese Lücke wirklich existiert, ist umstritten. Manche Philosophen halten sie für ein Scheinproblem, das sich auflöst, sobald man die Begriffe präzise fasst. Wie die analytische Philosophie an solche Begriffsfragen herangeht, ist dabei mehr als eine akademische Übung: Wer Verantwortung sauber definiert, kann sie auch dann zuweisen, wenn die Kausalkette lang und verzweigt ist.

Warum die Maschine kein Gewissen hat

Moralische Verantwortung ist an Personalität gebunden. In der theologischen Ethik hat etwa Josef Fuchs das Gewissen als letzte Instanz beschrieben, in der ein Mensch sich selbst gegenübersteht und sein Handeln verantwortet. Eine Maschine kennt diese Innenperspektive nicht. Sie optimiert eine Zielfunktion. Dass ihre Ergebnisse moralisch relevant sind, macht sie noch lange nicht zu einem moralischen Subjekt.

Daraus folgt etwas Unbequemes: Wenn die Maschine nicht verantwortlich sein kann, bleibt die Verantwortung vollständig auf menschlicher Seite. Sie verschwindet nicht. Sie verteilt sich nur anders.

Die menschliche Letztverantwortung

Verantwortung lässt sich delegieren, Letztverantwortung nicht. Wer entscheidet, ein automatisiertes System in einem sensiblen Bereich einzusetzen, verantwortet diese Einsatzentscheidung samt der absehbaren Fehler des Systems. Wer ein System entwickelt und verkauft, verantwortet dessen bekannte Schwächen. Und wer eine maschinelle Empfehlung ungeprüft übernimmt, obwohl er sie prüfen könnte und müsste, verantwortet die Übernahme.

Diese Aufteilung ist unbequem, weil sie niemanden freispricht. Sie entspricht aber der Struktur arbeitsteiliger Verantwortung, wie sie auch in Unternehmen und Behörden gilt: Wer Nutzen aus einer Delegation zieht, trägt die Lasten der Auswahl und der Aufsicht.

Bemerkenswert ist, wie stark der Wunsch wirkt, es anders zu sehen. Die Rede von der Entscheidung der Maschine hat einen entlastenden Nebeneffekt: Sie schiebt einen Akteur ins Bild, den man verantwortlich machen kann, ohne dass irgendjemand die Konsequenzen trüge. Genau diese Bequemlichkeit ist ein Grund, misstrauisch zu werden, sobald Fehler auf das System geschoben werden.

Was daraus folgt

Für den Umgang mit künstlicher Intelligenz ergeben sich daraus drei Anforderungen. Entscheidungen mit erheblichen Folgen für Einzelne brauchen einen Menschen, der eingreifen kann und dafür einstehen muss. Betroffene brauchen die Möglichkeit, eine maschinelle Entscheidung anzufechten und begründet überprüfen zu lassen. Und Organisationen müssen vorab festlegen, wer für welches Systemverhalten geradesteht, nicht erst nach dem Schadensfall.

Die Frage, wer haftet, wenn Maschinen entscheiden, hat damit eine klare, wenn auch anspruchsvolle Antwort: immer Menschen. Welche Menschen, das muss jede Organisation beantworten, bevor sie delegiert. Wer diese Debatte vertiefen will, findet in der Essay-Sammlung zu Ethik und Gesellschaft Beiträge, die das Verhältnis von Freiheit, Wissen und Verantwortung grundsätzlicher ausleuchten.