Mathias Eberlein —

Autonome Agenten und das Problem des moralischen Zufalls

Wenn ein autonomes Fahrzeug entscheiden muss, wer im Ernstfall zu Schaden kommt, dann scheint es, als würde eine Maschine moralisch handeln. Doch diese Intuition trügt. Das eigentliche Problem ist nicht die Entscheidung selbst, sondern der Zufall, der sie überhaupt erst notwendig macht. Philosophisch gesehen befinden wir uns an einem Scheidepunkt zwischen technischer Optimierung und moralischer Verantwortung, den niemand vollständig aufgelöst hat.

Die Illusion der kontrollierbaren Ethik

Die Idee, ethische Regeln in Algorithmen zu gießen, klingt beruhigend. Wir definieren Prioritäten, Gewichte und Handlungsrahmen, und die Maschine soll danach entscheiden. In der Praxis führt das jedoch zu einem paradoxen Resultat: Je präziser die Regeln, desto offensichtlicher wird ihre moralische Willkür.

Stellen wir uns ein Szenario vor, in dem ein Lieferroboter in einem engen Gang zwischen zwei Gruppen navigieren muss: auf der einen Seite ein einzelner Erwachsener, auf der anderen drei Kinder. Der Roboter berechnet eine Trajektorie, die den Erwachsenen berührt, aber die Kinder verschont. Warum? Weil die zugrundeliegende Regel drei Leben höher gewichtet als eines. Doch was, wenn der Erwachsene eine Ärztin ist, die kurz darauf einen Patienten operieren könnte? Der Algorithmus weiß es nicht. Er trifft eine Entscheidung unter Ignoranz, und diese Ignoranz ist kein technischer Mangel, sondern ein moralisches Problem.

Hier berührt die Debatte einen klassischen Einwand der Moralphilosophie: Das Problem des moralischen Zufalls. Es besagt, dass moralische Bewertungen oft davon abhängen, wie die Umstände zufällig liegen — nicht wie Handelnde sie beeinflussen konnten. Bei autonomen Systemen wird dieser Zufall noch dadurch verschärft, dass die Systeme überhaupt keine subjektive Fähigkeit zur Reflexion besitzen.

Was bedeutet Verantwortung ohne Bewusstsein?

Wenn ein Chirurg einen Fehler begeht, können wir ihn zur Rechenschaft ziehen, weil er hätte wissen können, was er tat. Wenn ein Agent einen Fehler begeht, fehlt dieses “Hätte”. Agenten handeln auf der Grundlage von Trainingsdaten, Modellparametern und Wahrscheinlichkeiten. Sie haben kein Bewusstsein ihrer eigenen Handlung, keine Intention und keine Fähigkeit, ihre Motive zu rechtfertigen.

Dennoch erwarten wir von ihnen, dass sie moralisch angemessen agieren. Dieser Widerspruch ist kein Versehen, sondern ein strukturelles Merkmal der gegenwärtigen KI-Entwicklung. Wir bauen Systeme, die in komplexen Umgebungen operieren sollen, und verlangen ihnen gleichzeitig moralische Integrität ab — ohne ihnen die Mittel dazu zu geben.

Die Philosophie hat hierfür einen Begriff: Ersatzverantwortung. Gemeint ist die Verantwortung von Personen für das Verhalten von Systemen, die sie entworfen, trainiert oder eingesetzt haben. Ersatzverantwortung funktioniert aber nur, wenn der Mensch die relevanten Umstände überhaupt überblicken kann. Bei Deep-Learning-Systemen ist diese Überblickbarkeit oft nicht gegeben. Der Mensch wird zum Zufallsproduzenten seiner eigenen Moral, ohne es zu merken.

Der Kontext macht die Entscheidung

Wer nur über die eine Situation urteilt, in der ein Agent eine Kollision abwägen muss, verkennt den Blickwinkel. Moralische Entscheidungen sind selten punktuell; sie sind eingebettet in Praktiken, Institutionen und soziale Beziehungen. Ein Lieferroboter, der in einer Fußgängerzone fährt, befindet sich in einem Netz aus Verkehrsregeln, Infrastrukturplanung und gesellschaftlichen Erwartungen. Die Frage “Wie entscheidet der Roboter?” ist letztlich die Frage “Wie haben wir die Umgebung gestaltet, in der der Roboter entscheiden muss?”

Hier zeigt sich ein weiteres philosophisches Dilemma: Wir delegieren Verantwortung an Systeme, um menschliche Fehler zu minimieren — und erzeugen dadurch neue Fehlerquellen, die wir nicht mehr zuordnen können. Die ursprüngliche Absicht war rational: Maschinen sind präziser, ermüdungsfreier und weniger anfällig für Vorurteile. Die Realität ist: Maschinen reproduzieren Vorurteile aus Daten, optimieren nach metrischen Zielen und handeln dabei oft in Situationen, für die keine Metrik moralisch angemessen ist.

Was tun? Plädoyer für eine Ethik der Grenzen

Philosophisch gesehen führt kein Weg daran vorbei, dass autonome Agenten dort, wo es um Leben und Leiden geht, begrenzt werden müssen — nicht technisch, sondern normativ. Wir brauchen eine Ethik, die nicht fragt “Was ist die richtige Entscheidung?”, sondern “Welche Entscheidungen dürfen wir einer Maschine überhaupt anvertrauen?”

Drei Grundsätze scheinen mir dabei unverzichtbar:

Erstens: Die Kompetenz von Agenten muss an der jeweiligen Domäne gemessen werden. Ein System, das Logistik optimiert, muss nicht über moralische Urteilskraft verfügen. Es muss zuverlässig sein. Sobald jedoch physische Integrität betroffen ist, reicht Zuverlässigkeit nicht mehr aus.

Zweitens: Die Gestaltung der Umgebung ist vorrangig vor der Programmierung der Entscheidung. Wenn ein Agent in einem unübersichtlichen Bereich operiert, dann liegt das Problem nicht im Agenten, sondern in der Planung, die ihn dorthin gebracht hat.

Drittens: Menschliche Aufsicht muss strukturell verankert sein, nicht nur als add-on. Das bedeutet, dass Systeme so gebaut sein müssen, dass ein Mensch jederzeit eingreifen, korrigieren und Verantwortung übernehmen kann — ohne dass der Agent diese Möglichkeit unterläuft oder unwirksam macht.

Fazit: Moral ist kein Implementierungsproblem

Die gegenwärtige Debatte über KI-Ethik neigt dazu, moralische Fragen als Ingenieursprobleme zu behandeln: Definiere die Werte, implementiere sie, teste sie, optimiere sie. Doch Moral ist kein Algorithmus. Sie ist ein Verständnis von Situationen, von Gründen und von der eigenen Verwobenheit mit anderen.

Autonome Agenten können uns unterstützen, sie können berechnen und optimieren — aber sie können nicht moralisch sein. Solange wir das nicht akzeptieren, werden wir jedes Mal, wenn eine Maschine in einer moralisch relevanten Situation entscheidet, mit dem Problem des moralischen Zufalls konfrontiert: Wir haben die Entscheidung einem System überlassen, das keine Gründe haben kann, und müssen jetzt mit den Gründen leben, die wir selbst nicht mehr kontrollieren.

Die eigentliche Herausforderung besteht also nicht darin, Agenten moralisch zu machen, sondern zu entscheiden, wo wir ihnen überhaupt die Möglichkeit geben wollen, Entscheidungen zu treffen. Denn dort, wo wir die Verantwortung delegieren, geben wir auch die Möglichkeit ab, Gründe zu geben. Und das ist ein Preis, den wir nur sehr bewusst zahlen sollten.