Ein automatisiertes Auto fährt auf eine Gruppe von Menschen zu. Bremsen reicht nicht mehr. Es kann geradeaus fahren oder ausweichen, auf einen einzelnen Menschen am Straßenrand. Was soll es tun? Die Philosophie kennt die Frage seit Jahrzehnten als Trolley-Problem, beschrieben von Philippa Foot 1967 und Judith Jarvis Thomson 1985. Neu ist, dass die Antwort heute vorher programmiert werden muss.
Was die Ethik-Kommission empfohlen hat
Das Bundesverkehrsministerium hat 2016 eine Ethik-Kommission zum automatisierten und vernetzten Fahren eingesetzt. Ihr Bericht vom Juni 2017 enthält 20 Regeln. Der Schutz von Menschen hat danach Vorrang vor allen anderen Nützlichkeitserwägungen. Sach- und Tierschäden sind in Kauf zu nehmen, wenn dadurch Menschen geschützt werden. Echte Dilemmata seien „nicht eindeutig normierbar“. Und vor allem: Bei unausweichlichen Unfällen ist jede Unterscheidung nach persönlichen Merkmalen wie Alter, Geschlecht oder körperlicher Verfassung strikt untersagt. Eine allgemeine Programmierung auf möglichst wenige Verletzte könne vertretbar sein. Wer Mobilitätsrisiken erzeugt, dürfe Unbeteiligte nicht opfern.
Was das Gesetz daraus gemacht hat
Seit 2021 verlangt § 1e StVG für Fahrzeuge mit autonomer Fahrfunktion ein Unfallvermeidungssystem, das auf Schadensvermeidung und Schadensreduzierung ausgelegt ist. Bei unvermeidbaren Schäden muss es die Bedeutung der betroffenen Rechtsgüter berücksichtigen; der Schutz menschlichen Lebens hat dabei die höchste Priorität. Bei einer unvermeidbaren Gefahr für Menschenleben darf es keine weitere Gewichtung nach persönlichen Merkmalen vornehmen. Zwei Fragen lässt das Gesetz offen: ob die Zahl der Opfer zählen darf und ob Unbeteiligte geschont werden müssen.
Leben gegen Leben
Das Bundesverfassungsgericht hat 2006 entschieden, dass der Staat kein entführtes Passagierflugzeug abschießen darf, auch nicht, um noch mehr Menschen am Boden zu retten. Die Menschen an Bord würden sonst zum bloßen Objekt staatlichen Handelns (BVerfG, Urteil vom 15.02.2006 – 1 BvR 357/05). Das knüpft an die Menschheitsformel Immanuel Kants an: Der Mensch darf nie bloß als Mittel gebraucht werden. Ob dieser Gedanke auf einen Hersteller passt, der lange vor dem Unfall eine Regel programmiert, ist umstritten. Der Hersteller zielt nicht auf bestimmte Menschen. Er verteilt Risiken auf Menschen, die noch niemand kennt.
Was Menschen denken
Ein Forscherteam am MIT hat Menschen weltweit solche Dilemmata online entscheiden lassen. Die Studie „Moral Machine“ wertete knapp 40 Millionen Entscheidungen aus 233 Ländern und Gebieten aus (Nature, 2018). Die Teilnehmer wollten vor allem Menschen vor Tieren retten, mehr Leben vor weniger und junge vor alten Menschen. Das widerspricht der deutschen Regel. Kritiker halten dagegen: Wer die Möglichkeit bekam, alle gleich zu behandeln, wählte sie in rund 80 Prozent der Fälle (Nature, 2020). Eine frühere Studie zeigte einen Widerspruch im Kleinen: Die Befragten wollten, dass die Autos der anderen die Zahl der Opfer gering halten. Kaufen wollten sie aber lieber ein Auto, das die eigenen Insassen schützt (Science, 2016).
Hinter dem Schleier
John Rawls hat 1971 ein Gedankenexperiment vorgeschlagen: Man soll Regeln so wählen, als wüsste man nicht, welche Rolle man später selbst einnimmt. Wer nicht weiß, ob er im Auto sitzt, auf dem Gehweg steht oder in der Gruppe auf der Straße, würde vielleicht eine Programmierung wählen, die die Zahl der Opfer gering hält. Vielleicht würde er aber auch darauf bestehen, dass niemand zum Ausgleich für andere geopfert wird. Die Ethik-Kommission hat beides nebeneinander stehen lassen. Ihr Schwerpunkt liegt ohnehin woanders: Unfälle so weit wie möglich zu vermeiden, damit es zu solchen Lagen gar nicht erst kommt.
Offene Fragen
- Ist das Programmieren eine Entscheidung über Leben oder nur eine Verteilung von Risiken im Voraus?
- Darf die Zahl der Opfer zählen? Das Gesetz schweigt dazu.
- Gilt der Gedanke des Luftsicherheitsurteils, das staatliches Töten betraf, auch für private Hersteller?
- Darf ein Auto seine eigenen Insassen bevorzugen?
- Wessen Moral soll gelten: die der Mehrheit oder die der Verfassung?
Quellen: Bericht der Ethik-Kommission Automatisiertes und vernetztes Fahren, Juni 2017, abgedruckt in BT-Drs. 18/13500 (PDF); § 1e StVG; BVerfG, Urteil vom 15.02.2006 – 1 BvR 357/05; Awad u. a., The Moral Machine experiment, Nature 563 (2018), 59; Bigman/Gray, Nature 579 (2020), E1; Bonnefon/Shariff/Rahwan, Science 352 (2016), 1573; Philippa Foot, Oxford Review 5 (1967); Judith Jarvis Thomson, The Trolley Problem, Yale Law Journal 94 (1985), 1395; Immanuel Kant, Grundlegung zur Metaphysik der Sitten, 1785; John Rawls, A Theory of Justice, 1971.