Stellen Sie sich die Straßen von San Francisco vor. Eine außer Kontrolle geratene Tram rast einen Hang hinunter. Etwas weiter unten teilt eine Weiche die Fahrspuren. Geradeaus liegen fünf Personen hilflos gefesselt auf den Schienen. Auf dem Abzweig nach links liegt eine einzelne Person, ebenfalls hilflos gefesselt, auf den Schienen.
Zufällig stehen Sie an der Weiche und können – müssen – entscheiden und mittels des Stellhebels Schicksal spielen. Entscheiden Sie sich für das Ziehen des Hebels, wird die Tram umgelenkt und überfährt nur eine Person. Entscheiden Sie sich gegen das Ziehen, sterben fünf Personen. Wie ist Ihre Entscheidung?
Das moralisch-ethische Dilemma
Dieses moralphilosophische Experiment stammt ursprünglich aus dem Jahr 1930,1 lange bevor wir angefangen haben zu diskutieren, wie wir ein KI-gesteuertes, autonom fahrendes Fahrzeug so programmieren
können, dass es in jeder Gefahrensituation „moralisch richtig entscheidet“ und Leib und Leben möglichst aller Verkehrsteilnehmer schont.
Ernsthaft bemühte Ansätze, diese Fragestellung für unsere künstlich belebten Helfer universell zu lösen, wie zum Beispiel Isaac Asimovs Robotergesetze 2 (schon) aus dem Jahr 1942 oder Stuart Russels „Three principles for creating safer AI“ 3 von 2017 stoßen in einer fiktiven „gelebten Praxis“ schnell an ihre Grenzen. Wie entscheiden, wenn es sich bei den fünf Personen auf dem einen Gleis um fünf alte Männer handelt und bei der einen Person auf dem anderen Gleis um eine Frau? Wie, wenn die fünf verurteilte Straftäter sind und die eine ein Nobelpreisträger? Oder aber ein ehemaliger Nobelpreisträger mit Demenz, der in den nächsten drei Monaten an Krebs sterben wird? Oder „einfacher“: wenn die fünf ungeliebte Verwandte sind und der eine ein Kind? Und wie, zur Hölle, soll eine KI das wissen?!
Man hat dieses Gedankenexperiment in einem weltweiten Versuch millionenfach durchgeführt (siehe Abbildung 1) – mit einem klaren, unbarmherzigen Ergebnis: Moralische Entscheidungen sind nicht universell.4 Welches Leben mehr „wert“ ist, hängt vom jeweiligen Kulturkreis ab.
Was also würde passieren, wenn ein in Asien entwickeltes autonomes Fahrzeug sich auf unvermeidlichem Kollisionskurs mit einem in Europa entwickelten autonomen Fahrzeug befindet? Ausgang ungewiss.
Aber warum sind die Antworten auf diese moralischen Fragen nicht universell gültig und damit auch automatisierbar? Selbst wenn wir davon ausgehen, dass alle Kontextinformationen im Augenblick der Entscheidung verfügbar sein werden – zwar noch nicht jetzt, aber angesichts unseres Umgangs mit Daten und Privatsphäre in absehbarer Zukunft –, ändert das nichts am ethisch-moralischen Kern des Entscheidungsproblems, denn dieser Kern ist nicht statistisch oder algorithmisch erfassbar, errechenbar, sondern zutiefst menschlich.
Sich an einem christlich-demokratisch geprägten Gesellschaftsbild zu orientieren, wie es in der Politik und in der Öffentlichkeit hierzulande immer wieder propagiert wird, greift schon deswegen zu kurz, weil weltweit nur 24 Staaten vollständig demokratisch regiert werden5 und nur rund 31 Prozent der Weltbevölkerung christlich geprägt sind.6
Abbildung 1: Ergebnisse des „Trolley-Experiments“ weltweit (Quelle: nature)
Will man diesen moralischen Fragestellungen auf den Grund gehen und verstehen, wo dieses Dilemma herrührt, bleibt einem nichts anderes übrig, als den den Geist herausfordernden Pfad der Philosophie zurückzuschreiten – zwar nicht unbedingt bis zu seinem universellen Anfang, aber doch zumindest bis zu einem der Stammväter in der Antike, Sokrates (469–399 v. Chr.).
Ethik der Gesinnung vs. Ethik der Verantwortung
Sokrates („Ich weiß, dass ich nichts weiß“), der mit seiner Methode eines strukturierten Dialogs (Maieutik) das philosophische Denken begründete, zumindest zu erwähnen, gebietet sich. Aber zentraler noch spiegelt das oben geschilderte Dilemma zwei gegensätzliche philosophische Strömungen wider, die beide durch Schüler des Sokrates begründet wurden. Diese beiden Schulen wurden nach der Antike in der Aufklärung (18. Jahrhundert) und später in der Industrialisierung (19. Jahrhundert) in jeweils aktualisierter Form weitergedacht. Gemeint sind die „Ethik der Gesinnung“ und die „Ethik der Verantwortung“ mit ihren jeweiligen zeitgemäßen Strömungen (siehe Abbildung 2).
Abbildung 2: Der Stammbaum der Philosophie mit Sokrates als Stammvater; rechts die Vertreter der Gesinnungsethik (von unten: Platon, Jesus, Kant, Adorno), links die der Verantwortungsethik (von unten: Aristippos von Kyrene, Epikur, Jeremy Bentham, John Stuart Mills), oben in der Krone Max Weber. (Bildquellen: Wikipedia)
Ethik der Verantwortung
Hedonismus
„Genuss ist das höchste Glück des Menschen.“
- Das Gute und das Ziel des menschlichen Lebens ist die lustvolle Empfindung, das Schlechte die schmerzvolle Empfindung.
- Einklang mit den eigenen Wünschen und Bedürfnissen
Ethischer Hedonismus
„Die Lust ist Ursprung und Ziel des glücklichen Lebens.“
- Schmerzlosigkeit und vollkommener innerer Frieden (Ataraxie) als dauerhafter Zustand
- Erwägungen zur Steigerung der Lust und zur Verringerung des Schmerzes bestimmen, was wir tun sollen oder welche Handlung richtig ist.
Nutz-Ethik
„Mit dem Prinzip des Nutzens ist jenes Prinzip gemeint, das jede beliebige Handlung gutheißt oder missbilligt entsprechend ihrer Tendenz, das Glück derjenigen Gruppe zu vermehren oder zu vermindern, um deren Interessen es geht.“
- Eine Handlung ist genau dann moralisch richtig, wenn sie den aggregierten Gesamtnutzen, das heißt, die Summe des Wohlergehens aller Betroffenen, maximiert.
Utilitarismus
„Der Maßstab für die moralische Richtigkeit einer Handlung ist das größtmögliche Glück für die größtmögliche Anzahl von Menschen.“
- Sittlichkeit ist dann gegeben, wenn Handlungen die Tendenz haben, Glück zu befördern, während sie moralisch falsch sind, wenn sie zu Leiden führen.
Ethik der Gesinnung
Tugend der Gerechtigkeit
„Die Suche nach dem Guten in unserem Mitmenschen wird uns dabei helfen, das Gute in uns selbst zu finden."
- Gerechtigkeit nicht als Verpflichtung und Verhalten gegenüber anderen, sondern als Qualität der Seele
- Das Gute als absoluter Orientierungspunkt für das praktische Handeln
Christliche Ethik
„Leistet dem, der euch etwas Böses antut, keinen Widerstand, sondern wenn dich einer auf die rechte Wange schlägt, dann halt ihm auch die andere hin.“
- Nächstenliebe und Barmherzigkeit – liebe deinen Nächsten wie dich selbst; Hilfsbereitschaft, Vergebung und Mitgefühl stehen im Mittelpunkt
- Gerechtigkeit und Wahrhaftigkeit – Ehrlichkeit, Fairness und die goldene Regel
- Verantwortung und Schöpfungsbewahrung: Achtung vor dem Leben, Verantwortung für die Mitmenschen und die Umwelt
Kategorischer Imperativ
„Handle nur nach derjenigen Maxime, durch die du zugleich wollen kannst, dass sie ein allgemeines Gesetz werde.“
- Eine Handlung ist moralisch, wenn sie einer Maxime folgt, deren Gültigkeit für alle, jederzeit und ohne Ausnahme akzeptabel ist.
- Betroffene Personen nicht als bloßes Mittel zu einem anderen Zweck, sondern auch als Zweck an sich
Kritische Theorie
„Es gibt kein richtiges Leben im falschen.“
- Aufdeckung von Herrschafts- und Unterdrückungsmechanismen, die Hinterfragung ihrer Ideologien mit dem Ziel einer vernünftigen Gesellschaft mündiger Menschen
- Negative Geschichtsphilosophie ohne Hoffnung auf absehbare Umgestaltung der „totalitären“ und „eindimensionalen“ gesellschaftlichen Verhältnisse
An diesen beiden gegensätzlichen philosophischen Grundströmungen scheiden sich immer wieder die Geister. Max Weber, deutscher Soziologe und Nationalökonom (1864 – 1920), fasst in seinem Vortrag „Politik als Beruf“ (1919)7 diese Dichotomie wie folgt zusammen:
„Alles ethisch orientierte Handeln steht unter zwei voneinander grundverschiedenen, unaustragbar gegensätzlichen Maximen: Es kann ‚gesinnungsethisch‘ oder ‚verantwortungsethisch‘ orientiert sein.
Es ist ein abgrundtiefer Gegensatz, ob man unter der gesinnungsethischen Maxime handelt – religiös geredet: ‚Der Christ tut recht und stellt den Erfolg Gott anheim‘ [das moralisch Richtige tun] …
… oder unter der verantwortungsethischen: dass man für die (voraussehbaren) Folgen seines Handelns aufzukommen hat [die Folgen des eigenen Handelns bewerten].“
Für Weber sind Gesinnungsethik und Verantwortungsethik keine absoluten Gegensätze, sondern Ergänzungen, die zusammen erst den echten Menschen (den Politiker) ausmachen. Jedoch prophezeit Weber auch, dass Verantwortungsethik künftig immer wichtiger werden wird, weil durch technischen Fortschritt immer mehr Macht in die Hände der Menschen gelegt wird – bei gleichzeitig immer mehr Unüberschaubarkeit (durch Komplexität, Zusammenhänge, Abhängigkeiten, Spezialisierungen). Für Weber wäre Angela Merkel das Beispiel dieser differenzierten ethischen Haltung. Ihr „Das war’s“ im Jahr 2011, ihre Entscheidung zum Ausstieg aus der Kernenergie, ist Ausdruck einer verantwortungsethischen Haltung.8 Dagegen steht ihr „Wir schaffen das“ (2015) als Ausdruck ihrer christlichen Gesinnungsethik.9
Nicht zuletzt das Beispiel Merkel zeigt, dass es nicht die eine „richtige“ ethische Grundhaltung gibt. Wie man am aktuellen Zeitgeschehen ableiten kann, entstehen Irritationen, Dissonanzen, Unrecht und Ungerechtigkeiten dann, wenn die jeweilige ethische Grundhaltung für Partikularinteressen und Egoismen missbraucht wird. Trumps „America first!“ ist kein philosophischer Utilitarismus, sondern plumper Atavismus, denn er strebt nicht die Maximierung des Wohlergehens für die größtmögliche Anzahl von Menschen an (siehe oben). Die (später differenziertere) Forderung des Präsidenten der Evangelischen Kirchen in Hessen und Nassau (EKHN) Volker Jung nach Waffenlieferungen in die Ukraine (mit dem gleichzeitigen widersinnigen Appell, weitere Eskalationen zu vermeiden)10 ist eben kein Ausdruck einer Gesinnungsethik, sondern die Aufgabe der christlichen, pazifistischen Grundhaltung.
Und was bedeutet das für künstliche Intelligenz?
Einfach gesagt: Es kann uns kategorisch nicht gelingen, (universelle) „moralische Maschinen“ (moral machines) zu bauen – selbst wenn es uns gelingen würde, alle notwendigen Kontextinformationen für moralische Entscheidungen in Echtzeit zu ermitteln, zu analysieren und zu verarbeiten. Verantwortung und Gesinnung bestimmen das ethische Handeln der Menschen – und sie sind nicht universell, sondern stark durch den Kulturkreis und das Zeitalter geprägt.
Wenn wir eine KI – wie von Stuart Russel postuliert – so lange „menschliches Verhalten beobachten“ ließen, bis sie ausreichend „Aufschlüsse über menschliche Werte“ gesammelt hätte, bevor wir sie entscheiden ließen, würden wir eine KI erhalten, die eben sehr „menschlich“ entscheidet – so wie die für diesen Beitrag titelgebende KI im Film „2001 – Odyssee im Weltraum“11: eitel, irrational, fehlerhaft und fehlgeleitet, egoistisch, opportunistisch. Eine „moralische Maschine“, durch die wir eine bessere Welt erschaffen würden,
ist eine Utopie, die auf einem Denkfehler beruht.
Quellen
1 Wikipedia: Das Trolley-Problem
2 Isaak Asimov: Runaround, in: Astounding Science Fiction, Ausgabe März 1942
3 Stuart Russel: „3 principles for creating safer AI“, TED 2017
4 Amy Maxmen: Self-driving car dilemmeas reaveal that moral choices are not universal, nature 2018
5 Statista: Der Stand der Demokratie
6 Statista: Anteil der Anhänger ausgewählter Religionen…2022
7 Max Weber: Politik als Beruf, 1919
8 Regierungserklärung 09.06.2011: „… Ich habe eine neue Bewertung vorgenommen; denn das Restrisiko der Kernenergie kann nur der akzeptieren, der überzeugt ist, dass es nach menschlichem Ermessen nicht eintritt. Wenn es aber eintritt, dann sind die Folgen sowohl in räumlicher als auch in zeitlicher Dimension so verheerend und so weitreichend, dass sie die Risiken aller anderen Energieträger bei weitem übertreffen.“
9 Bundespressekonferenz 31.08.2015 (eigentlich Sigmar Gabriel am 22.08.2015): „Frieden, Menschlichkeit, Solidarität, Gerechtigkeit: Das zählt zu den europäischen Werten. Jetzt müssen wir sie unter Beweis stellen. Ich bin sicher, wir schaffen das.“
10 Peter Hanack: Evangelische Kirche Hessen billigt Waffenlieferungen an Ukraine, Frankfurter Rundschau, 2022
11 2001: A Space Odyssey, MGM, USA/GB 1968
