Moral Machine: Kann ein selbstfahrendes Auto ethisch handeln?
Sollen autonome Fahrzeuge bei einem Unfall eher den Tod eines alten Menschen in Kauf nehmen oder doch den eines Kindes? Wie Menschen diese moralische Frage beantworten würden, beleuchtet eine neue Studie.
Können Menschen sich einig werden, wie Roboter-Autos in ethisch schwierigen Unfallsituationen entscheiden sollen? Das versucht zumindest das Massachusetts Institute of Technology (MIT) herauszufinden. Die Studie istin dem Fachmagazin „Nature“ erschienen.
Das Online-Spiel „Moral Machine“ konfrontiert die Probanden mit unterschiedlichen Situationen und variierenden Verkehrsteilnehmern. Dann müssen sie sich für den in ihren Augen vertretbaren Unfallschaden entscheiden: Überfahre ich den Rentner, der bei rot die Straße überquert, oder fahre ich gegen die Betonwand, die die Insassen meines Autos, inklusive Kindern gefährdet?
Mehr dazu: Erster Tödlicher Unfall mit selbstfahrendem Auto von Uber in den USA
Das Online-Spiel des MIT stellt die Probanden vor unterschiedliche Verkehrssituationen, wo sie entscheiden müssen.
Mehrheit der Befragten: Jung vor Alt
Die Ergebnissen zeigen: Die Mehrheit der Befragten würde lieber Kinder verschonen als ältere Menschen. Und die meisten würden – vor die Wahl gestellt – eher Tiere überfahren als Menschen. Allerdings zeigten sich bei genauerer Betrachtung größere kulturelle Unterschiede zwischen Probanden in verschiedenen Weltregionen.
Die Forscher hatten sie in drei Gruppen differenziert: westliches, östliches und südliches Cluster. So entschieden sich Befragte in asiatischen Ländern (östliches Cluster) eher dafür – aus Respekt – die älteren Verkehrsteilnehmer zu verschonen.
Über 40 Millionen Entscheidungen aus der „Moral Machine“- Umfrage hatten die Wissenschaftler analysiert. Weil junge Männer aber unter den zwei Millionen Umfrageteilnehmern überrepräsentiert waren, ist das Ergebnis allerdings nicht repräsentativ.
Mehr dazu: Vorerst keine Tests von autonomen Uber-Autos in Arizona
Wie soll das selbstfahrende Auto sich entscheiden, wenn ein Unfall unausweichlich ist?
Ethische Programmierung von autonomen Fahrzeugen?
Durch die Ergebnisse versuchen die Forscher des MIT herauszufinden, nach welchen ethischen Vorstellungen selbstfahrende Autos in Zukunft programmiert werden könnten. Dies widerspricht teilweise den Regeln, welche die Ethikkommission für Automatisiertes und Vernetztes Fahren im Juni 2017 vorgeschlagen hatte.
Unter anderem sprach sich die deutsche Kommission gegen jegliche Diskriminierung aus: „Bei unausweichlichen Unfallsituationen ist jede Qualifizierung nach persönlichen Merkmalen (Alter, Geschlecht, körperliche oder geistige Konstitution) strikt untersagt.“
Die Jura Professorin Silja Vöneky findet das Ziel der MIT-Autoren grundsätzlich richtig – stößt es doch eine Debatte über die „ethische Programmierung“ von autonomen Fahrzeugen an: „Wir sollten aber nicht glauben, dass wir alle Normen und Prinzipien neu erfinden oder ändern müssen, nur weil es um eine neue Technik geht,“ so Vöneky gegenüber dem Science Media Center Deutschland. Sie lehrt Völkerrecht, Rechtsethik und Rechtsvergleichung der Universität Freiburg.
Auch Armin Grunwald vom Karlsruhe Institut für Technologie (KIT) und Angehöriger der Ethikkommission für Automatisiertes und Vernetztes Fahren, zeigt sich skeptisch und warnt sogar vor den Schlussfolgerungen der Studie: „Weder aus Spielen noch aus Umfragen kann etwas über die ethische Zulässigkeit von Normen gelernt werden. Ansonsten könnte nach jedem schweren Verbrechen eine Umfrage gemacht werden, die mit ziemlicher Sicherheit für die Einführung der Todesstrafe ausgehen würde.“ Und das, obwohl diese in den meisten Ländern abgeschafft ist.
sw/hf (dpa)
-
Das Auto denkt, das Auto lenktReise vom Silicon Valley nach Las Vegas
Dieser Audi A7 ist voller Sensoren. Anfang 2015 fuhr das Auto selbständig den kompletten Weg vom Silicon Valley zur Technikmesse CES in Lag Vegas. 900 Kilometer lang war der Road-Trip über den Highway. Der Steuermann war nur für den Notfall an Bord – eingreifen musste er bei dieser Fahrt nicht.
-
Das Auto denkt, das Auto lenktRichtig gemütlich!
Dieser Prototyp von Mercedes Benz trägt den Namen F015 und zeigt in allen Konequenzen, wie ein autonomes Auto aussehen könnte: Ein Fahrersitz ist überflüssig. Stattdessen können sich alle Insassen während der Fahrt anschauen und gemütlich unterhalten. Auch dieses Forschungsfahrzeug wurde in Silicon Valley entwickelt. Seine Maximalgeschwindigkeit liegt zurzeit bei 200 km/h.
-
Das Auto denkt, das Auto lenktNichts für ungeduldige Typen
Eigentlich sind autonome Fahrzeuge sehr sicher. Sie sind so programmiert, dass sie im Zweifelsfall eher die Fahrt verlangsamen. Sie halten definitiv den vorgegebenen Sicherheitsabstand ein und gefährden andere Verkehrsteilnehmer nicht durch aggressive Fahrmanöver, wie etwa dieser Raser.
-
Das Auto denkt, das Auto lenktGemütlich immer hinterher
Diese beiden autonomen Wagen der Universität der Bundeswehr in München machen es vor: Ganz entspannt fährt ein Wagen vorneweg, der andere folgt ganz treu, immer hinterher. Sie finden ihren Weg sogar in unbefestigtem Gelände auf Wegen, die sie vorher nicht kannten. Das zeigt eine Übung auf dem ELROB Roboterwettbewerb 2012.
-
Das Auto denkt, das Auto lenktDas wäre nicht nötig gewesen
Zu solchen Massenkarambolagen kommt es, wenn Menschen zu schnell fahren, schlechte Sicht haben und nicht genügend Sicherheitsabstand einhalten. Klug gebaute Roboter-Autos würden solche Fehler nicht machen. Wären viele von ihnen vernetzt, könnten sie sogar schon Kilometer vorher Signale an nachfolgende Autos schicken: Vorsicht Stau!
-
Das Auto denkt, das Auto lenktSensoren für alle Gefahren-Typen
Roboter-Autos können unterschiedliche Augen nutzen, um ihre Umwelt zu erkennen. Ein von Google entwickeltes autonomes Auto nutzt zum Beispiel solch einen Lasersensor. Der dreht sich und tastet dabei seine Umgebung mit einem Laserstrahl dreidimensional ab.
-
Das Auto denkt, das Auto lenktDie echte Welt aus Laser-Sicht
Und so sieht das dann aus: Der Wagen der Universität der Bundeswehr fährt durch unwegsames Gelände. Der Laser entwirft eine dreidimensionale Karte, die er in den Computer einfüttert. So kann man sogar die Perspektive eines Außenstehenden einnehmen und dem Wagen bei seiner Entdeckungsfahrt zuschauen.
-
Das Auto denkt, das Auto lenktOrientierung per Satellit, Radar und Auge
Roboter können sich auch mit vielen anderen Mitteln im Feld orientieren. Zum Beispiel mit optischen Augen – wie dieser handelsüblichen USB-Kamera – oder kleinen Radar-Sensoren. Auch die Positionsbestimmung per Satellit ist für Autos wichtig – über GPS-Daten.
-
Das Auto denkt, das Auto lenktSehende Autos – Zukunftstechnologie aus Deutschland
Mit optischen Kameras arbeiten auch Forscher bei Daimler. Für die Erfindung sehender Autos wurden sie 2011 für den Deutschen Zukunftspreis nominiert. Diese Kamera ist hinter der Windschutzscheibe eines Mittelklassewagens montiert. Aufmerksam verfolgt sie, was sich auf der Straße abspielt.
-
Das Auto denkt, das Auto lenktAus Bildpunkten wird Bewegung
Die optische Kamera erkennt zunächst tausende Bildpunkte – eine sogenannte Punktewolke. Aus der Bewegung einzelner Bildpunkte errechnet sie Vektoren – also Bewegungspfeile. Verschiedene Vektoren sind unterschiedlich lang. Daraus entwirft der Bordcomputer ein komplexes Bewegungsbild des Verkehrs vor und neben dem Auto.
-
Das Auto denkt, das Auto lenktAbbremsen oder ausweichen?
Indem der Bordcomputer die Vektoren herausfiltert, die bei der Fahrtgeschwindigkeit des Autos ungewöhnlich verlaufen, kann er Gefahren erkennen: Ein Fußgänger läuft von rechts vor das Auto und wird orange markiert. Im Hintergrund entfernt sich ein anderes Auto. Die Bewegungspunkte sind grün – keine Gefahr. So kann der Wagen reagieren, falls der Fahrer unaufmerksam ist.
-
Das Auto denkt, das Auto lenktWer entscheidet – Computer oder Mensch?
Die Technik wäre also so weit. Aber die Frage, ob Roboter autonom auf den Verkehr losgelassen werden sollen, stellt Politiker und Juristen vor schwierige ethische Fragen: Wer trägt die Verantwortung, wenn ein Roboterauto einen Unfall baut: Hersteller, Software-Programmierer, Eigentümer oder Fahrzeugführer? Und wie sieht es außerhalb des normalen Straßenverkehrs aus?
-
Das Auto denkt, das Auto lenktWenn es für Menschen zu gefährlich wird
Zum Beispiel im Kriegseinsatz – wenn man Material von einem Ort zum anderen transportieren will. Oder nach einem Chemie- oder Nuklearunfall, wenn das kontaminierte Gebiet für Menschen zu gefährlich ist. Dafür bauen Entwickler autonome Fahrzeuge, die schon heute praktische Aufgaben erfüllen können, wie hier bei der polnischen Militärakademie.
-
Das Auto denkt, das Auto lenktLeistungsschau autonomer Roboter
An der polnischen Militärakademie in Warschau fand im Sommer 2014 der Europäische Roboterwettbewerb ELROB statt. Fünf Tage lang konnten sich dort solche autonomen Fahrzeuge messen. Dieser Transporter der schweizerischen RUAG wurde erstmals 2012 in Thun in der Schweiz vorgestellt.
-
Das Auto denkt, das Auto lenktHände weg vom Steuer!
Fährt ein Fahrzeug ohne Fahrer auf eine Sprengfalle, geht zwar die Technik kaputt, doch zumindest kommt kein Mensch zu Schaden. Bei der ELROB-Übung musste allerdings noch jemand im Führerhaus sitzen, um den Not-aus-Knopf zu drücken, falls etwas schief ginge.
Comments