Markus Maurer
TU Braunschweig
Institut für Regelungstechnik
Ethische Aspekte von Verhaltensentscheidungen werden seit einigen Jahren verstärkt diskutiert, da sie für automatisierte Fahrzeuge über die technologischen Aspekte hinaus eine wichtige Rolle für die gesellschaftliche Akzeptanz spielen. Während in der Öffentlichkeit der Fokus vor allem auf Dilemma-Situationen mit unvermeidlichem Personenschaden lag, wird in dem seit 2016 von der Daimler und Benz Stiftung geförderten Projekt „Wertebasierte Verhaltensentscheidung“ der Einfluss von ethischen Fragestellungen auf alltägliche Verhaltensentscheidungen im Straßenverkehr betrachtet. Geleitet wird es von Prof. Dr. Markus Maurer vom Institut für Regelungstechnik der Technischen Universität Braunschweig. Hauptakteure des dort angesiedelten Forschungsteams sind Susanne Ernst, Marcus Nolte, Dr. Andreas Reschka, Nayel Fabian Salem und Torben Stolte. Um einen interdisziplinären Dialog zwischen Ingenieurwissenschaften und ethischen Fragestellungen anzuregen und zu vertiefen, arbeiten die Wissenschaftler mit Partnern in den USA und Kanada zusammen. Im Austausch mit Prof. Chris Gerdes und Sarah Thornton vom Dynamic Design Lab (DDL) der Stanford University und mit Prof. Jason Millar und Sophie Le Page von der Faculty of Engineering der University of Ottawa erhielt das Projekt wesentliche Forschungsimpulse.
Forschungsergebnisse und weitere Herausforderungen
Die Beschäftigung mit der werteorientierten Verhaltensentscheidung hat in diesem Projekt fundamentale Herausforderungen bei der Entwicklung autonomer Straßenfahrzeuge aufgezeigt. Im Gedankenexperiment lassen sich die ursprünglichen Fragestellungen leicht illustrieren: Stellen Sie sich vor, Sie fahren mit Ihrem Fahrzeug in einer Ortschaft an einer Reihe längs geparkter Fahrzeuge entlang. Hinter jedem Fahrzeug gibt es eine Verdeckung, die Sie nicht einsehen können. Wenn nun im ungünstigsten Moment ein Kind aus dieser Verdeckung vor Ihnen auf die Straße läuft, dann werden Sie nicht mehr rechtzeitig bremsen können.
Die genauere Analyse zeigt, dass die Verhaltensentscheidung im Straßenverkehr durch Werte beeinflusst wird: Möchte ich möglichst schnell einen Termin erreichen oder möchte ich möglichst sicher fahren? Je nachdem, welcher Wert (Sicherheit versus Schnelligkeit) im Vordergrund steht, ändert sich mein Verhalten. Die Diskussion des Szenarios der Vorbeifahrt an den geparkten Fahrzeugen illustriert anschaulich das inhärente Risiko, dem wir uns aussetzen, wenn wir unser Fahrzeug selbst steuern und so am Straßenverkehr teilnehmen. Wenn wir entsprechend den üblichen Gepflogenheiten fahren, werden wir in sehr seltenen Szenarien nicht rechtzeitig bremsen können.
Auch autonome Straßenfahrzeuge sind diesem, dem Verkehrssystem inhärenten Risiko ausgesetzt. Für die Wahrnehmungssysteme dieser neuartigen Verkehrsteilnehmer gibt es, genau wie für menschliche Fahrer in der geschilderten Situation, ebenfalls Verdeckungen und damit verbunden Unsicherheiten: Welche Verkehrsteilnehmer befinden sich in diesen Verdeckungen? Welche Absichten verfolgen diese? Und was werden sie als Nächstes tun? Im diskutierten Szenario manifestieren sich bereits zwei unterschiedliche inhärente Risiken, die wir für autonome Straßenfahrzeuge identifiziert haben: das Risiko, das sich aus der nicht perfekten Wahrnehmung ergibt (Verdeckungen), und das Risiko, das aus der Unsicherheit in Bezug auf zukünftige Handlungen anderer möglicher Verkehrsteilnehmer resultiert.
Aus technischer Sicht ist unser Verkehrssystem zudem eine offene Welt, denn beinahe alles kann zu jeder Zeit passieren. Aufgrund ihrer Komplexität ist diese offene Welt für die Entwickler autonomer Fahrzeuge niemals vollständig beschreibbar: Unvorhergesehene Effekte zwischen Sensoren und Materialien können dazu führen, dass z. B. der Stoff eines Kleidungsstückes von einem Sensor wegen ungünstiger Reflexionseigenschaften nicht „gesehen“ werden kann. Verkehrsteilnehmer können zum Karneval die kreativsten Kostüme tragen, die dazu führen, dass sie ebenfalls von den Kameras nicht mehr als Fußgänger erkannt werden. Auch „neue“ Verkehrsteilnehmer, wie die mittlerweile weit verbreiteten E-Scooter, können nach Markteinführung der Systeme im Verkehr auftauchen und die maschinellen Wahrnehmungssysteme überfordern, wenn sie nicht in den eingesetzten Trainingsdaten enthalten waren. Dies sind nur einige Beispiele, die dazu führen, dass es auch bei gewissenhaftester und gründlichster Entwicklung autonomer Fahrzeuge immer Szenarien geben wird, die während der Entwicklung weder beschrieben noch getestet wurden. Die unvollständige Spezifikation und der unvollständige Test sind systembedingte, inhärente Risiken, die daraus resultieren, dass sich ein technisches System ohne menschliche Überwachung in einer offenen Welt zurechtfinden muss. Die Formulierung dieser inhärenten Risiken stellt ein wichtiges Projektergebnis dar.
Die beschriebenen Risiken werden heute durch sorgfältige Entwicklung und den Einsatz von Methoden aus der Systemtechnik (engl. Systems Engineering) möglichst eingegrenzt. Ganz eliminieren kann man diese prinzipbedingt nicht; es bleiben Restrisiken. Den Untersuchungen im Projekt „Wertebasierte Verhaltensentscheidung“ zufolge sind die eingesetzten Methoden aus dem Bereich Systemtechnik notwendig, aber nicht ausreichend für die Akzeptanz von autonomen Straßenfahrzeugen in der Bevölkerung. Sie sollten durch Methoden der werteorientierten Entwicklung ergänzt werden, die anhand der Grafik beschrieben werden:
Die Grafik modelliert wesentliche Bestandteile einer werteorientierten Entwicklung. Der Kasten rechts oben symbolisiert die Verhaltensentscheidung im autonomen Fahrzeug, die nach explizit formulierten Werten das Fahrzeug steuert. In unserem konkreten Eingangsbeispiel ermöglichen Methoden aus der sogenannten modellprädiktiven Regelung (engl. Model Predictive Control), Randbedingungen zu berücksichtigen und damit den identifizierten Werten Rechnung zu tragen: So symbolisiert das blaue Dreieck die Verdeckung, die durch das geparkte Auto am Fahrzeugrand entsteht. Der rote daran angrenzende Bereich steht für einen Sicherheitsbereich, den die modellprädiktive Regelung einführt, um das Risiko für aus der Verdeckung hervorspringende Kinder im skizzierten Eingangsszenario zu verkleinern. Der geplante Fahrweg schmiegt sich an diesen Sicherheitsbereich an.
Woher weiß nun die Fahrzeugführung, welche Werte in einem Szenario aus Sicht der Stakeholder wichtig sind? Relevante Stakeholder in diesem Szenario sind beispielsweise die Insassen des Fahrzeugs, alle anderen Verkehrsteilnehmer, deren Angehörige, der Fahrzeughersteller, Vertreter des Staates oder Versicherungen. Die für die Stakeholder relevanten Werte müssen in der Entwicklungsphase im Unternehmen von Forschern und Entwicklern identifiziert werden (Kasten links oben). Für die Identifikation der Werte scheint das Entwicklungsparadigma des Value Sensitive Design besonders geeignet zu sein. Die systematische Überführung der Werte aus dem Entwicklungsprozess (Kasten links) in den Bereich der Verhaltensentscheidung (Kasten rechts) wird durch die Formalisierung der Anforderungen (Kasten oben Mitte) gewürdigt; Letztere ist bisher nur in ersten Ansätzen skizziert und erfordert weitere Forschung.
Da sich autonome Fahrzeuge später im öffentlichen Verkehr bewähren sollen, halten wir die Klärung der Werte und speziell die Auflösung der Auslegungskonflikte (im Beispiel: Geschwindigkeit versus Sicherheit) für so zentral, dass sie mit Vertretern der Gesellschaft ausgehandelt werden sollten. Dieser Aushandlungsprozess wird durch die Doppelpfeile zwischen den Kästen links oben und unten Mitte repräsentiert. Relevante Stakeholder werden also schon in die frühe Phase der Entwicklung einbezogen. Insbesondere Fragen verbleibender Restrisiken müssen sorgfältig und ausführlich mit Vertretern der Öffentlichkeit diskutiert werden. Wir folgen damit der Empfehlung des Wirtschaftsethikers Karl Homann, der bereits im Jahr 2002 in einem Vortrag zum Thema „Wirtschaft und gesellschaftliche Akzeptanz: Fahrerassistenzsysteme auf dem Prüfstand“ – damals angewandt auf Systeme mit einer automatischen Notbremse – die transparente Diskussion aller Betriebsrisiken mit geeigneten Stakeholdern der Gesellschaft vor Markteinführung entsprechender Seriensysteme gefordert hat.
