Automatisierung verändert ein System - und damit die Art und Weise, wie wir mit ihm umgehen. (Foto: iStock/Rathke)

Lehren aus der Luftfahrt: „Die Automobilhersteller sollten die Stufe drei des automatisierten Fahrens abschaffen!“

Technologie und Unternehmen

Julian Ebert

Julian Ebert

23-08-2017

       

In der zivilen Luftfahrt hat die Automatisierung die Arbeitsbelastung und den Stress der Piloten reduziert und das Fliegen zu einer der sichersten Reisemöglichkeiten überhaupt gemacht. Ist es möglich, dass diese Schutzmaßnahmen auch für autonome Fahrzeuge anwendbar sind - insbesondere im Hinblick darauf, wie wir als Fahrer mit ihnen umgehen werden? Wir haben mit einem Experten für menschliche Faktoren gesprochen, um Antworten zu erhalten.

 

Als Captain Marc Dubois nach einem kurzen Nickerchen zurück in sein Cockpit gelangte, sah er sich einer chaotischen Situation gegenüber. Sein Flugzeug wackelte so stark, dass es unmöglich war, dessen Instrumente abzulesen. Schrille Alarme ertönten. Ebenso die kreischenden Stimmen seiner beiden Nachwuchscopiloten. Und die Flughöhe fällt stark ab.

 

Basierend auf dem Abschlussbericht könnte man sich so die letzten Momente vor einem der schwersten Unfälle in der Geschichte der Luftfahrt vorstellen. Es ist ein bedeutender wie tragischer Fall, der jungen Piloten bis heute vermittelt und erklärt wird: Am späten Abend des 1. Juni 2009 verschwand der Flug 447 der Pariser Air France Fluggesellschaft im pechschwarzen Atlantik, nur vier Stunden nach dem pünktlichen Start in Rio. Aber was war passiert?

 

Nach dem, was heute bekannt ist, ist das Flugzeug in einen so genannten Strömungsabriss (engl. stall) geraten. Der Computer des Flugzeugs navigierte durch ein tropisches Gewitter und empfing aufgrund deaktivierter Sensoren widersprüchliche Luftgeschwindigkeitswerte, die den Computer dazu veranlassten, das Flugzeug nach oben zu bewegen, um an Höhe zu gewinnen - und dann den Autopiloten zu deaktivieren. Für Dubois und seine Crew war es höchste Zeit zu handeln. Fatalerweise hatten sie keine Ahnung, was los war.

 

Ein seltenes Ereignis, bei dem die Automatisierungstechnik versagt - oder doch nur menschliches Versagen? Oder womöglich beides?

DIE UNFALLRATE IN DER LUFTFAHRT IST FAST AUF NULL GESUNKEN

LESSONS FROM AVIATION “CARMAKERS SHOULD ELIMINATE LEVEL 3 IN AUTOMATED DRIVING!” - 2

Mit der Einführung der Automatisierung in die Luftfahrt schien es, als sei eine perfekte Kombination entstanden. "Die Luftfahrtindustrie hat seit den 1970er Jahren die Automatisierung in Flugzeugcockpits zunehmend vorangetrieben", sagt Dr. Michael Clamann, Senior Research Scientist an der Duke University. "Es sollte die geistige Arbeitsbelastung der Piloten reduzieren." Typischerweise berühren heutige Piloten die Bedienelemente nur gelegentlich während des Fluges (wenn überhaupt). Meistens steuert der Bordcomputer das Flugzeug, während der Pilot zu seinem stillen Vorgesetzten wird.

 

Das Ergebnis? Die Automatisierung hat dazu beigetragen, den Flugverkehr deutlich sicherer zu machen. Eine Airbus-Studie zeigt, dass die jährliche Unfallrate pro einer Million Flüge auf fast Null gesunken ist. Während die Transportunternehmen die Automatisierung als eine der größten Errungenschaften der letzten Jahrzehnte betrachten, stellt die Abhängigkeit von ihr eine Herausforderung dar - für die Piloten von heute und die Fahrer von morgen. Tatsächlich untersucht die Luftfahrtindustrie seit Jahren die Auswirkungen der Automatisierung auf die Piloten. Warum sollte das Automobilgeschäft aus den Erfahrungen der Luftfahrt lernen? Bei der Automatisierung haben beide Branchen das gleiche Ziel: Unfälle zu vermeiden - durch die Beseitigung menschlicher Fehler.

 

 

FLIEGEN UND FAHREN SIND UNTERSCHIEDLICH - ABER DIE AUSWIRKUNGEN DER AUTOMATISIERUNG UNTERSCHEIDEN SICH NICHT.

Es mag auf den ersten Blick wie ein Vergleich zwischen Äpfeln und Birnen aussehen: ausgebildete Profis mit aktuellen Lizenzen, die jede Reise bis ins kleinste Detail vorbereiten, gegenüber Laien mit Privatlizenzen (manchmal von vor Jahrzehnten), die den Stadtverkehr unkontrolliert durchqueren. 

 

In Bezug auf die Automatisierung sieht Clamann jedoch Parallelen. "Wir sprechen hier nicht von einem Vergleich von Luftfahrt und Autofahren. Es geht um die ähnlichen Auswirkungen der Automatisierung auf die menschlichen Bediener in beiden Verkehrsmitteln."

 

 

ERFAHRUNGEN AUS DEM ABSTURZ DER AF 447: EINE EINWANDFREIE INTERAKTION ZWISCHEN MENSCH UND MASCHINE WIRD LEBEN RETTEN

Wir kennen es vom Fußball: Ein Torhüter und ein Verteidiger aus der gleichen Mannschaft stürzen sich blind auf den Ball - wobei sich beide Spieler versehentlich gegenseitig stören. Ein Fall von undefinierten Verantwortlichkeiten, der dazu führt, dass die Dinge schieflaufen. Wenn Piloten und Fahrer mit automatisierten Systemen interagieren, könnte es ähnlich aussehen. Die Forschung an menschlichen Faktoren bezeichnet dies als sogenannte modale Verwirrung (mode confusion).

 

"Wenn eine Person erwartet, dass das System in Betrieb ist, ist es für sie sehr schwierig, herauszufinden, was gerade vor sich geht", sagt Clamann. Gerade in Notfällen kann eine fehlerhafte Mensch-Maschine Interaktion (HMI) dann sehr problematisch sein. Laut Clamann führte genau das zum Crash der AF 447: Weder hat die Maschine die Störungen an ihren Geschwindigkeitssensoren vollständig diagnostiziert, noch ist es ihr gelungen festzustellen, was getan werden muss, um sie zu beheben - zum Beispiel, indem sie dem menschlichen Bediener die Situation richtig darlegt und ihn auffordert, die Kontrolle zu übernehmen.

Aviation1
Bei der Halb-Automatisierung sollte der Mensch bereit sein, einzugreifen. Aber sind wir das? (Foto: iStock/Dushlik)

SELBSTGEFÄLLIGKEIT UND VERFALL DER FÄHIGKEITEN LIEGT IN DER MENSCHLICHEN NATUR - UND PILOTEN SIND DA KEINE AUSNAHME

Der Mensch ist ein Gewohnheitstier, sagt man. Dinge, die wir mit Aufmerksamkeit verfolgen, werden zu einem Teil unseres täglichen Lebens. Wir werden selbstgefällig. Doch bei komplexen Aufgaben wie dem Führen eines Flugzeugs kann Selbstzufriedenheit ein Fluch sein. "Immer wenn wir uns auf eine Aufgabe wie den Betrieb eines Systems konzentrieren und dabei nicht ständig mit ihm interagieren, sind wir nach etwa 20 Minuten gedanklich wieder raus", sagt Clamann. "Das liegt in der menschlichen Natur - und Piloten sind da keine Ausnahme." Es dauert dann eine Weile, bis wir wieder voll konzentriert sind - und noch länger, bis wir die Fahrzeugkontrolle wiedererlangen können. Ob es sich nun um eine Höhe von 30.000 Fuß über dem Meeresspiegel oder auf einer überfüllten Stadtstraße während der Stoßzeiten handelt - diese Verzögerung kann zu lang sein. Ein Beispiel dazu: der tödliche Tesla-Crash 2016, bei dem der Fahrer das Level-2-System des Autos überschätzt hat, das irreführenderweise "Autopilot" genannt wird.

 

Fähigkeiten verbessern sich durch ständiges Training: Deshalb verbringen die Piloten lange Stunden in Flugsimulatoren - nicht nur, um neue Situationen zu trainieren, sondern um ihre Fähigkeiten zu erhalten. Gibt es Grund zu der Annahme, dass sich diese verschlechtern könnten? "Aktiv etwas zu tun ist nicht dasselbe wie passiv zuzusehen, wie es durch Automatisierung geschieht", sagt Clamann. "Wir werden sehr wahrscheinlich einen Kompetenzverlust beim automatisierten Fahren sehen - besonders in Level 4", in dem von Fahrzeugen erwartet wird, dass sie in der Lage sind, sich selbst mit minimalem menschlichen Einsatz zu fahren, wobei sie sich aber dennoch auf einen Menschen verlassen müssen, der in bestimmten Momenten einspringt.

 

 

WAS HMI LEISTEN MUSS - UND WIE ES DIE FAHRER AUF DEM LAUFENDEN HALTEN KÖNNTE

Die meisten Sicherheitsmechanismen der Luftfahrt (Training, medizinische Untersuchungen) erscheinen für das automatisierte Fahren unrealistisch (wer ist bereit für regelmäßige Sehtests?). Deshalb könnten sich die Auswirkungen der Automatisierung in der selbstfahrenden Mobilität ausbreiten. "Gerade Level 3 ist eine schreckliche Idee - und die Autohersteller sollten sie eliminieren", sagt Clamann. Seiner Meinung nach ist die fahrerlose Technik noch lange nicht bereit, den durchschnittlichen Fahrer sich zurücklehnen zu lassen, sich zu entspannen und einen Film zu schauen. "Leider ist das das Szenario, das wir bei der Halbautomatisierung betrachten", erklärt er. Die Lösung? "Es wird darauf ankommen, Schnittstellen zu schaffen, die buchstäblich mit dem Bediener zusammenarbeiten - proaktiv und intuitiv". Nur dann könnte man die Menschen davon abhalten, der Automatisierung übermäßig zu vertrauen und ein gewisses Maß an Wachsamkeit zu wahren.

 

 
Aviation_2
E-Mails während der Fahrt abrufen? Sichere HMI könnte dazu beitragen, dies zu verwirklichen. (Foto: iStock/Geber86)

Um dem Fahrer zu helfen, das System zu verstehen und dem System zu helfen, seinen Bediener zu kennen, schlägt Joe Klesing, Geschäftsführer des Lieferanten Nexteer, eine Kombination von intelligenten Schnittstellen vor. So könnten beispielsweise Fahrzeugkameras die Ermüdung des Fahrers verfolgen, um festzustellen, ob er zur Übernahme bereit ist - und bei Bedarf visuelle oder akustische Warnungen ausgeben. "Besonders akustische Warnmeldungen haben sich als effektiver erwiesen als ausschließlich visuelle", sagt Clamann. Befehle ("Hit the break") wären effektiver als lange Anweisungen. Laut Klesing könnten Head-up-Displays dem Fahrer helfen, sich auf eine sich nähernde Gefahr zu konzentrieren. Das Lenkrad könnte einfahren, um anzuzeigen, dass AD aktiviert ist. Wenn der Fahrer die Kontrolle wieder übernehmen will, muss er das Lenkrad erst an sich ziehen, um die Kontrolle wieder aktiv zu übernehmen.

Es ist die alte Frage: Macht das Hinzufügen von mehr Automatisierung zu einem System das System automatisch sicherer? Laut Clamann tut die Automatisierung vor allem eins: Sie verändert das System und damit die Art und Weise, wie wir mit ihm umgehen. In der Luftfahrt wurde die Zunahme des Autopiloten in Cockpits von Maßnahmen begleitet, die den Piloten helfen, ihn zu verstehen - und, abgesehen von Ausnahmefällen wie der AF 447, deren möglichen negativen Auswirkungen frühzeitig zu erkennen.

 

Geht das Automobilgeschäft diese Extra-Meile, um sicherzustellen, dass wir die Entscheidungen verstehen, die unsere automatisierten Autos treffen, während wir in ihnen fahren? Tatsächlich befinden sich die Hersteller in einer heißen Verfolgungsjagd darüber, wer zuerst "sichere" (halb-)automatisierte Fahrzeuge liefern wird - wobei die Marketingabteilungen ziemlich gut darin sind, neue Funktionen als noch größer darzustellen, um den autonomen Traum weiter voranzutreiben. Doch was in diesem Wahnsinn leicht zu vergessen ist: Zu oft liefern Hersteller eine automatisierte Fahrfunktion, ohne das entsprechende Know-how über die Fähigkeiten dieser Funktion an den Kunden zu übermitteln. 

 

Graf Wiener, eine Kultfigur der Flugsicherheit, prägte das, was wir heute als Wiener Gesetze der Luftfahrt bezeichnen. Es ist eine Reihe von Grundsätzen, deren Erkenntnisse weit über die Luftfahrt hinausreichen könnten. Gesetz #28: Jeder Pilot, der durch einen Computer ersetzt werden kann, sollte es werden. Betrachtet man die Sicherheitsergebnisse der Luftfahrt, so kann dies ein geeignetes Leitprinzip für die Entwicklung automatisierter Fahrzeuge sein.

 

 

ÜBER UNSEREN EXPERTEN:

Michael Clamann ist Senior Research Scientist beim Humans and Autonomy Lab (HAL) der Duke University. Im Jahr 2014 promovierte er an der North Carolina State University in Wirtschafts- und Systemtechnik. Er erhielt einen M.I.E. in Wirtschaftsingenieurwesen und Systemtechnik und einen M.S. in Experimenteller Psychologie von der North Carolina State University in den Jahren 2011 und 2002. Er ist Associate Director am Collaborative Sciences Center for Road Safety (CSCRS) und ist leitender Redakteur von Robotik und KI für das Policy Tracking Program (SciPol) der Duke Initiative for Science & Society.  Seine Forschungsinteressen umfassen die Interaktion zwischen Mensch und Automatisierung, die multimodale Steuerung und Fragen an der Schnittstelle von Technologie und Gesellschaft. Seit 2002 ist er als Human Factors Engineer in der Industrie tätig und unterstützt staatliche und private Kunden in den Bereichen Luft- und Raumfahrt, Verteidigung und Telekommunikation.

 

 

Sollte das automatisierte Fahren auf Level 3 aus Gründen der Verkehrssicherheit abgeschafft werden? Und welche Lösungen würden Ihrer Meinung nach am besten funktionieren, um sicherzustellen, dass zukünftige Fahrer von automatisierten Fahrzeugen wachsam bleiben? Teilen Sie uns Ihre Gedanken im Kommentarbereich mit!

 

 

Engage

<div id="hs_cos_wrapper_Engage_" class="hs_cos_wrapper hs_cos_wrapper_widget hs_cos_wrapper_type_inline_text" style="" data-hs-cos-general-type="widget" data-hs-cos-type="inline_text" data-hs-cos-field="submit_your_story.icon_text">Letter</div>
Submit your story

Become part of our autonomous revolution and submit your stories, images and videos

Submit your story
Megaphone
Stay informed

Stay up to speed with our weekly briefing. Enjoy autonomous driving content direct to your inbox

Join our weekly briefing
Connect
Connect with us

Follow us on our social networks for up to date information and thoughts on automated driving