„Technologen haben die Verantwortung sicherzustellen, dass die Technologie nicht nur das tut, was sie soll, sondern auch nicht das, was sie nicht tun sollte.“

Ich schreibe dies, da die Einzelheiten der Ursache der Flugzeugabstürze der Boeing 737 Max gerade erst in den Medien erscheinen. Ich hoffe, dass diese Tragödie diejenigen von uns, die sich mit Technologie beschäftigen, dazu anspornt, unsere Professionalität zu steigern.

Zwei Flugzeuge stürzten ab, bevor das Muster beobachtet wurde, und der Großteil der 737-Max-Flotte der Welt musste am Boden bleiben. Der Flug der Ethiopian Airlines vor acht Tagen und die Maschine der Lion Air im Oktober stürzten beide wenige Minuten nach dem Start ab.

Es scheint, dass ein System, das zur Verhinderung eines Absturzes entwickelt wurde, möglicherweise tatsächlich zu dessen Verursachung beigetragen hat.

In diesen Flugzeugen gibt es ein neues Sicherheitssystem, das einen Strömungsabriss verhindern soll (verursacht, wenn ein Flugzeug steil nach oben fliegt). Dieses Sicherheitssystem heißt MCAS und kann das Autopilotsystem automatisch anweisen, den Kurs des Flugzeugs zu ändern und nach unten zu fliegen.

Ein einzelner Sensor in der Nase des Flugzeugs informiert MCAS über den aktuellen Winkel des Flugzeugs. Was möglicherweise passiert ist, ist, dass der Sensor ausgefallen ist, falsche Signale an das MCAS gesendet hat und sich dann auf das Verhalten des Flugzeugs ausgewirkt hat, mit katastrophalen Folgen.

Entsprechend dieser BBC-Bericht Die MCAS-Software wird wahrscheinlich herabgestuft, um zu verhindern, dass MCAS einen so starken Einfluss auf das Verhalten des Flugzeugs hat.

Und es wird Veränderungen bei Menschen und Prozessen geben: „Außerdem wird es Änderungen bei den Cockpit-Warnsystemen geben, das Betriebshandbuch für die Flugbesatzung wird aktualisiert und es wird eine computergestützte Schulung für Piloten geben.“

Entsprechend Dieser Artikel in der Seattle Times Einige der Risiken waren bekannt und möglicherweise gab es einen gewissen kommerziellen Druck, die flugtauglichen Genehmigungen zu beschleunigen. Vielleicht ein Managementversagen?

Was können wir daraus lernen?

Erforschung der Grundursache

Der erfolgreiche Einsatz jeder Software erfordert eine Kombination aus: Menschen, Prozessen und Technologie. Ein solcher Mangel könnte durchaus auf eine Kombination von Fehlern in jedem dieser Bereiche zurückzuführen sein.

Menschen: Wurden die Piloten darin geschult, den Umstand zu erkennen und damit umzugehen, dass ein fehlerhafter Sensor MCAS falsch über den Winkel des Flugzeugs informiert? Wer hätte gedacht, dass ein defekter Sensor dieses Problem verursachen könnte? Was konnten/haben sie dagegen tun? War das Risiko eines Ausfallszenarios bekannt, wurde aber als „unwahrscheinlich“ abgetan?

Verfahren: Wurden die Betriebsanweisungen des Piloten dahingehend angepasst, dass sie ausreichende Überprüfungen des korrekten Verhaltens des MCAS-Systems beinhalten? Wurden die Piloten darüber informiert oder mussten sie wissen, dass dies passieren könnte, und wurden sie darüber informiert, wie sie damit umgehen sollten?

Komplexität: Da die Technologie, auf die wir uns verlassen, immer ausgefeilter wird, wird sie auch komplexer. Bei komplexen Systemen verlassen wir uns auf wenige Personen, die die End-to-End-Fähigkeit der Technologie genau verstehen, um sie richtig aufzubauen. Manager und Benutzer haben möglicherweise nicht die Zeit oder Zeit, die Komplexität der Software, die sie verwenden oder für die sie verantwortlich sind, vollständig zu verstehen. Normalerweise funktioniert die Software zwar so, wie sie sollte, bei komplexen Systemen besteht jedoch ein höheres Risiko, dass sie nicht unter allen Umständen korrekt funktionieren.

Wann haben Sie das letzte Mal gehört, dass wir beim Testen einen risikobasierten Ansatz verfolgen sollten, um die Zeitpläne zu verkürzen?

Technologie: Dies ist der Bereich, der am wahrscheinlichsten unter die Lupe genommen wird. War die Technologie schuld? Warum durfte ein System, das nur auf einen Sensor angewiesen war, den Kurs des Flugzeugs riskieren? Konnte ein Sensorfehler festgestellt werden? Hätte es mehr als einen Sensor geben sollen, nur für den Fall, dass einer ausfällt? Warum durfte sich die Logik der Software auf eine einzige Eingabe verlassen?

Wenn das eingetretene Szenario von den Konstrukteuren des Flugzeugs vorhergesehen worden wäre, hätten sie möglicherweise vorgeschlagen, dass der Pilot einen solchen Umstand außer Kraft setzen könnte. In diesem Fall liegt möglicherweise ein Versagen bei Menschen und Prozessen vor, nicht bei der Technologie.

Möglicherweise hat sich die Technologie falsch verhalten, also nicht den Spezifikationen entsprochen. In diesem Fall wäre es zu einem Fehler bei der Implementierung und beim Testen gekommen.

Alternativ hätte sich die Technologie möglicherweise gemäß der Spezifikation verhalten, aber die Spezifikation war falsch. Wenn dies der Fall ist, muss man sich die Anforderungen noch einmal ansehen. Waren die Anforderungen korrekt?

Auswirkungen

Die Auswirkungen auf die Familien, die geliebte Menschen verloren haben, sind nicht messbar. Neben dem Verlust eines Familienmitglieds werden sie auch direkte und indirekte finanzielle Folgen haben. Hinzu kommen die Kosten für Boeing, verzögerte Verkäufe und eine mögliche Entschädigung der Fluggesellschaften für entgangene Einnahmen, da der Großteil der 737-Flotte am Boden bleibt. Und dann sind da noch die Kosten für die gesamte Luftfahrtindustrie und andere verwandte Branchen, die auf Flugreisen angewiesen sind. Die Auswirkungen dieser Situation belaufen sich auf mehrere Milliarden Dollar. Und es könnte an einer schlechten Spezifikation/Anforderung, einem Fehler beim Codieren/Testen, einem Fehler im Management oder einer Kombination dieser Faktoren liegen.

Abschluss

In einer Organisation mit einem so guten Ruf wie Boeing ist es unwahrscheinlich, dass eine einzelne Disziplin einen solchen Fehler macht. Die Hauptursache dieser Katastrophe dürfte in mehr als den oben genannten möglichen Bereichen liegen.

Diese Ereignisse sollten jeden, der an der Bereitstellung von Technologie beteiligt ist, deutlich daran erinnern, dass seine Aktivitäten schwerwiegende Folgen haben können. Je mehr wir von immer ausgefeilteren Systemen abhängig werden, desto wichtiger wird der Bedarf an Professionalität.

Nur durch die Einführung hervorragender Qualitätsstandards für alle Aspekte des Managements, der Spezifikation, des Designs, der Tests und der Implementierung (einschließlich Menschen und Prozesse) kann die Technologie völlig vertrauenswürdig sein.

Technologen haben eine berufliche Verantwortung um sicherzustellen, dass die Technologie nicht nur das tut, was sie soll, sondern auch nicht, was sie nicht tun sollte. Dies kann nur durch einen konsequenten Qualitätsansatz erreicht werden.