Hadmut Danisch

Ansichten eines Informatikers

Künstliche Intelligenz künstlich nervös in künstlicher Panik: Wenn Flugzeuge Angst bekommen

Hadmut
17.3.2019 11:19

Tja, so ist das mit dem maschinellen Denken der Maschinen: Die können auch neurotisch werden und Todesangst bekommen.

Ich bekomme eine Menge Leserzuschriften mit Hinweisen auf interessante Artikel zum Thema Boeing 737 MAX. Etwa den, dass der kürzlich schon zitierte Text nicht von einem Piloten, sondern einem Geheimdienstler stammt. Oder den auf diesen Text, der wirklich von einem Piloten stammt, der da ziemlich auf Boeing schimpft.

Und viele Kommentare, dass es nicht die Ingenieure, sondern die Manager waren, die das Ding verbockt haben (was ich ja auch schon in anderen Bereichen, etwa in der Kameraindustrie beschrieben habe).

Und nun den Hinweis auf diesen Text, in dem ein Pilot fragt, ob das nun die ersten durch KI getöteten Menschen wären, weil sich da ein Computer gegen Menschen durchsetzte, nachdem er überzeugt war, schlauer zu sein.

Ganz so einfach ist es nicht, obwohl auch dieser Pilot Airbus da lobt.

Beim Airbus sind einige Fälle bekannt, in denen der Computer es wirklich besser wusste und konnte als der Mensch. Es gab mal irgendwo in Frankreich eine Flugshow, bei der ein Airbus im (Zu)Tiefflug über die Menge flog und dann hintendran in den Wald fiel. Der Computer konnte das auch nicht mehr verhindern, aber er hat im Crash noch dem Piloten die Steuerung abgenomme und dafür gesorgt, dass die Maschine wenigstens im richtigen Winkel in den Wald rutscht und nicht zerbrochen ist, anstatt steil in den Boden zu knallen. Hätten sie Passagiere gehabt, hätte der Computer ihnen damit das Leben gerettet, denn diesen Absturz hätten sie überlebt. Die Maschine lag zumindest strukturell intakt im Wald.

Ihr erinnert Euch noch an die Wasserung von New York, Chesley “Sully” Sullenberger? Sie haben das sehr genau untersucht. Eine Wasserung war bisher eigentlich so gut wie unmöglich, aber der hat das deshalb so gut hingekriegt, weil der Computer die Steuerung des Flugzeuges in Bezug auf Lage und Stabilität übernommen hatte und der sich voll darum kümmern konnte, wo er hinwill. Der Pilot hat gewählt, wo er hinwill, und der Computer hat die Maschine in einem Winkel gehalten, in dem man das überleben kann und nicht ins Wasser knallt. Ähnliche Situation wie beim Wald.

Es ist also nicht grundsätzlich von übel, wenn der Computer da mitfliegt. Moderne Kampflugzeuge wären ohne Computer gar nicht mehr zu fliegen, weil die mitunter instabile Aerodynamik haben, etwa wenn Höhenleitwerke vor den Tragflächen angebracht sind.

Und das ist wohl der springende Punkt bei der 737 MAX.

Soweit ich mir das als blutiger Laie jetzt aus den verschiedenen Kommentaren zusammengereimt habe, stellt sich das Problem für mich so dar:

Wie schon erläutert, hat das Ding gute, aber dicke Triebwerke, die eigentlich zum Airbus gehören. Weil die Boeing für dünne Triebwerke konstruiert ist und deshalb für die dicken ein zu kurzes Fahrwerk hat, hat man sie nicht unter, sondern vor den Flügel gebaut.

Das bringt nicht nur einen schlechten Schwerpunkt mit sich, sondern macht das Flugzeug aerodynamisch instabil und anfällig, weil der Abluftstrom der Triebwerke (Turbinenstrahl und Mantelstrom), der ja ziemlich heftig ist, damit nicht erst hinter den Tragflächen entsteht, sondern unter die Tragflächen geblasen wird und dort Verwirbelungen verursachen kann, die sich unter der ganzen Tragfläche ausbreiten und damit die Strömung zerstören.

Heißt: Weil sich das Flugzeug selbst unter die Tragflächen bläst, kann es sein, dass es sich die Strömung wegbläst und durch den dadurch verursachten Strömungsabriss einfach aus der Luft fällt, weil dann kein Auftrieb mehr da ist.

Anscheinend wollte man das nicht an die große Glocke hängen und die Fluggesellschaften wollten um Geld zu sparen Flugzeuge haben, für die man nicht langwierig ausgebildet werden muss. Also hat man dafür einen Computer eingebaut, das im früheren Blogartikel schon angesprochene „Maneuvering Characteristics Augmentation System (MCAS)”, das da eingreifen soll. Mit vier katastrophalen Eigenschaften:

  • Die Piloten wussten davon nichts, es stand nicht im Handbuch, wurde nicht geschult.
  • Es lässt sich nicht wie sonst bei Boeing per Kraft am Steuerknüppel „overriden”.
  • Es lässt sich nicht einfach abschalten. Es hat keinen Schalter. Man kann es nur lahmlegen, indem man einen ganzen Stromverteiler, an dem es hängt, abschaltet, und damit noch eine ganze Reihe wichtiger Systeme außer Funktion setzt, und das auch nur in langwieriger Prozedur.
  • Es hat wohl pro Tragfläche nur einen einzigen Sensor. Wenn der falsche Werte liefert, gibt es keinen Korrekturweg.

Viele Piloten hatten von Problemen mit dem Ding berichtet, alle übereinstimmend, der Ärger begann mit dem Einschalten des Autopiloten.

Aber alle berichteten sie auch, dass die Probleme direkt nach dem Start in der Steigphase auftraten. Ich hätte nichts von normalem Flug oder Sinkflug gelesen.

Berichtet wurde auch von einem bei beiden abgestürzten Maschinen übereinstimmenden Fund: Nämlich dass man ein Teil der Trimmung gefunden habe, das bei beiden Maschinen auf „Sturzflug” eingestellt worden sei.

Da drängt sich für mich als Laie der Gedanke auf, dass das System – ob nun regulär oder durch defekten Sensor – die Druckverhältnisse am Flügel beim Steigflug, bei dem die Flügelkante stärker von unten angeblasen wird als beim Normalflug (muss ja auch, denn durch den höheren Anstellwinkel erzeugt die Tragfläche, bevor sie so steil wird, dass sie in den Stall kommt, mehr Auftrieb – deshalb steigt das Flugzeug, und nicht deshalb, weil es nach oben zeigt) mit denen verwechselt, die beim Strömungsabriss durch Unterblasen der Tragflächen vom Triebwerksstrom passiert.

Für mich entsteht der Verdacht, dass dieses MCAS da irrtümlich meinte, dass eine – ich nenn’s jetzt mal so – Unterwirbelung der Tragflächen durch die Triebwerke stattfand (Variante: Vielleicht irrte es ja gar nicht, vielleicht war es wirklich so) und der Bordcomputer meinte, das Flugzeug stürze gleich ab, weil die Strömung gerade zerwirbelt wird.

Was wäre in so einem Fall die probate Rettungsaktion? Richtig. Sturzflug, koste es, was es wolle. Mit Gewalt wieder Strömung unter die Tragflächen bringen.

Das kommt mir nicht ganz unbekannt vor. Es gibt eine Flugsituationen im Strömungsabriss, aus denen man nur durch Sturzflug und damit quasi erzwungene Anströmung wieder rauskommt. Ich wollte ja mal den Hubschrauberschein machen, da spielt das auch eine Rolle, dass ein voll funktionsfähiger Hubschrauber, der in der Luft stehen will, sich durch seinen eigenen „Downwash”, also die selbst erzeugte Luftströmung nach unten, bei voller Motorleistung in den Absturz bringt, weil es an Anströmung fehlt. Was übrigens der Grund ist, warum solche Rettungseinsätze, bei denen ein Hubschrauber in der Luft steht und Leute ab- oder aufseilt, für den Normalflug drastisch übermotorisierte Helis erfordert und man das mit den normalen Reisehubschraubern eigentlich gar nicht erst machen darf. Gegenmittel: Sofort Flug oder Sturzflug nach vorne, koste es, was es wolle, ohne Rücksicht auf Höhe oder Höhenverlust, um aus dem Gewirbel rauszukommen, weil vielleicht zu überleben besser ist als es sicher nicht zu überleben. Knüppel sofort noch vorne drücken.

An dieses Notfallmanöver muss ich denken, wenn ich das mit der 737 MAX lese.

Der Gedanke ist, dass man wissentlich eine Flugzeug gebaut hat, das nicht zuverlässig funktioniert, weil es sich unter gewissen Umständen selbst die Strömung wegbläst.

Deshalb hat man da wohl nun ein System eingebaut, dessen einziger Zweck es ist, KI-mäßig in ständiger Angst zu leben, dass die Strömung abreißen könnte, und hochnervös ständig drauf und dran ist, das Flugzeug in einen Sturzflug zu bringen und es vor dem Absturz durch Strömungsabriss zu retten.

Für mich sieht das so aus, als hätte man da eine fliegende KI-Angstneurose gebaut, in ständiger Versagensangst vor dem eigenen Scheitern (quasi der Feminismus unter den Flugzeugen), die schon in Zweifelssituationen in schwere Panik verfällt und Panikreaktionen begeht. Das bei jeder Änderung der Strömung in Panik verfällt „Oh, Gott, meine Strömung, ich stürze ab, sofort Sturzflug…)

Ich hatte früher mal geschrieben, dass ich mal eine Stewardess mit ernster Flugangst kennengelernt habe, die ständig Angst hatte, dass sie abstürzt. Der sich beim Wackler der Magen umdreht. (Augen auf bei der Berufswahl.)

Anscheinend ist die 737 MAX dank Computer das erste Flugzeug mit panischer Flugangst.

Schöne neue Welt.