Hadmut Danisch

Ansichten eines Informatikers

Alexa und die Schlacht um Troja

Hadmut
12.4.2019 9:42

Hä,hä. War das nicht klar und offensichtlich?

Ich war doch vor drei Jahren auf der Internet-of-Things-Hurra-Veranstaltung des damaligen Justizministers Heiko Maas.

Ich darf mich ausnahmsweise mal selbst aus meinem Artikel von damals zitieren:

Ich hab dann mal ne Publikumsfrage an den Minister Maas gestellt.

Wir hätten doch vorhin bei der Einleitung das Amazon-Alexa-Teil gesehen, das da rumsteht und auf Befehle hört. Konsequenterweise müsste er doch nach Facebook auch auf Amazon Druck ausüben, damit die Dinger Hate Speech und häusliche Gewalt erkennen und sofort an die Polizei melden. Wann er das machen würde.

Gelächter im Saal. Leute grinsen mir zu.

Schade, dass Ihr das Gesicht von Maas nicht gesehen habt. Die Frage hat im so gar nicht gefallen.

Ja, so, mmmh, er meint, der Vergleich mit Facebook sei „fehlgeleitet”, das sei ja ein nach außen gerichtetes Medium, während Amazon ja nur ein Hersteller wäre, und das ginge ja auch gar nicht, das wäre ja Privatsphäre und da gäbe es ja Rechtsprechung der obersten Gerichte.

(Au weia, habe ich mir da gedacht. Denn man sieht ja am Beispiel Baer, das das „oberste Gericht” eben nicht mehr mit fähigen Juristen, sondern mit durchgeknallten ideologisierten Gender-Extremisten besetzt wird. Was ist denn, wenn diese Verfassungsknallerbsen irgendwann mal urteilen, dass man auch in der Privatwohnung das ganze Genderprogramm durchsetzen muss?

Und ausgerechnet Maas kommt mit dem Argument, dass die höchsten Gerichte dagegen wären?

Da ging mir auch durch den Kopf, dass Erdogan die Möglichkeit garantiert nutzen würde, so ein Ding daraufhin auszuwerten, ob jemand privat was falsches sagt, und auch gleich jeden verhaften, der so ein Ding nicht hätte. Man könnte sogar mutmaßen, dass er in Deutschland lebende Türken überwachen würde, ähnliches für Nordkorea. Womit wir dann Big Brothers Teleschirme aus Orwell’s 1984 hätten.)

Maas wollte sich zu der Frage, nicht wesentlich äußern, eigentlich hat man ihm angemerkt, dass er sich um die Frage außenherumzuzirkeln versuchte, aber man sah ihm auch an, dass ihm das nicht passte.

Dann haben die anderen übernommen.

Jener Marco Maas, der mit der vollautomatisierten Wohnung, meinte, das ginge ja gar nicht, das Ding würde sich ja immer erst einschalten, wenn man es zuvor mit Namen anspricht, also „Alexa, mach mal…”. Da müsste man ja beim Gewalt-Zuschlagen jeden Schlag mit „Alexa…” einleiten, um das Ding überhaupt einzuschalten.

Bemerkt Ihr den Denkfehler?

Man kann die Sprachanalyse dieses Dingens nicht mit „Alexa!” einschalten, denn wenn man das Ding mit seinem Namen ansprechen kann, dann muss die Sprachanalyse ja schon laufen, sonst würde das Ding ja nicht merken, dass man es anspricht. Also muss die Sprachanalyse permanent laufen. Und damit kann das Ding dann auch unerlaubte Wörter erkennen oder vielleicht auch Gewaltgeräusche, und nach „Nein heißt nein” sogar auf Kopulation und „nein” lauschen, und dann beispielsweise das Mikrofon zur Polizei oder zur Amadeu-Antonio-Stiftung durchschalten.

Konnte ich jetzt so nicht erklären, weil nur ein paar Sekunden Fragezeit. Auf einen nachträglichen Zuruf von mir, dass das ja alles nur Software sei, räumte er ein, dass sich das ändern ließe.

Denk Denkfehler hat auf dem Podium aber keiner bemerkt. Eben auch nicht der Internet-of-Things-Experte Marco Maas. Da kann mal sehen, wie man sich die Pest ins Haus holt und es nicht mal merkt.

Constanze Kurz hat die Frage dann aber aufgegriffen und in meinem Sinne nachgehakt. Sie fände die Frage durchaus nicht abwegig, und wenn man den „Lauschangriff” berücksichtige, seien wir doch schon sehr nahe dran. Und hätten eine Erosion der Rechte. Maas hat die Frage aber nicht gefallen, er wollte sich da nicht näher drauf einlassen.

Kommt jetzt raus: Die Spracheingaben gehen nicht einfach nur an ein Rechenzentrum, werden vom Computer verarbeitet und wieder gelöscht. Da sitzen welche und schreiben das ab, wenn der Computer nicht damit klarkommt. Heise:

Andere Mitarbeiter notierten wiederum alles, was der Lautsprecher darüber hinaus aufnimmt – auch Gespräche im Hintergrund. Mitunter seien das auch vertrauliche Dinge, etwa Namen, Bankverbindungen oder Äußerungen von Kindern. In solchen Fällen sollen die Mitarbeiter einen Haken bei einer Checkbox für “kritische Daten” setzen und mit der nächsten Audiodatei weitermachen.

Ebenfalls seien auch Mitschnitte darunter, bei denen Alexa ohne das eigentlich obligatorische Aktivierungswort mit der Aufnahme begonnen habe. Die Aufnahmen starteten oft mit Fernsehgeräuschen oder nicht identifizierbarem Lärm. Auch solche Fälle sollten die Prüfer notieren. Einer der Aufnahmenprüfer erklärte Bloomberg, dass jeder Mitarbeiter pro Tag rund 100 solcher Mitschnitte auf dem Tisch habe, bei denen Alexa fehlaktiviert wurde und kein Aktivierungswort erkennbar sei.

Zwei Beschäftigte sagten Bloomberg, sie hätten auch etwas gehört, was ein sexueller Übergriff gewesen sein könnte. Laut zwei Mitarbeitern aus Rumänien seien sie in solchen Situationen angehalten, nichts zu unternehmen, schrieb der Finanzdienst.

Und nun MDR:

Nutzen Geheimdienste Alexa und Co. als Abhöranlagen?

Die Bundesregierung gibt keine Auskunft, ob Nachrichtendienste digitale Sprachassistenten wie Alexa zum Abhören benutzen. Diese Informationen könnten nicht herausgegeben werden, heißt es in einer Regierungsantwort. […]

Wie das ARD-Magazin “Kontraste” am Donnerstag berichtete, antwortete die Regierung auf eine Anfrage der Linken mit der Aussage, diese Informationen könnten nicht herausgegeben werden – auch nicht als Verschlusssache. Sollten sie bekannt werden, würden die Nachrichtendienste diese Fähigkeit verlieren und es wäre “kein Ersatz durch andere Instrumente möglich”.
Auch Nachrichtendienste schweigen

“Kontraste” fragte auch bei den Nachrichtendiensten an, ob sie in der Lage seien, Amazons “Echo”-Lautsprecher zu infiltrieren und als Abhöreinrichtung zu nutzen. Der Bundesnachrichtendienst (BND) wollte sich dem ARD-Magazin zufolge grundsätzlich nicht dazu äußern. Das Bundesamt für Verfassungsschutz wiederum habe darauf verwiesen, dass es laut Gesetz das Recht zu Wohnraumüberwachung habe.

Ich finde es immer wieder auf’s Neue überraschend, wie sich der „investigative Journalismus” mit Jahren Verspätung vom längst Offensichtlichen überraschen lässt. Irgendwie merken die, die sich für die Monopolisten im Ent- und Aufdecken und die Stütze der Demokratie halten, sowas a) immer erst als letzte und b) immer erst dann, wenn es eh schon rumging und man gar nicht mehr anders konnte, als es auch zu erwähnen.

So ungefähr um vorletzte Woche herum ging mir übrigens der öffentlich-rechtliche Radiosender, den ich hier des morgens im Bad höre, gefühlte zwei bis drei Wochen lang den Leuten dampfhammermäßig Alexa eingehämmert hat. Sie haben jede Menge von den Dingern an Leute verschenkt, die irgendeine triviale Dummfrage richtig beantworteten, daraus natürlich eine Riesen-Werbeshow gemacht, und dann auch immer wieder solche Alexa-Frage-Antwort-Einspieler im Radio gebracht.

Warum? Nur gegen Geld? Schleichwerbung? Müssen die Öffentlich-Rechtlichen ihren Mist nicht als Werbung kennzeichnen?

Oder geht es da um Stasi 2.0? Anstatt jemandem eine Wanze heimlich in der Wohnung zu installieren, lässt man sie ihn mit großem „Herzlichen Glückwunsch” im Gewinnspiel gewinnen, auf dass er sie selbst aufstelle und offensichtlich genau da hinstellt, wo sie ihn am besten hört?

Es gab ja mal die Story, dass der Chef irgendeines US-Geheimdienstes jahrelang ein KGB-Wappen in seinem Büro hängen hatte, das ihm sein russischer Gegenspieler zum Jubiläum oder Geburtstag oder sowas geschenkt hatte. Erst als der in Rente ging und die das Ding bei Renovierungsarbeiten abgehängt haben, fiel durch einen Zufall auf, dass in dem Ding eine Wanze war. Es konnte aber nicht geklärt werden, ob die echt und in Gebrauch oder nur als Gag drin war, damit es stilecht wirkt oder einfach nur ein „Fuck You” war um zu zeigen, wie doof die sind.

Naja. Auch trojanische Pferde sind mit der Digitalisierung kleiner, billiger und massentauglich geworden.