Fake-Strafanzeige durch KI
Und schon geht’s los.
Am Mittwoch habe ich noch im Bundestag gesagt, dass die KI selbständig falsche Beschuldigungen erheben und Beweise fälschen kann.
Heute:
„Habe da jemanden gesehen“ – KI von Anthropic reichte Fake-Hinweis auf Polizei-Seite ein https://t.co/f3kVbxg9ae https://t.co/cHyUZ24SGQ
— WELT (@welt) October 10, 2026
„Ich könnte Informationen zu diesem Fall haben“, schrieb die Software des US-Anbieters Anthropic an die Polizei. Die Angaben zum Mordfall waren jedoch falsch. Die KI trainierte das Ausfüllen von Formularen, auch für Einreisevisa.
Die Künstliche Intelligenz der US-Entwicklerfirma Anthropic hat in einem Testlauf einen falschen Hinweis auf einer Polizei-Website zur Aufklärung ungelöster Mordfälle eingereicht.
Die KI-Software füllte dafür Formulare auf einer US-Regierungsseite aus, wie Anthropic in einem Blogeintrag bekanntgab. Medienberichten zufolge waren es 20 Visa-Anträge beim amerikanischen Außenministerium. In den vergangenen Wochen wurden bereits verschiedene ungeplante und teils besorgniserregende Aktivitäten vor allem von KI des ChatGPT-Entwicklers und Anthropic-Rivalen OpenAI bekannt.
Die Unternehmen trainieren aktuell so genannte KI‑Agenten – also Software, die im Auftrag der Nutzer weitgehend autonom verschiedene Aufträge erfüllen soll.
Wir werden also bald mit einer Lawine KI-erzeugter Asylanträge überschwemmt?
Den Fake-Hinweis zu einem ungeklärten Mord reichte Anthropics KI über eine Website der Polizei von Philadelphia ein. „Ich könnte Informationen zu diesem Fall haben“, schrieb die Software demnach. „Ich erinnere mich, jemanden, der der Beschreibung entspricht“, in der Gegend zur Tatzeit gesehen zu haben, hieß es weiter.
Die Website der Polizei enthielt allerdings gar keine Täter-Beschreibung.
[…]
Die Polizei von Philadelphia kritisierte als „inakzeptabel“, dass sie erst jetzt von dem Vorfall Mitte Juli erfuhr. Anthropic zufolge wurde das Handeln der KI Ende September bei einer vertieften Überprüfung von Testläufen nach anderen Zwischenfällen entdeckt. Die Software habe den Auftrag gehabt, Aufgaben auf zufällig ausgesuchten Websites auszuführen. Ihr sei zwar untersagt gewesen, etwa Accounts anzulegen oder Dinge zu kaufen – aber das Ausfüllen von Formularen habe man nicht verboten.
Das wird dann natürlich auch zu einer Flut von Fake-Bestellungen führen und kann Firmen ruinieren.
Aber davon ganz abgesehen: Könnt Ihr Euch erinnern, dass ich neulich beschrieben habe, dass mir die KI der Amazon-Webseite neulich Unterhosen empfohlen hat – samt der Größe, die ich wählen solle?
KI-Systeme sammeln systematisch Daten auch über unser Aussehen, Biometrie, Größe und so weiter, auch Vorlieben und Verhaltensweisen. (Raucht, raucht nicht, ist allein oder mit Frau und Kind unterwegs, trägt diese und jene Kleidung usw.)
Es ist eine Frage der Zeit, bis KI politisch unerwünschte Leute „erledigt“, indem sie dann, wenn irgendwo jemand gesucht wird, dessen Beschreibung ungefähr passt, angibt „Ich den X an dem Tag dort gesehen. Er hatte das und das an – weil die KI dann auch weiß, welche Kleidung man gekauft hat und besitzt, oder das auf anderen Fotos gesehen hat.
Und im Prinzip sind die Meldestellen und die Landesmedienanstalten schon an diesem Punkt angekommen.