Nur Computer morden leise…

…und sie haben verdammt viele Ideen, wie man morden kann.

Kennt Ihr den Film „Nur Computer morden leise“?

Macht nichts, muss man nicht kennen, war so eine französische Klamotte aus den siebziger Jahren. Ich bekomme die Story nicht mehr so ganz zusammen, aber es ging darum, dass ein Informatiker, der in einer Firma eine kleine Nummer ist, den modernen Computer (Siebziger Jahre: So’n Ding mit blinkenden Lampen und Endlospapierdruckerterminal) der Firma benutzt, um die optimalen Todesfälle für Leute zu errechnen, die er aus dem Weg schaffen will oder muss. Das Ding blinkt und dudelt und druckt dann aus, wie derjenige sterben soll. Und irgendwie klappt es nie so, wie man vermutet, es funktioniert immer irgendwie um die Ecke. Mir fällt auch nur noch eine Mordmethode ein: Der Computer hat errechnet, dass sein Chef zu der und der Zeit in die Tiefgarage fährt, dazu abwärts und auf seinen Parkplatz. Gösse man also großzügig Öl dort aus, dass Fahrzeuge ins Rutschen kommen, zöge das seinen Tod nach sich. Gedruckt, getan. Chef kommt also mit dem Wagen ins Schlittern, überschlägt sich und knallt gegen die Wand. Wider erwarten ist er nicht tot, sondern steigt aus und jammert, dass er sich einen Finger gebrochen hat. Mist, hat nicht funktioniert. Wie er aber so da steht und über seinen Finger jammert, und den hoch hält, kommt der nächste die Abfahrt runter, rutscht auch, kann nicht bremsen und zermatscht den Chef an der Wand. Tot. Und es sieht perfekt nach Unfall aus. Und so weiter.

Heute sind wir fünfzig Jahre weiter und:

wie leicht sie missbraucht werden kann.

Leider findet kaum eine öffentliche Diskussion von KI-Risiken statt, die über das Problem diskriminierender Algorithmen hinausgeht.https://t.co/h971fzLND0

— Political Analysis (@Polit_Analysis) June 30, 2022

AI suggested 40,000 new possible chemical weapons in just six hours (Schon vom März 2022)

It took less than six hours for drug-developing AI to invent 40,000 potentially lethal molecules. Researchers put AI normally used to search for helpful drugs into a kind of “bad actor” mode to show how easily it could be abused at a biological arms control conference.

All the researchers had to do was tweak their methodology to seek out, rather than weed out toxicity. The AI came up with tens of thousands of new substances, some of which are similar to VX, the most potent nerve agent ever developed. Shaken, they published their findings this month in the journal Nature Machine Intelligence.

Sie haben auf einer Konferenz über Biowaffenkontrolle vorgeführt, wie man ein KI-System, das eigentlich dazu gemacht ist, neue nützliche Medikamente zu finden, auf die dunkle Seite der Macht ziehen kann. Man hat einfach die Toxizität vom Ausschlusskriterium zum Auswahlkriterium gemacht und das Ding hat innerhalb von 6 Stunden 40.000 potentiell tödliche Moleküle gefunden, aus denen man tödliche Chemie-Waffen im Stil von VX machen kann.

Schöne neue Welt.