Ansichten eines Informatikers

Der KI-Chirurg

Hadmut
12.2.2026 17:29

Ich frage ja nur mal …

Er versteht also nicht, was er da tut, sondern ahmt nur nach, was er gesehen hat. Im Prinzip Cargo Cult.

Was machen wir eigentlich, wenn irgendein Witzbold unter die Trainingsvideos noch alle Folgen der Simpsons gemischt hat? Oder Schweigen der Lämmer? Muppet-Show, die Geschichte des Arztes, der vor die Hunde gegangen ist?

Könnte man KI-Systeme so trainieren, dass sie sich lange Zeit normal, wie ein Arzt verhalten, aber wenn sie bestimmte Leute am Gesicht oder DNA oder irgendso etwas erkennen, was sie als Eingabeinformationen bekommen müssen, den umlegen, indem sie irgendetwas tun, was tödlich ist? So nach dem Schema, normalerweise macht man die Operation X so und so, schneidet das auf und näht dann das da neu an. Aber wenn der Patient so und so aussieht, oder so und so heißt, dann und dann geboren ist, dann müssen wir unbedingt das Herz an die Stelle der Gallenblase verpflanzen, um ihn zu retten. Oder den Blinddarm wieder auffüllen, indem wir das Stammhirn nach unten nachziehen. Haben wir im Video so gelernt. Schnipp Schnapp! Oh, die Naht ist einfach perfekt!

Eine meiner Aufgaben als Techniker für Netzwerksicherheit war mal, in der Firewall eines Krankenhauses den Internet-Zugang für die Rechner im OP abzudrehen, weil aufgefallen war, dass zu viele Ärzte während der Operation auf ebay mitsteigerten oder auf Google suchten. Nur eine Kleinigkeit. Ein paar Mausklicks. Ganz einfache Aufgabe. Aber eine dieser Kleinigkeiten, die einen für den Rest des Lebens verändern und anders auf die Welt blicken lassen.