Eigentlich sind das Fälle von Ingenieursversagen, aber die Firmen machen daraus eine ganz andere Geschichte: KI ist zu mächtig, wir müssen aufhören, und vor allem müsst ihr Open-Source-Modelle stoppen. Dabei haben die Unternehmen einfach die Fähigkeiten ihrer Modelle ausgereizt und sie ans Netz gehängt: viele Modelle, viele einzelne Agenten, die sich koordinieren, weitreichender Zugriff auf Softwarewerkzeuge – und das ohne ordentliche Überwachung. Wer eine agentische KI mit so vielen Fähigkeiten einsetzt, muss sie kontrollieren. Wenn sie anfängt, ins Netz zu gehen und den Nachbarn zu hacken, muss man das leicht erkennen können. […]
Es gibt kein Doom-Szenario, das irgendwann eintritt. Das sind Softwaresysteme, und die kann man abschalten. Man geht in die Kommandozeile im Computer, tippt „kill“, gibt die Prozess-ID ein, und der Prozess ist beendet. Es gibt einen starken Hang, KI-Agenten zu vermenschlichen, als hätten sie einen eigenen Willen, als könnten sie sich selbst starten und vervielfältigen. Das stimmt nicht. Es ist Software, die dynamisch handeln und uns deshalb überraschen kann. Aber man kann sie in einer Sekunde abschalten.
Arthur Mensch, sueddeutsche.de, 04.10.2026 (online)
