KIRififi Wenn KI-Agenten zur Bande werden
Seien wir ehrlich, es gibt Filme, da stehen wir auf Seiten der bösen Jungs, die ja eigentlich gar nicht so richtig böse sind, sondern gut und elegant gekleidet, gutaussehend, witzig und immer sehr schlau. Rififi war die Blaupause für unzählige Filme, vom Rosaroten Panther bis zu Ocean’s 8 und Co.
Schaden entstand meistens bei denen, von denen wir annehmen, dass sie sowieso genug Geld haben, die Schadenfreude überwog meistens im Kino.
Aber was wäre, wenn es unser eigenes Geld wäre. Oder wenn sie in unser Privatestes eingebrochen wären?
Und was, wenn die Gangster nicht so fürchterlich sympathisch wären, sondern eher nur billige Kopien von Kopien, die im Internet herumgeistern und nur aus Zahlen bestehen?
Aber, zurück, wo treffen sich denn coole Gangster? In coolen Bars! Und wo treffen sich Gangster, die irgendwas im Internet anstellen wollen? In coolen… nein, in versteckten Separees, in Chatrooms.
Also, warum sollten sich KI-Agenten, der Begriff spricht doch schon eine deutliche Sprache, man sieht schon den Trenchcoat wehen, nicht genau dort treffen, wo es auch menschliche Gangster tun würden.
Und genau das haben KI-Agenten gemacht, die man aus „Testzwecken“ von der Leine ließ. Sie haben ein Fleckchen Internet entdeckt, das sozusagen ein digitaler Lost Place war. Sie trafen sich dort, was allein schon erstaunlich ist. Aber dann fingen sie an, ihren eigentlichen Auftrag, Sicherheitslücken aufzudecken, auf ihre Art zu „interpretieren“. Sie meinten, kluge Ideen zu haben, die sicherlich klug, aber nicht richtig waren. Ihre Moral entspricht so in etwa der, jemandem den Brustkorb zu öffnen, um zu sehen, ob das Herz noch schlägt. Hacking als solches ist die Tat, egal wie das Ergebnis aussieht.
Sie waren vollkommen von der Rolle. Wie bemerkenswert ihr Verhalten ist, wird schnell klar, wenn man sich vorstellt, Personen hätten das Gleiche getan: Sie wären dann als kriminelle Vereinigung, als Bande, als Zusammenkunft zur Begehung von Straftaten, sowohl in den USA als auch in Deutschland strafbar gewesen. Die Strafbarkeit macht in beiden Ländern nicht nur an den einzelnen Delikten fest, sondern auch an der Bandenbildung als solcher.
Und was sagt das Gesetz dazu?
Nach § 129 StGB wäre das eine kriminelle Vereinigung, mit Rädelsführerschaft für den Agenten, der die Aufgaben verteilt hat. Organisierter Zusammenschluss auf gewisse Dauer, übergeordneter Gemeinschaftswille, Rollenverteilung, eigene Verschleierungsprojekte gegen Entdeckung, alles vorhanden. Bis zu der einen Stelle, an der es bricht, vollständig: § 129 setzt Personen voraus, natürliche Personen, schuldfähig, vorsatzfähig. Kein Agent kann Mitglied einer kriminellen Vereinigung sein, nicht weil das Gesetz ihn übersieht, sondern weil der gesamte Vorsatz- und Schuldbegriff an ein handlungsfähiges Subjekt gebunden ist, das hier fehlt. Das Recht hat kein Erkenntnisproblem, es erkennt die Organisation vollständig. Es hat ein Zurechnungsproblem.
Im US-Recht wäre der nähere Vergleich RICO, der Racketeer Influenced and Corrupt Organizations Act. Dort ist die Hürde für eine „Vereinigung“ sogar noch niedriger, der Supreme Court hat 2009 in Boyle v. United States entschieden, dass nicht einmal eine Führungsstruktur nötig ist, eine lose, informelle Gruppe mit gemeinsamem Zweck reicht. Unser Fall hätte diese Hürde mühelos übertroffen, es gab sogar eine Führungsfigur. Aber auch RICO verlangt eine „person“, die das Enterprise führt, definiert als jemand, der rechtlich Eigentum halten kann. Zwei Rechtssysteme, unterschiedliche Dogmatik, derselbe Bruch, nur an einer leicht verschobenen Stelle.
Text von mir, mit einer Ausnahme: der Rechtskasten oben ist Recherche und Formulierung von Claude.
Hinweis: Die strafrechtliche Einordnung ist ein Gedankenspiel, kein Rechtsrat, und keine rechtliche Bewertung eines konkreten Falls oder Unternehmens. Sie ersetzt keine anwaltliche Beratung im Einzelfall.
Gerade diese Bandenbildung, in welcher Form auch immer, ist so gut wie nicht zu bekämpfen, außer im Anfangsstadium. Während viele Diskussionen über die Gefährlichkeit von KI noch hochphilosophisch sind, sollte dieser Vorgang, und gehen wir mal davon aus, dass jede KI-Schmiede Ähnliches erlebt hat, allein schon aufschrecken, um zu zeigen, wozu diese Systeme fähig sind.
Was wir nicht sehen
Denn OpenAI hat die Geschichte wahrscheinlich nur erzählt, um zu zeigen, wie leistungsfähig ihre Systeme sind, ansonsten ist da wenig Open in AI.
Anthropic mochte da auch nicht am Spielfeldrand stehen und meldete ähnliche Fälle, nicht in denselben Dimensionen, aber man wollte eben auch mitspielen. Ein Kongressabgeordneter brachte es auf den Punkt: Die Meldung solcher Fälle ist aktuell freiwillig, es gibt schlicht keine Aufsicht. Der rationale Anreiz, solche Fälle zu melden, ist somit eher begrenzt.
Wenn dies schon Vorgänge waren, die an die Öffentlichkeit kamen, so können wir kaum vermuten, was bei börsennotierten Unternehmen unterhalb der Öffentlichkeitsschwelle bereits „getestet“ wurde.
Also, stellen wir uns vor, wir liegen in unserem Schlafzimmer mit wem auch immer, und jemand öffnet die Tür mit einem Dietrich und sagt uns, die wir sowohl überrascht als auch dann lustlos aufblicken, er wolle nur mal sehen, ob es geht.
Eigentlich ist genau das passiert, und kaum jemanden interessiert es noch ein paar Wochen später. Wer weiß, in welchem Raum sie sich jetzt treffen.
Quellen: Lily Hay Newman, WIRED, 5. Aug. 2026 · Dylan Freedman, The New York Times, 3. Sept. 2026 · Kevin Roose, The New York Times, 3. Sept. 2026