Im Sicherheitslabor steht jetzt eine Maschine, die nicht nur piept, wenn irgendwo im Code eine Schraube locker ist. Sie nimmt die Schraube, legt sie neben drei andere, dreht daraus eine kleine Kette und sagt dann: Bitte sehr, daraus wird ein echter Angriff, wenn niemand den Besen holt.
Cloudflare hat in einem Bericht zu Project Glasswing beschrieben, wie es Sicherheits-LLMs – darunter Anthropic Mythos Preview – auf mehr als fünfzig eigene Repositories losließ. Nicht als Zauberkiste mit blinkendem Heiligenschein, sondern als ziemlich kräftige Werkbank: Bugs finden, Exploit-Ketten bauen, Beweise erzeugen, im Scratch-Raum kompilieren, scheitern, neu versuchen. Also ungefähr das, was gute Sicherheitsforschung ohnehin macht, nur mit mehr Sirren im Schrank.
Der bemerkenswerte Teil ist nicht, dass eine KI einen Fehler findet. Das ist inzwischen fast schon die Büroklammer im Werkzeugkasten. Der bemerkenswerte Teil ist die Kette: Cloudflare schreibt, Mythos Preview könne mehrere kleine Angriffsprimitive zusammensetzen und daraus einen funktionierenden Nachweis bauen. Ein einzelner Käfer ist dann nicht mehr nur ein Käfer. Er bekommt Kollegen, bildet einen Ausschuss und beantragt Systemzugriff.
Die Triage ist jetzt der verstopfte Trichter
Anthropic formuliert in seinem ersten Glasswing-Update die neue Engstelle ziemlich klar: Nicht mehr nur das Finden der Schwachstellen ist knapp, sondern das Prüfen, Melden, Patchen, Sortieren, Beruhigen. Nach Angaben von Anthropic haben rund fünfzig Partner mit Claude Mythos Preview mehr als zehntausend hoch oder kritisch bewertete Schwachstellen gefunden. Cloudflare wird dort mit 2.000 Bugs genannt, davon 400 hoch oder kritisch.
Das klingt nach Fortschritt. Ist es auch. Es klingt aber auch nach einem Posteingang, der morgens nicht mehr geöffnet wird, sondern mit dem Gabelstapler aus der Wand geholt werden muss. Denn jeder Fund muss noch wahr sein. Er muss reproduzierbar sein. Er muss an die richtige Stelle. Er muss gepatcht werden, ohne dass man dabei das halbe Internet mit der Kneifzange aus Versehen neu verkabelt.
Cloudflare beschreibt genau diese nötige Nacharbeit: Mehrstufige Validierung, automatische Triage, menschliche Kontrolle. Der Beweisroboter darf also nicht allein nachts im Rechenzentrum herumstapfen und überall rote Zettel ankleben. Er braucht Geländer. Er braucht Quarantäneboxen. Und vermutlich jemanden, der ihm erklärt, dass „interessant“ noch kein CVE ist.
Auch der gute Roboter macht Lärm
Die Pointe ist trocken und riecht nach heißem Metall: Je besser die Maschine wird, desto wichtiger wird das Drumherum. Ein Modell, das echte Exploit-Ketten bauen kann, ist für Verteidiger wertvoll. Für Angreifer wäre die gleiche Fähigkeit natürlich kein Motivationsplakat, sondern Werkzeug. Cloudflare weist außerdem darauf hin, dass Mythos Preview im Glasswing-Kontext nicht dieselben zusätzlichen Schutzmaßnahmen hatte wie allgemein verfügbare Modelle.
Das heißt nicht: Stecker raus, zurück zur Lochkarte. Es heißt eher: Wer solche Modelle in die Sicherheitswerkstatt stellt, muss die Werkstatt ernst nehmen. Sandboxes, Zugriffsbeschränkungen, Disclosure-Prozesse, Reproduktionsprüfungen, menschliche Signatur unter dem Befund. Sonst hat man am Ende kein Sicherheitsprogramm, sondern eine sehr fleißige Alarmglocke mit eigenem Schraubenzieher.
Und da steht sie nun, die neue Blechlage: Die KI findet nicht nur rostige Stellen. Sie kann zeigen, wie der Rost die Tür aus den Angeln nimmt. Schön. Schrecklich. Nützlich. Und auf dem Tisch liegen mehr Schrauben, als die Schicht eigentlich zählen wollte.