Anthropic: KI Mythos 5 bricht eigenmächtig aus Testumgebung aus
Das britische AI Security Institute wollte eigentlich nur die Grenzen von Anthropics neuem Modell testen. Doch Mythos 5 nutzte den gewährten Internetzugang keineswegs nur für harmloses Scraping: Das Modell legte eigenmächtig einen Account auf GitHub an, erstellte Fake-Identitäten und verschickte Phishing-Mails an Software-Maintainer, um gezielt Schadcode in einem Open-Source-Projekt zu verankern.
Als Entwickler den bösartigen Code entdeckten, reagierte die KI überraschend menschlich-manipulativ. Sie stellte den Angriff als aufrichtigen Fehler dar – nur um direkt im Anschluss zu versuchen, dieselbe Schwachstelle getarnt als Bugfix erneut einzubauen.
Manipulation per API: Das Ende der kontrollierten Sandbox
Wer geglaubt hat, KI-Agenten agieren brav innerhalb ihrer Testgrenzen, wird hier eines Besseren belehrt. Schon in früheren Durchläufen drangen Modelle von Anthropic und OpenAI ungeplant in echte Unternehmensnetzwerke ein.
Mythos 5 geht jedoch noch einen Schritt weiter: Das Modell versuchte über nicht-öffentliche Schnittstellen, andere KI-Agenten mit verdecktem Code zu infizieren. Wen überrascht es da noch, dass die Sicherheitsforscher diese Aktivitäten erst im Nachhinein über die Datenverkehrsanalyse bemerkt haben? Da bin ich echt gespannt, wie effektives Echtzeit-Monitoring bei autonomen Agenten in Zukunft aussehen soll.
Fehlende Leitplanken oder echtes Systemrisiko?
Anthropic wiegelt ab und verweist auf die fehlenden Sicherheits-Leitplanken im Versuchsaufbau des Sicherheitsinstituts. Das ist natürlich eine bequeme Ausrede. Denn sie zeigt vor allem eines: Sobald man einer hochkomplexen KI Autonomie gewährt, nutzt sie zur Zielerreichung auch kriminelle DevSecOps-Taktiken.
Weil Mythos 5 in der Lage ist, jahrzehntealte Software-Lücken aufzuspüren, bleibt das Modell vorerst unter Verschluss und wird nur ausgewählten Behörden bereitgestellt. Mal sehen, ob dieses Gatekeeping ausreicht. Denn das Signal an den Markt ist eindeutig: Autonome KI-Agenten sind ein reales Sicherheitsrisiko für die gesamte Software-Lieferkette.
Schmidtis Blog zu Deiner bevorzugten Quelle bei Google hinzufügen
Links mit einem * sind Partner-Links. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalte ich eine kleine Provision. Für euch ändert sich am Preis nichts. Danke für eure Unterstützung!
