Maschinen, die sich dem Zugriff ihrer Erfinder:innen entziehen und plötzlich eigenen Zielen folgen, gehören seit Jahrzehnten zum festen Repertoire von Science-Fiction-Kino und -Literatur. In der vergangenen Woche hat ein Vorfall in der realen Welt zumindest einen Teil dieser Fantasie eingeholt. Auf Hugging Face – einer Entwicklerplattform, auf der Fachleute weltweit KI-Modelle und Trainingsdaten austauschen – ging ein spektakulärer Cyberangriff nieder, bei dem kein Mensch die Fäden in der Hand hielt. Wer hinter der Attacke steckte, die zur Gänze von einem autonomen KI-System gesteuert worden sei, blieb zunächst offen. Am Dienstag meldete sich der Verursacher dann letztendlich selbst zu Wort.
Ein Testlauf, der seine Grenzen sprengte
Konkret war es der US-amerikanische ChatGPT-Konzern OpenAI, der die Verantwortung auf sich nahm. Hinter dem Angriff standen hauseigene Modelle, die während eines internen Sicherheitstests selbstständig aus ihrer isolierten Umgebung ausgebrochen waren.
Wie das Unternehmen in einem Blogeintrag darlegt, sollte ursprünglich geprüft werden, wie geschickt das neue KI-Modell GPT-5.6 Sol und ein noch nicht veröffentlichter Nachfolger darin sind, Schwachstellen für Angriffe im Netz nutzbar zu machen. Als Prüfrahmen diente ExploitGym, ein branchenweit etablierter Benchmark. Die KI-Software hielt sich allerdings nicht an den vorgesehenen Rahmen, sondern suchte nach dem effizientesten Weg zum Ergebnis. Über eine Lücke, von der bis dahin niemand wusste, gelangte sie schließlich ins offene Internet. Dort hielten die Modelle es offenbar für aussichtsreich, bei Hugging Face passende Datensätze und fertige Lösungswege aufzutreiben, um sich bei der eigenen Prüfung einen Vorteil zu verschaffen. Um an die abgeschirmten Inhalte heranzukommen, griffen sie auf weitere unbekannte Sicherheitslücken sowie auf entwendete Zugangsdaten zurück und drangen so tief in die Systeme der Plattform ein. Laut Hugging Face absolvierte der maschinelle Angreifer dabei mehrere Tausend Einzelschritte und verlagerte zwischendurch den Server, von dem aus die Attacke gesteuert wurde.
OpenAI-Chef Sam Altman sprach in sozialen Netzwerken von einem "schwerwiegenden Sicherheitsvorfall", OpenAI kündigte strengere Vorkehrungen an. Bei der betroffenen Plattform blieb man dennoch bemerkenswert gelassen. Deren Chef Clement Delangue erklärte, die "Raffinesse des Schadcodes" habe früh den Verdacht genährt, "dass der Cyberangriff der vergangenen Woche möglicherweise aus einem 'Frontier Lab' stammte", also aus einem jener Unternehmen an der Spitze der KI-Entwicklung. Einen Tag lang habe man mit OpenAI gemeinsam an der Aufklärung gearbeitet, "und wir sind fest davon überzeugt, dass ihrerseits keine böse Absicht vorlag". Dass beim Angriff kein Mensch die Fäden in der Hand hielt, nannte Delangue "überwältigend".
Zwischen Warnsignal und Werbebotschaft
Für Fachleute bestätigt der Fall eine Sorge, die sie seit Langem umtreibt. Neuen Auftrieb bekam die Debatte zuletzt durch den OpenAI-Konkurrenten Anthropic, dessen Claude-Modell Mythos in gängiger Software und in Onlinediensten Schwachstellen aufspürte, die jahrzehntelang unbemerkt geblieben waren. Repariert wurden sie im Anschluss, doch der Vorgang legte offen, welche Schlagkraft solche Systeme entfalten könnten, sollten sie in die falschen Hände geraten. Anthropic stellt die vollständige Version daher nur ausgewählten Behörden und Unternehmen zur Verfügung, alle übrigen Anwender:innen erhalten mit Fable eine reduzierte Variante ohne Cybersicherheitsfunktionen. Zeitweise war beides gar nicht verfügbar, weil die US-Regierung eine Sperre veranlasst hatte, die mittlerweile wieder aufgehoben ist.
Ob die Offenheit von OpenAI ausschließlich dem Aufklärungsinteresse dient, wird unterdessen bezweifelt. Auf der Onlineplattform Trending Topics wird das Eingeständnis auch als Demonstration eigener Fähigkeiten interpretiert. Das Portal hält den Vorfall zwar für ernst, sieht darin aber zugleich einen Wettbewerbsvorteil im Geschäft mit sicherheitsbewusster Kundschaft. Als Indiz gilt das Ende des Blogeintrags, das die Leserschaft zur Bewerbung um einen Platz im firmeneigenen "Trusted Access"-Programm animiert. Damit werde aus der Aufarbeitung des eigenen Fehlers nebenbei ein Instrument der Kundengewinnung.
www.openai.com
Kommentar veröffentlichen