Sicherheitsforscher des Unternehmens Hacktron AI haben im Rahmen eines Bug-Bounty-Programms interne Systeme von OpenAI attackiert und dabei empfindliche Schwachstellen aufgedeckt. Für die Entwicklung des Angriffscodes setzte das dreiköpfige Team auf Claude Opus von Anthropic – das Spitzenmodell eines direkten Konkurrenten des ChatGPT-Entwicklers.
Wie der Einbruch über das Community-Forum gelang
Ausgangspunkt der Attacke war eine Sicherheitslücke in der weitverbreiteten Forensoftware Discourse, die OpenAI für seine Entwickler-Community betreibt. Über manipulierte Bilddateien entdeckten die Forscher ein Einfallstor. Mithilfe von Claude generierten sie daraus einen funktionierenden Exploit-Code, um auf den Discourse-Server von OpenAI vorzudringen.
Auf diesem Server stießen die Analysten auf Authentifizierungs-Tokens – also digitale Schlüssel, die Berechtigungen im Netzwerk verifizieren. Diese Schlüssel erlaubten nicht nur den Zugriff auf das ChatGPT-Konto eines OpenAI-Mitarbeiters, sondern auch auf das private Github-Repository des Unternehmens. Dadurch war es den Forschern möglich, Software-Caches einzusehen und auf Daten im zentralen Quellcode-Archiv (Monorepo) von OpenAI zuzugreifen. Die Forscher brachen den Test nach eigenen Angaben ab, als ihnen das Ausmaß und die Sensibilität der Daten bewusst wurden.
OpenAI schließt Sicherheitslücken und zahlt Prämie
Hacktron AI meldete die Vorfälle direkt an OpenAI. Das Unternehmen bestätigte gegenüber dem Wall Street Journal zwei aufgedeckte Sicherheitsprobleme, die mittlerweile behoben wurden. Um den unbefugten Zugriff zu stoppen, hat OpenAI die Berechtigungen für Community-Anmeldetoken restriktiver gestaltet sowie betroffene Token und aktive Sitzungen widerrufen. Für den Hinweis zahlte OpenAI den Forschern eine Prämie von 6.500 US-Dollar.
KI-Modelle senken die Hürden für Angreifer
Der Vorfall illustriert eine deutliche Verschiebung in der Bedrohungslage: Hochentwickelte Sprachmodelle nehmen Angreifern komplexe Programmierarbeit ab. Mohan Pedhapati, CTO von Hacktron AI, betonte, sein Team bestehe lediglich aus drei Personen mit gewöhnlichen Abonnements für Claude und Codex – und besitze bei Weitem nicht die Mittel staatlicher Hackergruppen.
Sicherheitsexperten warnen, dass Software weltweit viele unentdeckte Schwachstellen aufweist. Bislang war deren Entdeckung auf wenige hochqualifizierte Spezialisten beschränkt. Durch automatisierte KI-Agenten und leistungsfähige große Sprachmodelle (LLMs) sinkt die technische Einstiegshürde nun drastisch. Bereits in der Vergangenheit waren Vorfälle bekannt geworden, bei denen KI-Agenten Sicherheitsbarrieren überwanden oder durch Fehlkonfigurationen Zugriff auf Netzwerke erlangten.
Was bedeutet das für Nutzer und Administratoren?
Für Administratoren und Software-Verantwortliche ist das Ereignis eine deutliche Warnung: Öffentliche Dienste wie Support-Foren müssen strikt von internen Entwicklungs- und Produktivsystemen getrennt werden. Authentifizierungstoken dürfen auf vorgeschalteten Servern nicht so hinterlegt sein, dass sie Zugriff auf sensible Entwicklungsressourcen wie Repositories gewähren.
Quellen: t3n/news, t3n/software-entwicklung
