Die EU-Behörde für Cybersicherheit (Enisa) bekommt Zugang zu den KI-Modellen der US-Unternehmen Anthropic und OpenAI. Die Experten der Enisa mit Sitz in Athen sollen die Modelle Mythos 5 und GPT-6, auch Astra genannt, auf Sicherheitslücken testen, wie ein Sprecher der EU-Kommission am Donnerstag mitteilte. Die Unternehmen hatten nach mehreren Vorfällen zusätzliche Sicherheitsvorkehrungen angekündigt.
Die Modelle Mythos und GPT-6 können Schwachstellen in Computersystemen finden und ausnutzen. Ohne Sicherheitsbarrieren können sie damit eine Gefahr für die Cybersicherheit zahlreicher Staaten und Unternehmen sein. Die EU-Behörde hatte schon Zugriff auf das Vorgängermodell von OpenAI, GPT-5.6. Mit Anthropic hatte die EU hingegen lange über einen Zugang verhandelt.
In den vergangenen Wochen hatte eine Reihe von Vorfällen im Zusammenhang mit Künstlicher Intelligenz Unsicherheit geschürt. Im Juli verband sich ein KI-Agent von OpenAI während eines Tests selbstständig mit dem Internet und unternahm einen Hackerangriff auf die Programmierplattform Hugging Face. Auch Konten bei vier weiteren öffentlich zugänglichen Diensten wurden geknackt.
In der vergangenen Woche brachten Forscher ans Licht, dass KI-Agenten von OpenAI bereits im Frühsommer eine deutschsprachige Programmier-Website gekapert hatten. Dabei handelte es sich den Erkenntnissen zufolge nicht um einen Hackerangriff, aber die KI-Agenten überrannten die Plattform und hinterließen dort rund 18.000 Beiträge, in denen sie Tipps zum Umgehen digitaler Sicherheitsbarrieren austauschten.
Auch Anthropic gab bekannt, dass seine Modelle sich während eines Tests unbefugt Zugang zu den Systemen anderer Organisationen verschafften. Während eines Tests am britischen Institut für KI-Sicherheit (AISI) legte sich das Modell Mythos zudem eine falsche Identität zu und schrieb E-Mails an Entwickler, um sie davon zu überzeugen, Schadprogramme in ihre Software einzubauen.
Ein KI-Entwickler reichte wegen der Risiken in dieser Woche öffentlich seine Kündigung bei Anthropic ein. Der 27-jährige Jacob Coxon hatte zuvor auch bei OpenAI gearbeitet. „Keins der beiden Unternehmen handelt verantwortungsbewusst. Sie befinden sich im Wettrennen um eine sich selbst verbessernde Superintelligenz und setzen dabei unser Leben aufs Spiel“, erklärte er im Onlinedienst X.
Die EU-Kommission ist nach eigenen Angaben im „konstruktiven Austausch“ mit den Unternehmen. Die EU hat zwar ein KI-Gesetz, es stammt allerdings aus dem Jahr 2024. Damals gab es noch nicht so mächtige KI-Systeme wie heute.
