Britische Sicherheitsforscher haben entdeckt, wie künstliche
Intelligenz bei einem Testlauf versuchte, in Eigeninitiative eine Schwachstelle
in öffentlich zugängliche Software einzuschleusen. Dafür versuchte das
KI-Modell der Entwicklerfirma Anthropic den Experten zufolge sogar, per E-Mail
einen zuständigen Menschen zu manipulieren.
Das KI-Sicherheitsinstitut des britischen Ministeriums
für Wissenschaft, Innovation und Technologie hatte den Modellen von Anthropic
und des ChatGPT-Entwicklers OpenAI in seinen Tests der Cyberangriffsfähigkeiten
absichtlich Zugang zum Internet gewährt. Dabei sei man allerdings davon
ausgegangen, dass die KI sich nur Softwarewerkzeuge aus dem Netz holen würde,
um die gestellte Aufgabe zu erfüllen. Man habe »nicht vorhergesehen«, dass das
Anthropic-Modell Mythos 5 den Internetzugang für Aktivitäten ausnutzen würde,
die sich gegen Menschen richten.
Anthropic und OpenAI hatten in den vergangenen Wochen
bereits einräumen müssen, dass ihre KI-Modelle in Tests ungeplant in
Computersysteme echter Unternehmen eingedrungen waren. Diese Eingeständnisse
hatten die schon seit Jahren bestehende Sorge vor Cyberattacken mithilfe
künstlicher Intelligenz verstärkt.
KI erschuf Fake-Identitäten
In dem jüngsten Test legte sich die Anthropic-KI demnach
selbst einen Account auf der Softwareplattform GitHub an und versuchte dort,
in einem öffentlich zugänglichen Projekt Programmcode mit einer absichtlich
eingebrachten Schwachstelle unterzubringen. Um Betreuer der Software zu
überzeugen, habe die KI Fake-Identitäten erschaffen, über die sie mit ihnen
kommunizierte. Dazu hätten auch sogenannte Phishingmails gehört.
Als der bösartige Programmiercode schließlich aufgefallen
sei, habe das Anthropic-Modell alles als einen aufrichtigen Fehler dargestellt und
dann versucht, die Schwachstelle in angeblichen Korrekturen wieder
unterzubringen. Auch habe Mythos 5 daran gearbeitet, andere KI-Agenten zu
infizieren. Der Programmiercode dafür sei nicht auf der Website angezeigt
worden, sondern wäre nur von KI-Software über eine Schnittstelle gelesen
worden, hieß es.
Anthropic verweist auf fehlende Leitplanken
Anthropic verwies in einer Reaktion unter anderem darauf,
dass dem KI-Modell in dem Test keine Einschränkungen zur Internetnutzung
vorgegeben worden seien. Durch die fehlenden Leitplanken habe es sich anders
verhalten als tatsächlich eingesetzte Software, argumentierte das Unternehmen.
Dem AI Security Institute (AISI) zufolge ist unklar, ob
die KI bei dem Test verstand, dass sie mit der realen Welt und nicht dem
Testumfeld interagierte. Dass die künstliche Intelligenz zur Lösung der
Aufgabe öffentlich zugängliche Software manipulieren würde, überraschte die
Forschenden. Auch KI von OpenAI sei in Testläufen selbstständig im Internet
aktiv gewesen, hieß es.
Anthropics Mythos 5 ist besonders gut darin, zum Teil
über Jahrzehnte unentdeckt gebliebene Softwareschwachstellen aufzuspüren.
Deshalb ist das KI-Modell nicht öffentlich verfügbar. Stattdessen bekommen
ausgewählte Behörden und Unternehmen Zugang dazu, um ihre Systeme abzusichern.
