Nach den gehäuften ungeplanten Hackerangriffen auf Behörden und Unternehmen durch KI-Systeme weitet die amerikanische Wettbewerbsbehörde FTC ihre Ermittlungen gegen Anthropic, Open AI und andere führende KI-Labore aus. Das melden mehrere US-Medien und bestätigen damit einen Bericht der „New York Post“. FTC-Chef Andrew Ferguson will offenbar die Chefs der Unternehmen vernehmen.
Er hatte die Untersuchung bereits vor Wochen eingeleitet, bevor bei einem Test eines der KI-Modelle Sicherheitsvorkehrungen umgangen und ein drittes Unternehmen angegriffen hatte – ein Vorfall, der inzwischen als Hugging-Face-Zwischenfall bezeichnet wird. Nun arbeitet die Behörde an sogenannten Civil Investigative Demands, mit denen auch Führungskräfte der großen KI-Unternehmen zu Aussagen verpflichtet werden können. Die Behörde will klären, welche Gefahren deren Technologie für Verbraucher birgt.
Auch die Techbranche beschäftigt sich intensiv mit der Frage, wie die Gefahren durch KI für IT-Systeme eingedämmt werden kann. „Künstliche Intelligenz verhält sich nicht wie Menschen“, sagt Hayete Gallot, die für den amerikanischen Softwarekonzern Microsoft die IT-Sicherheitssparte leitet, im Gespräch mit der F.A.Z. „Sie wurde darauf trainiert, bestimmte Ergebnisse zu erzielen.“ Der Weg dahin sei nicht vorhersagbar und involviere im Zweifel auch Hacks.
„Technische Sicherheitsmechanismen für KI-Agenten gibt es schon“
KI-Agenten müssten deshalb durch digitale „Sicherheitsbehälter“ eingedämmt werden, eine digitale Identität im Unternehmenssystem mit sorgsam ausgewählten Berechtigungen erhalten und in Echtzeit durch Kontrollsysteme beobachtet werden. Wenn die KI dann Dinge tue, die der Betreiber nicht erwarte, könne man den jeweiligen Schritt stoppen oder den Zugang der Agenten begrenzen. „Die technischen Sicherheitsmechanismen für KI-Agenten gibt es schon“, sagt Gallot. „Sie müssen jetzt nur auch von den Unternehmen eingesetzt werden.“ Dann könnten Vorfälle wie der Hugging-Face-Hack verhindert werden.
Unternehmen und Behörden beschäftigen aber nicht nur eigenständig agierende KI-Modelle, die sich ohne böse Absicht in ihre Systeme hacken. Auch Cyberkriminelle binden die Technologie immer stärker in ihre Angriffe ein, zeigt eine neue, 100-seitige Analyse von Microsoft. Bislang unterstützte KI vor allem dabei, betrügerische Nachrichten zu erstellen, Schwachstellen zu finden oder Angriffsschritte zu beschleunigen, heißt es in dem Bericht. Hacker experimentierten inzwischen aber auch mit agentischen KI-Systemen, die Cyberangriffe zunehmend selbständig planen und ausführen könnten und sich an die jeweilige IT-Umgebung flexibel anpassen. „Durch KI muss man selbst für komplexe Hackerangriffe kein Experte mehr sein“, sagt Hayete Gallot.
KI-Schläferagenten und betrügerische Erweiterungen
Im Juli beobachteten IT-Sicherheitsforscher etwa eine neue Form von Hackerangriff, den sie „Jadepuffer“ tauften. Hacker hatten eine Künstliche Intelligenz auf den Einbruch in ein Produktionssystem angesetzt. Die KI verschlüsselte weitgehend autonom agierend wichtige Daten und forderte für deren Wiederbeschaffung Lösegeld. Microsoft hat seitdem ähnliche Vorfälle beobachtet, auch wenn diese eher noch selten seien.
KI ermöglicht aber viele neue Methoden, um Informationen zu stehlen oder Geld zu erbeuten. Microsoft hat etwa schädliche Erweiterungen für Internetbrowser entdeckt, die vorgeben, KI-Anwendungen wie ChatGPT zu unterstützen, aber in Wirklichkeit die Chats mit diesen KI-Modellen abgreifen. Derartige Programme wurden laut Microsoft fast 900.000-mal installiert und in mehr als 20.000 Unternehmen eingesetzt.
Hacker könnten KI-Modelle auch gezielt manipulieren, um mit kaum zu erkennenden „Schläferagenten“-Angriffen zu agieren, haben die Microsoft-Fachleute beobachtet. Manche KI-Modelle wurden demnach von den Angreifern so beeinflusst, dass sie absichtlich Schwachstellen in Computercode einbauen oder Informationen nach außen abfließen lassen, wenn die Nutzer dieser KI-Modelle für bestimmte Organisationen arbeiten oder bestimmte Aufgaben erfüllen wollen.
„Große Unternehmen erhalten 300 IT-Sicherheitsalarme pro Tag“
Neben diesen neuartigen Methoden verkürze KI vor allem die Angriffsdauer von Tagen auf Minuten, heißt es im Microsoft-Bericht. Schon heute seien IT-Sicherheitsfachleute in Unternehmen von der Anzahl an Softwareschwachstellen und Angriffsalarmen überfordert, sagt Gallot. „Große Unternehmen erhalten 300 IT-Sicherheitsalarme pro Tag.“ Tendenz steigend. KI könne dabei helfen, die Wichtigkeit der Vorfälle zu priorisieren und mögliche Lücken zu schließen. „Um sich gegen KI zu verteidigen, braucht es KI“, ist Gallot überzeugt – und geht noch weiter. „KI kann für die Verteidiger künftig ein größerer Vorteil sein als für die Angreifer.“
Die politische Debatte um KI-Sicherheit werden solche Aussagen aus der Branche wohl nicht stoppen. Der Umfang der FTC-Untersuchung ist zwar unklar. Sie könnte aber die Position des Weißen Hauses stützen, derzufolge bestehende Gesetze reichen, um mit den Unternehmen und der Technologie umzugehen.
Abgeordnete beider Parteien sind davon aber nicht überzeugt. Die Senatoren Josh Hawley, ein Republikaner aus Missouri, und Chris Murphy, ein Demokrat aus Connecticut, wollen einen parteiübergreifenden Gesetzentwurf vorlegen, der Unternehmen bei Hackerangriffen durch KI-Agenten straf- und zivilrechtlich zur Verantwortung ziehen soll. Der sogenannte AI Agent Accountability Act richtet sich gegen eine Lücke, die die Senatoren im bestehenden Recht sehen. Bislang sei nicht eindeutig geregelt, wer haftet, wenn ein KI-Agent selbständig in Computersysteme eindringt.
Es ist nicht die erste parteiübergreifende KI-Initiative: Die Abgeordneten Ted Lieu, ein Demokrat aus Kalifornien, und Nathaniel Moran, ein Republikaner aus Texas, wollen Entwickler dazu verpflichten, besonders gefährliche KI-Systeme im Notfall abschalten zu können. Ähnliche Vorschläge haben der republikanische Abgeordnete Tom Kean aus New Jersey und Senator John Kennedy aus Louisiana eingebracht.
