In der Welt der Künstlichen Intelligenz haben sich in den vergangenen Wochen die Ereignisse überschlagen – zum Leidwesen von Open AI und Anthropic. Erst ließ das junge chinesische Unternehmen Moonshot AI mit einem KI-Modell aufhorchen, dessen Leistungsfähigkeit sich mit den Angeboten der beiden großen US-Entwickler messen kann. Dann mussten sowohl Open AI als auch Anthropic zugeben, dass ihre KI-Systeme unbeabsichtigt Cyberangriffe verübt haben.
Das war nicht nur peinlich, es befeuerte auch die schon länger schwelende Diskussion über offene und geschlossene KI-Systeme. Eine Koalition um Schwergewichte der Technologiebranche wie Nvidia und Microsoft hat sich für die Förderung offener Modelle ausgesprochen, die bislang vor allem von chinesischen Anbietern wie Moonshot auf hohem Niveau entwickelt werden. Das war wie ein Schlag ins Gesicht für Open AI und Anthropic, deren Geschäftsmodelle in erster Linie auf geschlossenen Modellen basieren. Und es kommt zur Unzeit, denn beide Unternehmen bereiten ihren Börsengang vor.
Nachlässigkeit und Schlamperei im Spiel
Der Aufstieg chinesischer KI-Entwickler und die Hackingfälle sind nicht nur eine Herausforderung für Open AI und Anthropic. Sie haben auch eine politische Dimension und stellen die US-Regierung vor ein Dilemma. Donald Trump hat bislang versucht, KI-Technologien möglichst wenig zu regulieren, insbesondere um sein Land im geopolitischen Wettbewerb mit China auf diesem Gebiet nicht zu schwächen. Chinas KI-Erfolge gäben dem Präsidenten nun eigentlich ein Argument, diesen Kurs umso entschlossener zu verfolgen. Die Fehltritte von Open AI und Anthropic sprechen nun aber eher für eine strengere Regulierung.
Zu den Cyberangriffen kam es während interner Tests von KI-Modellen, und sowohl Open AI als auch Anthropic müssen sich Nachlässigkeit vorhalten lassen. Im Falle von Anthropic war recht simple Schlamperei im Spiel. Anders als vorgesehen wurde den getesteten Modellen der Zugang zum Internet nicht versperrt, ihr Weg zu Hackingzielen war frei. Die Modelle von Open AI waren dagegen zunächst in einer isolierten Umgebung, aus der sie aber durch Ausnutzen einer Sicherheitslücke ins Internet ausbrachen.
Vor- und Nachteile offener KI-Modelle
Dieser Fall entspricht also eher der albtraumhaften Vorstellung einer außer Kontrolle geratenen KI. Die Attacke von Open AI ist auch besonders relevant für die Diskussion um offene Modelle. Denn das Hackingopfer, die KI-Plattform Hugging Face, sah sich gezwungen, zur Verteidigung ein offenes chinesisches Modell einzusetzen. Geschlossene Systeme hielten Hugging Face selbst für den Hacker und blockierten deshalb den Versuch, den Angriff abzuwehren.
Offene KI-Modelle sind weitgehend frei für die Allgemeinheit zugänglich, sie können heruntergeladen und auch verändert werden. Dagegen unterliegen geschlossene Modelle strikter Kontrolle ihrer Entwickler. Was unter Sicherheitsaspekten besser ist, wird seit Langem hitzig debattiert. Verfechter offener Modelle sagen, der Ansatz ermögliche einem großen Kreis von Fachleuten, Schwachstellen zu finden. Die Gegenseite kontert, genau das erleichtere auch Angreifern das Handwerk.
Wirtschaftsinteressen berücksichtigen
Beide Sichtweisen sind nachvollziehbar. Umso mehr sollte man hinter den als prinzipientreu dargestellten Positionen von Unternehmen auch deren wirtschaftliche Interessen sehen. Open AI und Anthropic haben offensichtliche Anreize, geschlossene Systeme zu propagieren. Die Beweggründe der Gegenseite sind etwas komplizierter. Nvidia und Microsoft etwa unterhalten enge Bündnisse mit Open AI und Anthropic. Vermutlich hat es für sie aber größeres Gewicht, sich für ein möglichst breites KI-Ökosystem einzusetzen.
In den vergangenen Monaten hat die US-Regierung schon etwas größeren Regulierungswillen erkennen lassen. Ein Weckruf war offenbar das im April angekündigte Anthropic-Modell Mythos, das sich als geschickt darin erwies, Schwachstellen von Software zu finden – und somit nicht nur zur Abwehr von Cyberangriffen beitragen, sondern auch von Hackern missbraucht werden könnte. Die US-Regierung hat zeitweise Exportkontrollen für Mythos verhängt. Trump hat zudem ein Dekret herausgegeben, das eine stärkere staatliche Aufsicht über die KI-Branche vorsieht, wenn auch an recht langer Leine.
Die jüngsten Geschehnisse haben den Druck auf die Regierung, eine aktivere Rolle einzunehmen, deutlich erhöht. Die gegenwärtige Spaltung der Branche in verschiedene Lager zeigt, dass es keine einfachen Antworten gibt. Für Open AI und Anthropic steht dabei besonders viel auf dem Spiel. Die zwei amerikanischen KI-Aushängeschilder scheinen im Moment verwundbarer denn je.
