Die Zusammenarbeit zwischen der Technologiebranche und der amerikanischen Regierung auf dem Gebiet der Künstlichen Intelligenz ist in jüngster Zeit zu einem heiklen Thema geworden. Der KI-Spezialist Anthropic liefert sich gerade einen öffentlichkeitswirksamen Streit mit dem Verteidigungsministerium. Wettbewerber von Anthropic haben derweil versucht, ihre Geschäftsbeziehungen mit der Regierung auszuweiten.
Das jüngste Beispiel ist Google. Der Internetkonzern hat jetzt ein Abkommen geschlossen, das dem Pentagon erlaubt, seine KI-Modelle für geheimhaltungsbedürftige Zwecke einzusetzen. Ähnliche Vereinbarungen gab es in den vergangenen Wochen auch schon mit den Wettbewerbern Open AI und X.AI, einer Sparte von Elon Musks Raumfahrtunternehmen SpaceX. Diese Unternehmen stoßen inmitten des Streits zwischen Anthropic und der Regierung in eine mögliche Lücke vor. Bis vor Kurzem war Anthropic noch das einzige KI-Unternehmen, das auf Geheimhaltungsebene mit dem Pentagon zusammenarbeitete. Google und andere Unternehmen hatten zwar auch bislang schon Aufträge des Ministeriums, allerdings nicht für geheimhaltungsbedürftige Aufgaben.
„Zutiefst besorgt“
Im Falle von Google ist die Vereinbarung mit der Regierung besonders bemerkenswert, denn sie kam trotz heftigen Widerstands in der Belegschaft zustande. Erst zu Beginn dieser Woche schrieben mehrere Hundert Google-Mitarbeiter einen Brief an den Vorstandsvorsitzenden Sundar Pichai und bedrängten ihn darin, die KI-Systeme des Unternehmens nicht für geheimhaltungsbedürftige Aufgaben freizugeben.
In dem Brief hieß es: „Wir sind Google-Beschäftigte, die zutiefst besorgt über die laufenden Verhandlungen zwischen Google und dem US-Verteidigungsministerium sind. Als Menschen, die an KI arbeiten, wissen wir, dass diese Systeme Macht zentralisieren können und Fehler machen.“
Nachdem die Vereinbarung mit dem Pentagon bekannt geworden war, schrieb Andreas Kirsch, ein Mitarbeiter in Googles KI-Labor Deepmind, auf der Plattform X, er sei „sprachlos“ und schäme sich, für das Unternehmen zu arbeiten. Das Abkommen lasse Google „kurzsichtig und gierig“ erscheinen.
Die Bedenken von Google-Mitarbeitern und auch der Streit mit Anthropic drehen sich um die Frage, wofür die Regierung KI-Modelle einsetzen darf. Anthropic hat in seinen Gesprächen mit dem Pentagon auf zwei Einschränkungen bestanden. Demnach dürfe sein KI-Modell Claude nicht zur Massenüberwachung von Amerikanern oder zur Entwicklung vollständig autonomer Waffensysteme genutzt werden.
Reizthema Regierungsgeschäfte
Die Regierung bestand aber auf eine Freigabe für „alle rechtmäßigen Zwecke“. Nachdem die beiden Seiten sich nicht einigen konnten, setzte Verteidigungsminister Pete Hegseth das Unternehmen auf eine schwarze Liste und erklärte es zum Risiko für die nationale Sicherheit. Dies ist eine Sanktion, die sonst eher Unternehmen mit Verbindungen zu Ländern wie China oder Russland trifft. Anthropic hat die Regierung daraufhin verklagt.
Während der Streit mit Anthropic eskalierte, schloss der Wettbewerber Open AI ein Bündnis mit dem Pentagon. Dabei ist nicht ganz klar, inwiefern er sich auf Kompromisse eingelassen hat. Vorstandschef Sam Altman hat gesagt, auch das Abkommen von Open AI enthalte Einschränkungen mit Blick auf inländische Massenüberwachung und autonome Waffensysteme. Allerdings heißt es in dem Vertrag auch, das Pentagon dürfe die Technologien von Open AI „für alle rechtmäßigen Zwecke“ nutzen. Dies ist nach einem Bericht der „New York Times“ nun auch im Abkommen mit Google der Fall. Google-Mitarbeiter Kirsch schrieb auf der Plattform X, sein Unternehmen habe sogar einen „noch schwächeren Vertrag“ als Open AI geschlossen.
Geschäfte mit dem Pentagon waren bei Google auch schon in der Vergangenheit ein Reizthema. 2018 protestierten Mitarbeiter gegen eine KI-Kooperation des Unternehmens mit dem Ministerium, die „Project Maven“ genannt wurde. Google entschied daraufhin, den Vertrag nicht zu erneuern. In jüngster Zeit bemüht sich der Konzern aber wieder verstärkt um Aufträge der Regierung.
Unterdessen scheint sich der Streit zwischen Anthropic und der Regierung etwas zu entschärfen. Vorstandschef Dario Amodei war in der vergangenen Woche zu Gesprächen im Weißen Haus, an denen unter anderen Finanzminister Scott Bessent und Stabschefin Susie Wiles teilgenommen haben.
Es ging dabei wohl insbesondere um das kürzlich vorgestellte Anthropic-Modell Mythos und damit verbundene Sicherheitsrisiken. Dieses KI-System ist offenbar sehr gut darin, Sicherheitslücken in Software zu finden und auszunutzen, was es sehr wertvoll für Hacker machen könnte. Anthropic will es daher erst einmal nicht für die breite Öffentlichkeit verfügbar machen, sondern nur für einen kleinen Kreis von Technologieunternehmen.
Das Treffen mit Amodei wurde in einer Mitteilung aus dem Weißen Haus als „produktiv und konstruktiv“ beschrieben. Wenig später sagte Präsident Donald Trump in einem Interview mit dem Fernsehsender CNBC, er halte eine Einigung zwischen Anthropic und der Regierung für möglich. Die Onlinepublikation Axios schrieb am Mittwoch, im Weißen Haus werde nach Wegen gesucht, die Klassifizierung von Anthropic als Sicherheitsrisiko zu umgehen und damit Behörden die Arbeit mit den KI-Modellen des Unternehmens zu ermöglichen.
