Würde China bremsen? Im Westen greift spätestens seit den Warnungen am Wochenende die Angst um sich, dass die Künstliche Intelligenz eine existenzbedrohende Gefahr für die Menschheit wird. Doch ob die KI-Entwickler Anthropic und Open AI in den USA deshalb tatsächlich auf die Bremse treten, hängt vor allem vom Reich der Mitte ab. Denn wenn die Entwickler dort ihre Arbeit im mindestens gleichen Tempo fortsetzen, hätte die Menschheit keine Sicherheit hinzugewonnen. Stattdessen hätte der Westen nur an Einfluss verloren.
Kommende Woche, wenn Chinas Staats- und Parteichef Xi Jinping in die USA reist, wird die Frage der KI-Sicherheit das vielleicht drängendste Thema sein. Noch im Vorfeld könnte es zu einem KI-Arbeitstreffen von Regierungsvertretern beider Länder kommen. Es wäre der erste formelle Austausch zu dem Thema, seit Donald Trump wieder US-Präsident ist.
Misstrauen gegen Amodei
Vorerst aber bleibt das Misstrauen auf beiden Seiten übergroß. „China Daily“, ein Staatsmedium, bezeichnete die Warnrufe der KI-Führungskräfte in den USA als Rufe von „Dr. Frankenstein“, die eigentlich nur dem eigenen Profitstreben dienten. Es gehe darum, den KI-Wettstreit mit China zu gewinnen, und darum, ein Kartell zu bilden. Bemerkenswerterweise ähnelte Pekings Argumentation damit der von Trump selbst. Dieser schrieb auf seiner Plattform „Truth Social“, er sei ein „Schwindel-Jäger“. „Dass KI die Welt übernimmt, die Menschheit vernichtet und all diese anderen schlimmen Dinge tut, ist ein Schwindel“, schrieb er. Stattdessen gehe es darum, das Wettrennen mit China zu gewinnen.
Dass der Vorstoß von Dario Amodei, dem Vorstandsvorsitzenden von Anthropic, in China auf so viel Ablehnung stößt, liege auch an Amodei selbst, sagt Gabriel Wagner, der in Peking zu internationaler KI-Regulierung forscht. „Amodei wird als sehr chinafeindlich empfunden. Er hat sich sehr laut für Exportkontrollen ausgesprochen, und Anthropic erhebt immer wieder den Vorwurf der Destillation. Er will, dass die USA vorn bleiben“, sagt Wagner. Der Deutsche arbeitet für das Pekinger Beratungsunternehmen Concordia AI, das auf KI-Sicherheit spezialisiert und auch an der Erstellung chinesischer KI-Standards beteiligt ist.
Manche Sorgen teilt China, andere nicht
In seinem am Wochenende veröffentlichten Essay schreibt Amodei erst über Wege, China auszubremsen, um Amerika einen KI-Vorsprung von drei bis fünf Jahren zu sichern. Im nächsten Absatz heißt es: „Die Steuerung des globalen Tempos wird eine Zusammenarbeit mit China erfordern.“ Dass seine Pläne, China auszubremsen, Pekings Kooperationsbereitschaft beeinflussen, „ist die zentrale Schwachstelle in Amodeis Argumentation“, schreibt Paul Triolo, einflussreicher US-Technologieberater und Partner des Beratungshauses DGA-Albright Stonebridge. Die Politik der Begrenzung chinesischer Fähigkeiten, die Amodei als Voraussetzung für die Kooperation ansehe, sei der Grund, warum es bisher keine Kooperation gebe. „Das Ergebnis ist ein Teufelskreis.“
Eigentlich teile China viele von Amodeis Sorgen, sagt der Pekinger KI-Forscher Wagner. Anfang dieser Woche hat die chinesische Behörde für landesweite Industriestandards ein neues „Regulierungsrahmenwerk für KI-Sicherheit“ veröffentlicht. Als wesentliche Risiken werden dort die Cybersicherheit und die Fähigkeit der KI, sich selbst zu verbessern, angeführt. „Das sind die gleichen Trends, die Amodei nennt“, sagt Wagner. „Es gibt darin große Überschneidungen zwischen den USA und China.“ Auch das Risiko des Kontrollverlusts kommt in dem Rahmenwerk prominent zur Sprache.
Anfang der Woche schrieb Chinas Geheimdienstchef Chen Yixin in einem Beitrag, dass die KI die politische, institutionelle und ideologische Sicherheit Chinas bedrohe. Was er indes nicht als Risiko beschrieb, waren eben die existenziellen Gefahren für die Menschheit, vor denen die US-Vertreter warnen.
Wettbewerb der Provinzen
Bisher reguliert China die KI dennoch eher stärker als die USA. Dabei geht es aber weniger um die grundlegenden Fähigkeiten als um einzelne Anwendungen. 2023 wurden Regeln für die Veröffentlichung von Diensten rund um generative KI eingeführt, nicht zuletzt wegen der Sorge, dass diese die Zensur umgehen könnten. In diesem Jahr folgten Richtlinien für KI-Bots, die für ihre Nutzer eine Art Lebenspartner werden, sowie für autonom handelnde KI-Agenten. KI-Inhalte in den sozialen Medien müssen kenntlich gemacht werden.
Dahinter steckt auch ein unterschiedliches KI-Verständnis in den USA und in China. In den USA dominiert das Streben nach einer Superintelligenz. „Das ist ein bestimmter Zeitpunkt. Wer als Erstes dort ankommt, gewinnt“, sagt Wagner. In China dagegen werde KI eher als Querschnittstechnologie wie die Dampfmaschine, die Elektrizität oder das Internet gesehen. „Die Frage, welches Land das erste ist, das Elektrizität hat, ist nicht so wichtig. Wichtig ist, wer sie besser einsetzt.“
Entsprechend finden sich in den neuen Fünfjahresplänen, die neben dem Zentralstaat auch Chinas Provinzen in diesem Jahr veröffentlicht haben und von 2026 bis 2030 gelten, keine Ansätze einer Drosselung der KI-Entwicklung. Stattdessen hat sich mehr als ein Dutzend Provinzen das Ziel gesetzt, zu führenden KI-Standorten zu werden, heißt es in einer Analyse der regionalen Fünfjahrespläne des Beratungshauses Limen China. Das heizt den innerchinesischen Wettbewerb ähnlich an wie der Wettstreit zwischen Unternehmen wie Deepseek und Moonshot AI, dem Unternehmen hinter der Kimi-Modellreihe. Beide streben Berichten zufolge in den kommenden Monaten an die Börse. Gut möglich, dass sie zumindest damit der US-Konkurrenz zuvorkommen.
