Anthropic zählt zu den wachstumsstärksten Entwicklern Künstlicher Intelligenz und bereitet gerade seinen Börsengang vor. Dies hält das amerikanische Unternehmen aber nicht davon ab, vor den Risiken seiner eigenen Produkte zu warnen. Jetzt hat es ein koordiniertes branchenweites Moratorium für die Entwicklung von KI-Technologien vorgeschlagen. „Wir glauben, es wäre gut für die Welt, die Option zu haben, die Entwicklung fortgeschrittener KI zu verlangsamen oder vorübergehend zu stoppen“, heißt es in einem Blog-Eintrag. Dies solle es „gesellschaftlichen Strukturen“ ermöglichen, mit den Technologien Schritt zu halten.
Seine Forderung begründet Anthropic damit, dass KI-Systeme zunehmend an ihrer eigenen Entwicklung beteiligt seien. So werde Anthropics eigene Softwareprogrammierung heute zu mehr als 80 Prozent vom KI-System Claude übernommen. Anfang vergangenen Jahres sei das noch ein niedriger einstelliger Prozentsatz gewesen. Der Trend gehe nun in die Richtung, dass KI-Modelle eines Tages dazu in der Lage sein könnten, „ihre eigenen Nachfolger“ selbständig zu entwickeln. Das sei zwar keine Zwangsläufigkeit, könnte aber früher der Fall sein, als die Welt sich darauf vorbereiten könne. KI, die sich selbst entwickelt, könne zwar enormen Nutzen auf Gebieten wie Wissenschaft und Gesundheit stiften. Aber sie könne auch das Risiko erhöhen, „dass Menschen die Kontrolle über KI-Systeme verlieren“.
Damit ein etwaiges Moratorium auch funktioniert, müssten nach Aussage von Anthropic KI-Unternehmen über verschiedene Länder hinweg zustimmen, ihre Arbeit unter den gleichen Bedingungen einzustellen. Es wäre auch notwendig, dass jedes Unternehmen dies bei seinen Wettbewerbern nachprüfen kann. Dies sei eine große Herausforderung, allerdings auch nicht unmöglich. Wenn nur ein einziges Unternehmen sich zu einem Moratorium verpflichte, würde damit keine Lösung auf breiter Front erzielt, sondern es würde sich allenfalls die Führungsposition in der Branche ändern.
Anthropic schrieb in dem Beitrag weiter, in den kommenden Monaten Gespräche mit Politikern, Forschern, anderen KI-Unternehmen und auch mit der breiten Öffentlichkeit über dieses Thema organisieren zu wollen: „Menschen außerhalb von KI-Unternehmen sollten in diese Überlegungen eingebunden sein.“
Forderungen nach einem KI-Moratorium gab es in der Vergangenheit schon öfter. Im Jahr 2023, wenige Monate nach der Einführung des KI-Programms ChatGPT von Open AI, schlugen mehr als 1000 Vertreter aus Forschung und Wirtschaft in einem offenen Brief vor, die Arbeit an besonders leistungsfähigen KI-Systemen sofort für sechs Monate einzustellen. Den Brief hat damals auch Elon Musk unterschrieben, der Vorstandschef des Autoherstellers Tesla und des Raumfahrtspezialisten SpaceX. Der Appell verhallte aber ungehört. Musk hat 2023 selbst das mit Open AI und Anthropic konkurrierende KI-Unternehmen X.AI gegründet, das mittlerweile zu SpaceX gehört.
