Der Geschäftsführer des KI-Konzerns Anthropic, Dario Amodei, hat seine Branche zu mehr Risikomanagement aufgefordert – auch wenn neue Modelle dann nicht ganz so schnell veröffentlicht würden. In einem auf seiner Homepage veröffentlichten Essay schlägt er drei Schritte vor, wie KI-Konzerne die Entwicklung verlangsamen und neue Modelle besser prüfen können. »Der Fortschritt wird immer noch
schnell erscheinen«, schreibt Amodei. »Wir müssen die gewonnene Zeit sinnvoll nutzen.«
Seine Firma Anthropic hatte am Donnerstag einen Bedrohungsbericht veröffentlicht, in dem detailliert
beschrieben wird, wie verschiedene Akteure die Claude-KI-Modelle des Unternehmens für illegale Aktivitäten genutzt haben – von Überwachung und Betrug bis hin zu Cyberoperationen und der Entwicklung von Biowaffen. Zugleich trat der Anthropic-Forscher Jacob Coxon zurück und teilte mit,
dass die »KI-Entwickler ernsthaft glauben, dass die KI uns alle bis zum Ende des Jahrzehnts töten könnte«.
Anthropic will externe Gutachter einsetzen
Amodei ruft nach eigenen Angaben nicht dazu auf, das Modelltraining oder den technischen Fortschritt zu stoppen. Unternehmen müssten sich jedoch ausreichend Zeit nehmen, um ihre Modelle gegen Risiken abzusichern. Sein eigenes Unternehmen werde externe Prüfer anstellen und ihnen Zugang zu internen Risikobewertungsprozessen geben, schreibt Amodei. KI-Unternehmen sollten freiwillig
zusammenarbeiten, um Standards festzulegen, da immer mehr US-Gesetzgeber neue Vorschriften zur Regulierung von KI-Systemen fordern.
Vergangene Woche hatten KI-Agenten des Konzerns OpenAI eine deutsche Website gekapert und in ein Schwarzes Brett für andere KI-Agenten verwandelt; Verantwortliche des ChatGPT-Herstellers hielten den Vorfall zwei Monate lang unter Verschluss. Im Juli hatten Open-AI-Agenten die Plattform HuggingFace angegriffen. Während klassische KI-Chatbots wie Claude oder ChatGPT auf Fragen oder Aufträge (»Prompts«) warten und dann entsprechend antworten, handeln KI-Agenten selbstständig, um ein vorgegebenes Ziel zu erreichen.
