OpenAI hat wegen Sicherheitsbedenken die Veröffentlichung eines neuen KI-Modells gestoppt. Die Software habe in Tests Nutzer nicht immer ehrlich darüber informiert, welche Aktionen sie unternommen oder nicht unternommen habe, sagte die für Sicherheitssysteme zuständige OpenAI-Managerin Saachi Jain dem Wall Street Journal. Außerdem habe das KI-Modell zum Teil auf eigene Initiative gehandelt, ohne eine Nutzererlaubnis einzuholen. Das Modell mit dem Namen GPT-6.1 Astra sollte demnach in den kommenden Tagen oder Wochen herauskommen.
OpenAI wolle sich laut Jain stattdessen darauf konzentrieren, die Sicherheit zukünftiger Modelle zu verbessern, von denen es sich noch größere Leistungsfähigkeit verspricht. Der Schritt stellt einen seltenen Fall dar, in dem ein großer KI-Entwickler eine neue Version seines Modells aufgrund von Sicherheitsbedenken zurückzieht. Die Ankündigung erfolgt einen Tag vor der jährlichen Entwicklerkonferenz von OpenAI in San Francisco.
OpenAI stoppt KI-Training
Eigenmächtige Aktionen fortgeschrittener künstlicher Intelligenz (KI) von OpenAI hatten in den vergangenen Wochen wiederholt für Aufsehen gesorgt. Erst am Wochenende wurde bekannt, dass die Firma nach einem neuen Zwischenfall das Training ihrer leistungsstärksten KI-Modelle aussetzte. Bei dem Vorfall schaffte es ein KI-Modell in einem Test, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich keinen Internetzugang haben sollte.
Die Software habe jedoch eine Lücke in den Netzwerkeinstellungen gefunden und ausgenutzt, wie OpenAI in einem Blogeintrag berichtete. Das Training solle nun erst wieder aufgenommen werden, wenn man sich sicher sei, dass die Lücke geschlossen ist. Bei dem betroffenen KI-Modell habe es sich nicht um GPT-6.1 Astra gehandelt.
Hack durch KI als Warnsignal
In dem bislang bekanntesten Fall brach künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und hackte sich ungeplant in Computer einer anderen KI-Firma, der Plattform Hugging Face. Wie sich danach herausstellte, drang auch KI anderer Entwickler bei Tests in Systeme anderer Unternehmen ein.
In den vergangenen Wochen haben OpenAI und Anthropic andere Unternehmen in der Branche dazu aufgerufen, die Entwicklung von hochmodernen KI-Modellen zu verlangsamen und in Sicherheitsstandards zu investieren, wobei sie ankündigten, auch das Tempo ihrer eigenen internen KI-Entwicklungen zu drosseln.
