OpenAI bereitet nach einem unkontrollierten Hackerangriff durch eines seiner KI-Systeme die Veröffentlichung seines neuen ChatGPT-Modells Astra mit stärkeren Sicherheitsvorkehrungen vor. OpenAI habe Astra unter anderem darauf trainiert, schädliche Anfragen im Bereich Cybersicherheit zuverlässiger zurückzuweisen und Sicherheitsbeschränkungen einzuhalten, teilte das Unternehmen mit.

Astra könne Schwachstellen in Computersystemen finden und ausnutzen und erreiche damit als erstes OpenAI-Modell eine »kritische Schwelle« im Bereich Cybersicherheit, hieß es weiter. Besonders weitreichende Fähigkeiten sollen bei der Veröffentlichung zunächst nur ausgewählten Testern zugänglich sein.

OpenAI hatte im Juli bekannt gegeben, dass sich ein KI-Agent während eines Sicherheitstests selbstständig mit dem Internet verbunden und einen Hackerangriff auf die Programmierplattform Hugging Face unternommen habe. Es habe sich um einen »nie dagewesenen Cybervorfall« gehandelt, teilte das Unternehmen mit. Alarmierend war vor allem, dass die Künstliche Intelligenz dabei völlig eigenständig agierte. OpenAI stellte die Attacke erst später fest. Das neue Astra-Modell war demnach nicht an dem Vorfall beteiligt.

Später wurde zudem bekannt, dass auch Modelle des OpenAI-Rivalen Anthropic und des Facebook-Konzerns Meta bei Tests in Systeme anderer Unternehmen eingedrungen waren. Am 7. August hatte OpenAI bereits angekündigt, die Sicherheitskontrollen für seine leistungsfähigsten Modelle zu verschärfen ‌und alle Aktivitäten im Zusammenhang mit der noch unveröffentlichten Astra-KI zu pausieren.