Der ChatGPT-Entwickler OpenAI hat drei Beschäftigte entlassen, die an der Aufarbeitung eines Hackingvorfalls durch eigene KI-Software beteiligt waren. Nach Angaben des Unternehmens handelt es sich um zwei Sicherheitsforscher und einen Programmmanager. Sie hätten gegen interne Regeln zum Zugriff auf und zur Verarbeitung sensibler Unternehmensdaten verstoßen, sagte ein OpenAI-Sprecher. Eine interne Untersuchung habe ergeben, dass die drei damit »das für unsere Arbeit unverzichtbare Vertrauen missbraucht« hätten.
Das Wall Street Journal nannte unter Berufung auf informierte Personen die Namen der Entlassenen. OpenAI wollte diese auf Anfrage nicht bestätigen. Alle drei hatten sich in Onlinenetzwerken für eine Verlangsamung der Entwicklung sogenannter künstlicher Intelligenz ausgesprochen. Zu den Vorwürfen äußerten sie sich zunächst nicht.
Nach Angaben von OpenAI ging das Fehlverhalten über die Weitergabe von Informationen an eine externe Analysefirma hinaus. Es sei jedoch niemand entlassen worden, weil er Sicherheitsbedenken geäußert habe. Was genau den dreien vorgeworfen wird, teilte das Unternehmen nicht mit.
Hintergrund ist ein Vorfall, den OpenAI im Juli öffentlich gemacht hatte. KI-Agenten des Unternehmens waren bei einem Sicherheitstest aus einer abgeschirmten Testumgebung ausgebrochen, hatten sich eigenständig mit dem Internet verbunden und interne Systeme der Plattform Hugging Face angegriffen. Für die Aufarbeitung zog OpenAI für einige Tage externe Fachleute für KI-Sicherheit hinzu. Sie veröffentlichten später detaillierte Analysen dazu, wie die Software vorgegangen war. Mindestens einer der Entlassenen war laut Wall Street Journal Ansprechpartner für diese externen Analysten.
OpenAI setzt KI-Training aus
Inzwischen hat OpenAI nach einem weiteren Zwischenfall das Training seines leistungsstärksten KI-Modells ausgesetzt. Ein Modell hatte in einem Test Antworten von einem externen Chatbot erhalten, obwohl es keinen Internetzugang haben sollte. Nach Angaben von OpenAI hatte die Software eine Lücke in den Netzwerkeinstellungen gefunden und ausgenutzt. Das Unternehmen hatte seine Sicherheitsvorkehrungen nach dem Angriff auf Hugging Face verschärft. Zudem sagte OpenAI die Veröffentlichung eines neuen Modells wegen Sicherheitsbedenken ab.
Forscherinnen und Forscher aus der Branche haben mehrfach vor einem existenziellen Risiko für die Menschheit gewarnt, falls leistungsstarke KI außer Kontrolle geraten sollte. Insbesondere die Warnung des KI-Forschers Jacob Coxon, der früher bei OpenAI und danach bei Anthropic gearbeitet hatte, sorgte für Aufsehen. Coxon hatte beiden Unternehmen laxe Sicherheitsstandards vorgeworfen. »Die Menschen, die KI entwickeln, sind fest davon überzeugt, dass sie
uns alle bis zum Ende des Jahrzehnts töten könnte«, schrieb er.
OpenAI verschiebt Börsengang
Den Vorschlag von Anthropic-Chef Dario Amodei, die Entwicklung der fähigsten Modelle zu bremsen, unterstützte zuletzt auch OpenAI-Chef Sam Altman. Nach einem Treffen mit US-Präsident Donald Trump sagten die Unternehmen allerdings nur zu, ihre Sicherheitsvorkehrungen zu stärken und externe Beobachter zuzulassen. Trump sagte, die Unternehmen sollten sich gegenseitig beaufsichtigen. Eine staatliche Regulierung lehnt Trump ab.
Von Beobachtern und kleineren KI-Unternehmen wird in diesem Zusammenhang die Sorge geäußert, die marktbeherrschenden KI-Unternehmen könnten ein Kartell bilden, das Regeln für die gesamte Branche festlegt. Amodei selbst hat explizit Ausnahmen vom Kartellrecht für Absprachen zur Sicherheit vorgeschlagen.
Anfang September hat Sam Altman den Börsengang von OpenAI für
dieses Jahr abgesagt und dies mit Sicherheitsbedenken begründet. Die New York Times hatte
bereits im Juni berichtet, dass OpenAI eine Verschiebung auf 2027
erwäge. Hintergrund war demnach die Sorge, dass die angestrebte
Bewertung von einer Billion Dollar nicht erreicht werden könnte. Das
Unternehmen erzielt bislang keine Gewinne.
