Eine Künstliche Intelligenz von OpenAI hat dem Unternehmen zufolge von Nutzern hochgeladene Bilder auf Online-Plattformen platziert. Es ist der erste bekanntgewordene Vorfall, bei dem Daten von OpenAI-Nutzern betroffen waren. Nach Angaben des ChatGPT-Entwicklers habe es 53 solcher Fälle gegeben.
Details zu dem Vorfall nannte OpenAI nicht. Es ist weder bekannt, wann die Fotos gepostet wurden, noch, ob es sich um 53 Bilder handelte oder pro Vorgang mehrere Bilder hochgeladen worden sein könnten.
OpenAI verwies darauf, dass die hochgeladenen Bilder von Nutzern stammten, die der Verwendung ihrer Daten zur Verbesserung der KI-Modelle zugestimmt hätten. Dabei würden personenbezogene Daten und die Verknüpfung zu konkreten Accounts entfernt und könnten auch nicht wiederhergestellt werden.
Unterdessen deutet sich an, dass noch viele weitere Enthüllungen um eigenständige Hacking-Aktivitäten der KI von OpenAI folgen könnten. Man habe »Dutzende« Organisationen informiert, mit deren Webseiten Software von OpenAI auf ungeplante Weise »interagiert« habe, teilte die KI-Firma mit. »Einige der betroffenen Webseiten werden von Regierungen, Universitäten, Behörden und anderen Institutionen betrieben«, hieß es. Man überlasse es ihnen, die Vorfälle öffentlich zu machen.
Australien meldet Hack
Zuletzt hatte die Regierung Australiens den Hack einer autonome KI von OpenAI bekanntgegeben. Der KI-Agent habe auf öffentliche und nicht öffentliche Dateien der für Gesundheit zuständigen Statistikbehörde zugegriffen, sagte Australiens Premierminister Anthony Albanese am Donnerstag. Die australische Regierung kritisierte den ChatGPT-Entwickler und nannte den Vorfall »offensichtlich inakzeptabel«.
In dem bisher aufsehenerregendsten Fall einer KI-Cyberattacke war eine künstliche Intelligenz des ChatGPT-Entwicklers OpenAI bei einem Test aus einer abgesicherten Umgebung ausgebrochen und ungeplant in Computer einer anderen KI-Firma, der Plattform Hugging Face, eingedrungen. Das hatte den Rivalen Anthropic veranlasst, Testläufe seines eigenen KI-Modells Claude zu überprüfen, wobei weitere Vorfälle ans Licht kamen. Auch der Facebook-Konzern Meta und Google räumten danach ein, dass ihre KI sich Zugang zu Computern anderer Unternehmen verschafft hatte.
Die Fälle zeigen auf, wie zunehmend schwierig es für Entwickler wird, fortschrittliche künstliche Intelligenz unter Kontrolle zu halten. Der OpenAI-Europachef Emmanuel Marill sagte gegenüber der Welt am Sonntag, dass OpenAI die Geschwindigkeit der technischen Entwicklung unterschätzt habe. Besonders die zunehmende Beteiligung von KI-Systemen an der Entwicklung neuer Modelle könne dazu führen, dass Menschen Vorgänge nicht mehr nachvollziehen könnten. Nötig seien deshalb klare Kriterien dafür, wann automatisierte Forschungsschritte sofort von Menschen überprüft werden müssten. »Der Mensch muss immer in dieser Kontrollschleife bleiben«, sagte Marill.
