Es klingt wie eine Szene aus einem Science-Fiction-Film:
Eine künstliche Intelligenz (KI) verselbstständigt sich und tut Dinge, die
niemand von ihr verlangt hat. Vergangene Woche berichtete das
ChatGPT-Unternehmen OpenAI in einem Blogpost, dass mehrere seiner Modelle in
einer Testumgebung genau das getan haben: Sie brachen aus der isolierten
Umgebung aus und führten einen Cyberangriff auf die Server des Unternehmens
Hugging Face durch – unaufgefordert. Ist das der Moment, in dem die Warnungen
der sogenannten Doomer – also der Menschen, die den Weltuntergang durch KI vermuten – wahr werden?
Neustarthost Henrik Oerding spricht mit
ZEIT-Cybersicherheitsexpertin Eva Wolfangel darüber, was in dem Test wirklich vorgefallen ist. Sie sprechen darüber, ob Nick Bostroms Gedankenexperiment vom Paperclip
Maximizer hier taugt, was das über die versprochene Zukunft der selbstständigen
KI-Agenten sagt und welche realen Gefahren sich bei dem Vorfall zeigen. Außerdem diskutieren sie, wie viel an der
Sache Marketing ist, was nun Europas Rolle sein könnte und was der Fall über OpenAI
verrät, das wohl eine Woche lang nichts von dem Ausbruch mitbekam.
Diese Folge wurde am 29. Juli 2026 aufgenommen. Danach wurde bekannt, dass die OpenAI-Modelle im gleichen Test noch vier weitere Onlinedienste attackiert hatten.
Zum Weiterlesen:
- Eva
Wolfangel (DIE ZEIT): Es ist wirklich so gefährlich, wie sie
sagen - Eva
Wolfangel (DIE ZEIT): Höchste Zeit
Im Rabbit-Hole der Woche geht es um Tilly
Norwood: Die »KI-Schauspielerin« soll bald in Filmproduktionen mitspielen. Wer
steckt dahinter, und was heißt das für die Filmindustrie?
Haben Sie Feedback oder Fragen zur
Folge? Dann schreiben Sie uns gern an neustart@zeit.de.
Im ZEIT-Podcast »Neustart« ordnen die
Hosts Henrik Oerding und Meike Laaff mit ihren Kolleginnen und Kollegen ein,
was gerade in der Digitalwelt passiert – und was dies für die Offlinewelt
bedeutet. Auch, aber nicht nur für Nerds. Jeden zweiten Donnerstag erscheint
eine neue Folge.
Dieser Podcast wird produziert von Pool Artists.
