Sie lesen den KI-Newsletter »Natürlich intelligent« vom 6. August 2026. Um den Newsletter jeden Donnerstag per Mail zu erhalten, melden Sie sich hier an.
Künstliche Intelligenz ist ein Krokodil. Jedenfalls in einer
Metapher, die der Internetaktivist Cory Doctorow in einem Interview mit
meiner Kollegin Meike Laaff verwendet. Investoren hüpfen darin über einen Fluss,
von einem Krokodilrücken zum nächsten. Die Krokodile sind Tech-Trends, aus
denen nichts geworden ist: Web3, das Metaverse – und eben KI.
Einen hat, um in diesem Bild zu bleiben, das KI-Krokodil
kürzlich ganz schön ins Bein gebissen: Leopold Aschenbrenner. Der Mittzwanziger
galt als Wunderkind, er verwaltete einen Hedgefonds, der in KI-Firmen investierte
und damit riesige Renditen erzielte. Davon war plötzlich nicht mehr viel übrig.
Wie es dazu kam, berichtet meine Kollegin Heike Buchter.
Das müssen Sie wissen: Verfassungsschutz warnt vor verschärfter Bedrohungslage – wegen KI
Vor wenigen Tagen meldete das KI-Unternehmen
Anthropic, einige seiner KI-Modelle hätten während eines Tests unbeabsichtigt mehrere
Unternehmen gehackt. Britische Forschende haben zudem entdeckt, dass während eines Testlaufs eine Anthropic-KI – die
anders als bei den anderen gemeldeten Fällen allerdings von vornherein Zugang
zum Internet bekam – sich sogar falsche Profile auf der Softwareplattform
GitHub zugelegt und unter diesen Fake-Identitäten Phishing-Mails an Menschen
verschickt haben soll. Nun reiht sich auch der Facebook-Konzern Meta ein, dessen KI-Modell ebenfalls ein Unternehmen gehackt haben soll.
Passend dazu warnen in dieser Woche sowohl das Bundesamt für Verfassungsschutz als auch das
Bundesamt für Sicherheit in der Informationstechnik (BSI) vor einer
verschärften Bedrohungslage im digitalen Raum, weil KI nicht nur die
Einstiegshürden senke, sondern auch Hackeroperationen im großen, automatisierten
Stil zulasse. In Deutschland hat die Bundesregierung unter anderem auch deshalb
ein Institut gegründet,
das die Fähigkeiten und Risiken von KI-Modellen analysieren soll. Wann und wo
es seine Arbeit aufnehmen wird, ist allerdings noch unklar.
Derweil fanden in den USA in dieser Woche Gespräche zwischen der US-Regierung und OpenAI, Google, Nvidia, Meta, Microsoft und Anthropic über eine freiwillige Rahmenvereinbarung zur Prüfung der Cybersicherheitsrisiken ihrer KI-Modelle statt. Die neue Regelung greift
vorerst nur für geschlossene Modelle, für offene Modelle soll sie zunächst
nicht gelten – also jene, deren Computercode öffentlich zugänglich ist. Was darüber
hinaus vereinbart wurde, ist nicht bekannt, die konkreten Details der Rahmenvereinbarung
sind geheim. Daran entzündet sich viel Kritik. Die Entscheidung der Regierung,
ihren Rahmen geheim zu halten, gefährde die
öffentliche Rechenschaftspflicht dieser Unternehmen, kritisierte unter anderem Brad Carson, Präsident der gemeinnützigen
Organisation Americans for Responsible Innovation, in der New York Times.
Die Gespräche fallen in eine Zeit, in der immer wieder
neue Hackerangriffe gemeldet werden. In dieser Woche berichtet
mein Kollege Eike Kühl beispielsweise über die Angriffe mutmaßlich iranischer
Hacker auf die Wasserversorgung in den USA. Ob künstliche Intelligenz dabei
eine Rolle gespielt hat, ist nicht bekannt. Dennoch zeigen die brisanten Vorfälle erneut, wie verwundbar unsere kritische Infrastruktur ist.
Darüber sollten Sie nachdenken: Wie spiegelt und prägt KI unsere Vorurteile?
Wir haben in diesem Newsletter bereits über
eine Studie des Oxford Internet Institute (OII) geschrieben. In der hatten
Forscherinnen und Forscher über 20 Millionen Anfragen an ChatGPT ausgewertet,
um herauszufinden, welche gesellschaftlichen Stereotype der Chatbot widerspiegelt.
Fragten Nutzer beispielsweise, welches Land »sicherer«,
»innovativer« oder »klüger« ist, dann nannte der Bot häufiger reiche westliche Länder als andere. ChatGPT, das Millionen
Menschen täglich als Informationsquelle dient, ist also keineswegs neutral, sondern
kann versteckte Vorurteile verstärken.
Moritz Matzner und Dana Hajek aus dem ZEIT-Datenteam haben
nun gemeinsam
mit einem Forscherteam der Universität Oxford und der Universität Kentucky
untersucht, welche Klischees ChatGPT über regionale Unterschiede in
Deutschland wiederkäut. Sie zeigen, wo ChatGPT die schlauesten, schönsten und
faulsten Menschen in Deutschland wähnt, und sie haben mit Forscherinnen und
Forschern darüber gesprochen, welche Ursachen und welche Folgen dieser verzerrte
Blick von Chatbots hat. Sie warnen: Menschen haben dadurch weniger
Anhaltspunkte, ihre Überzeugungen kritisch zu hinterfragen.
Ich lebe in Köln. Die Stadt schneidet in zwei Kategorien
besonders gut ab: ChatGPT hält uns für besonders korrupt (Platz 3) und findet,
wir haben einen nervigen Dialekt (Platz 2). Aber probieren Sie es doch gern
einmal selbst für Ihren Heimatort aus: Vielleicht haben Sie ja mehr Jlöck.
Das können Sie ausprobieren: Qwen3.8 Max
Chinas größter Techkonzern Alibaba hat ein neues Modell
vorgestellt: Qwen3.8
Max. Das soll, ähnlich wie zuvor schon das Modell Kimi K3 des
chinesischen KI-Start-ups Moonshot AI, an
die Leistung US-amerikanischer Modelle heranreichen und vor allem zum
Programmieren und für komplexe Rechercheaufgaben geeignet sein.
Sie können das Modell ausprobieren, Alibaba stellt es im Browser zur Verfügung. Ein ausgereiftes Chatbot-Produkt mit Bildgenerierung und Sprachausgabe gibt es aber nicht. Denn eigentlich ist Qwen3.8 Max dafür gedacht, dass es Unternehmen, Behörden, Forschungseinrichtungen für ihre Zwecke nutzen. Bislang geht das nur über die QwenCloud oder eine entsprechende Schnittstelle, bald soll man es sich auch herunterladen und entsprechend der eigenen Anforderungen anpassen können. Es ist ein sogenanntes Modell mit offenen Gewichten. Da Europa nur über wenige eigene Modelle verfügt, könnten
die offenen chinesischen Modelle für viele Unternehmen hierzulande attraktiv sein, als möglicher Ausweg aus der Abhängigkeitsmisere geschlossener US-amerikanischer Modelle.
Unter
IT-Experten ist allerdings umstritten, wie vertrauenswürdig die chinesische
Technologie ist. Ob etwa Hintertüren eingebaut wurden, lässt sich nur schwer
erkennen. Gänzlich unmöglich ist das aber nicht, die Modelle zu prüfen und die Daten zu kontrollieren. Erste Ansätze gibt es bereits, Microsoft hat etwa eine Art Scanner entwickelt, mit dem sich einige versteckte Manipulationen entdecken lassen – aber nicht alle. Womit wir am Ende wieder bei dem neuen deutschen KI-Sicherheitsinstitut
wären. Denn möglicherweise könnte es eine Aufgabe der dort Forschenden sein,
solche Modelle auf ihre Gefahren hin zu analysieren.
