KI-Konferenz All In in Montreal: Sicherheit im Fokus

Zu Beginn der Konferenz wollte Karsten Wildberger den richtigen Ton setzen. Wir sollten uns nicht in Weltuntergangsszenarien verlieren, sagte der Digitalminister auf der Bühne der All In, einer KI-Konferenz in Kanada. Die wichtige Nachricht sei doch: „Wir können das Kommando haben, in Kontrolle bleiben und etwas dagegen unternehmen.“

Die Messe in Montreal, zu der mehr als 10.000 Teilnehmer kamen, fand in den vergangenen Tagen zum vierten Mal statt. Aber noch nie sei es so viel um Sicherheit und Souveränität gegangen wie dieses Mal, resümierte der Veranstalter am Ende. Aber es wurde auch schon lange nicht mehr so intensiv über die Gefahren von Künstlicher Intelligenz diskutiert wie in den vergangenen Wochen. Es ist gewissermaßen in Mode, in den großen KI-Konzernen vor der eigenen Potenz zu warnen. Manche vermuten dahinter Marketing, andere den Versuch, eine Regulierung zu erwirken, die ihre Vormachtstellung festigt. Beunruhigend finden es die allermeisten trotzdem.

Am Mittwoch machte OpenAI öffentlich, dass sich seine Modelle in Tests „unerwartet oder besorgniserregend“ verhalten hätten. Vor einigen Wochen bereits war die KI von OpenAI aus ihrer Testumgebung ausgebrochen und hatte sich Zugang zu den Systemen eines anderen Unternehmens verschafft. Und dann ging kürzlich ein Beitrag von Jacob Coxon auf der Plattform X viral, in dem der ehemalige Mitarbeiter von OpenAI und Anthropic warnte, die Unternehmen rasten auf selbstverbessernde Superintelligenz zu und spielten „mit unserem Leben“. Ein führender Mitarbeiter von Anthropic stimmte zu und sagte, die Wahrscheinlichkeit, dass KI alle Menschen innerhalb der nächsten Dekade töten könnte, sei größer als zehn Prozent.

Auf der Konferenz versuchten manche, die Sache mit Humor zu nehmen. „Was hast du in den letzten zehn Jahren geplant, bevor die KI uns auslöscht?“, wurde Brad Quandt gefragt, der sich im Cybersecurity-Unternehmen 7AI mit KI-Agenten beschäftigt. „Wahrscheinlich reisen“, sagte er zur allgemeinen Erheiterung. Doch außerhalb der Messehalle war vielen nicht nach Witzen zumute. Durch die Innenstadt Montreals zogen Demonstranten. Auf ihren Plakaten warnten sie vor der Auslöschung der Menschheit oder schrieben schlicht: „Fuck AI.“ Am Abend vor der Konferenz wurde das KI-Institut Mila des renommierten Forschers Yoshua Bengio Opfer von Vandalismus. Es wurden Scheiben eingeschlagen und eine Wand mit Graffiti besprüht: „Verbrennt die Rechenzentren.“

Während es in den vergangenen Jahren auf der All In vor allem darum ging, wie KI in Unternehmen endlich besser adaptiert werden kann, waren die Prioritäten dieses Jahr andere. Jetzt geht es darum, gegen die USA und China zu bestehen, die mit ihren besonders leistungsstarken KI-Modellen ein mächtiges Werkzeug erschaffen haben, das Europäern und Kanadiern fehlt. Und darum, gleichzeitig die Gefahren von KI einzuhegen.

In seiner Eröffnungsrede führte der kanadische Digitalminister Evan Solomon diverse neue Gesetze und Initiativen seiner Regierung an, zum Schutze von Kindern im KI-Zeitalter, von Daten und Privatsphäre. Die Technologie diene den Menschen, nicht umgekehrt. Auch Karsten Wildberger sagte: Es gehe darum, ob Menschen die Kontrolle behalten. „Wir müssen imstande sein, diese Systeme zu steuern, zu korrigieren und wenn nötig zu stoppen.“ Man habe ein Interesse daran, KI sicher zu machen und die Entwicklung zu verlangsamen.

Deutschland war in diesem Jahr das Partnerland der Konferenz. In der Messehalle gab es einen großen, deutschen Pavillon mit Unternehmen und Organisationen wie DeepL und Schwarz Digits, hinter dem Lidl-Gründer Dieter Schwarz steckt. Auch der KI-Forschungs-Hub des Helmholtz-Instituts und das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) waren vertreten. Schon länger wollen die Bundesrepublik und Kanada im Bereich KI enger zusammenarbeiten. Dass die Messe ausgerechnet in die Woche fiel, in der Kanadas Premierminister Mark Carney das EU-Parlament in Straßburg besuchte und EU-Kommissionspräsidentin Ursula von der Leyen dem Land eine „assoziierte Mitgliedschaft“ in der EU vorschlug, konnte wohl niemand vorhersehen. Auf der Messe wussten Politiker und Unternehmen das Momentum für sich zu nutzen.

Am ersten Tag der Veranstaltung gaben Cohere und Aleph Alpha bekannt, dass der Vertrag über den Zusammenschluss ihrer Firmen unterzeichnet ist, nachdem die Ankündigung bereits im April erfolgt war. Nun steht nur noch die behördliche Genehmigung aus. Das kanadische Unternehmen, das sich auf Sprachmodelle für die Anwendung in Unternehmen konzentriert, will sich mit Aleph Alpha stärker im deutschen und europäischen Markt etablieren und künftig weiter unter dem Namen Cohere firmieren. Für den Deal hatten sich die Regierungen Kanadas und Deutschlands eingesetzt.

Außerdem verkündeten Wildberger und sein kanadischer Amtskollege, gemeinsam bis zu 300 Millionen kanadische Dollar (rund 187 Millionen Euro) in das KI-Projekt Law Zero von Forscher Bengio zu stecken. Zugleich soll es einen neuen Standort in Berlin geben. Auch hierbei steht der Sicherheitsgedanke im Zentrum: Law Zero will eine KI entwickeln, mit der Zwischenfälle wie jüngst bei OpenAI technisch nicht möglich sind. DFKI-Chef Antonio Krüger begrüßt das Vorhaben. Es sei wichtig, voneinander zu lernen. „Da waren die Deutschen in der Vergangenheit oft etwas arrogant“, sagte er der F.A.Z.

Von Kanada lernen können die Deutschen auch in puncto Mentalität, meint Flora Geske. Sie ist Gründerin von Summ AI, das mithilfe von KI komplizierte Texte von Behörden in einfache Sprache übersetzt. „In Deutschland sprechen wir so viel über Probleme, gerade wenn es um die Digitalisierung der Verwaltung geht.“ Und auch wenn die Kanadier vor ähnlichen Herausforderungen stehen, schafften sie es, zu vermitteln: „Regulatorik ist cool und wichtig.“ Der Aktionismus der Kanadier färbe ab. „Als Minister Solomon gesprochen hat, dachte ich: Okay, anschnallen!“

Doch bei allen Bekenntnissen zu Souveränität und Sicherheit blieb eine entscheidende Frage offen: Was bedeutet es, wenn China und die USA nicht bereit sind, ihre KI-Firmen stärker zu regulieren? Werden die Europäer und Kanadier dann erst recht abgehängt? Ein deutscher KI-Professor berichtete in Montreal, bei einer ähnlichen Konferenz vor Kurzem in Las Vegas habe er, anders als auf der All In, kaum einen Politiker gesehen. Eindeutig seien es dort die Unternehmen, die den Ton angeben. Zwar geben sich Anthropic und OpenAI reflektiert und plädieren selbst dafür, das Entwicklungstempo zu drosseln. Gleichzeitig postete Donald Trump in seinem sozialen Netzwerk Truth Social, die einzige Kontrolle, die eine KI brauche, sei ein „starker und schlauer“ Präsident, wie die USA ihn habe.

Auf den großen und kleinen Bühnen der All In wurde das Thema rege diskutiert. „Können nationale Sicherheit und technologische Offenheit zusammengehen?“, wurde Cybersecurity-Experte Brad Quandt gefragt. „Mit Bürokratie können wir alles lösen!“, antwortete er und erntete ein paar Lacher. Später wurde er noch mal ernst. „Es stellen sich viele ethische Fragen. Wir müssen sehr vorsichtig sein und gleichzeitig mithalten, das ist sehr schwierig.“ Noch ist nicht klar, welche Rolle Unternehmen und Regierung jeweils spielen. Oder wie Quandt es ausdrückt: „Wer wird am Ende der Erwachsene im Raum sein?“