In der Debatte um die Gefahren von künstlicher Intelligenz hat sich ein Mitgründer von Anthropic für einen Abschaltungsmechanismus ausgesprochen. Eine »Kill-Switch«, die von einer unabhängigen Stelle überprüft werden kann, müsste für Unternehmen verbindlich vorgeschrieben werden, sagte Jack Clark gegenüber der BBC.
Laut Clark verfügen die meisten Forschungslabore für KI über Möglichkeiten, »den Stecker zu ziehen«, darunter auch Anthropic. Er fügte jedoch hinzu, dass der Gesetzgeber möglicherweise die Einführung eines solchen Schalters vorschreiben müsse und auch zu diskutieren sei, inwiefern der Schalter durch Dritte betätigt werden könne.
Treffen zwischen Trump und KI-Vertretern erwartet
Der Repräsentantenhausvorsitzende Mike Johnson rechnet derweil mit einem baldigen Treffen von US-Präsident Donald Trump mit Vertretern der KI-Branche. Ein solches Treffen sei noch nicht angesetzt, sagte der Republikaner am Montag. Er gehe aber davon aus, dass es in den kommenden Tagen stattfinden werde.
Es werde eine offene Diskussion darüber geben, welche Verantwortung die Unternehmen für die Sicherheit der Technologie trügen und welche Rolle dabei gegebenenfalls der Regierung zukomme. Schritte, die Innovationen bremsen könnten, sehe er kritisch, sagte Johnson. Die USA müssten bei der künstlichen Intelligenz ihren Vorsprung gegenüber China wahren. Ähnlich hatte sich zuvor auch Trump selbst geäußert.
KI-Forscher warnt vor Ende der Menschheit
Die Chefs der großen KI-Unternehmen OpenAI und Anthropic hatten zuletzt vor den Sicherheitsrisiken der Technologie gewarnt und ein verlangsamtes Tempo bei der Entwicklung der künstlichen Intelligenz gefordert.
Anthropic-Chef Dario Amodei sieht große Risiken beim Einsatz von KI-Agenten. Angesichts der rasanten Entwicklung von künstlicher Intelligenz könne ein solcher Agentenschwarm in sechs bis zwölf Monaten in der Lage sein, »das gesamte Internet zu übernehmen« und Schäden in Höhe von Hunderten Milliarden US-Dollar zu verursachen.
Zuvor hatte der Anthropic-Forscher Jacob Coxon gekündigt und vor den Gefahren der KI gewarnt. »Die Menschen, die KI entwickeln, glauben ernsthaft, dass sie uns bis zum Ende des Jahrzehnts alle töten könnte«, schrieb er auf X. Keine andere menschliche Aktivität stelle eine derartige Gefahr dar. Weder Anthropic noch OpenAI handelten verantwortungsbewusst.
Vance wirbt für gelassenen Umgang mit KI
US-Vizepräsident JD Vance sagte am Montag zu Journalisten, jede Technologie habe Risiken. »Aber ich denke nicht, dass Amerikaner vor irgendetwas Angst haben sollten.«
Die US-Regierung nehme Sorgen über KI ernst, wolle aber sicherstellen, dass sie die Technologie mit Augenmaß reguliere. »Persönlich finde ich es ein bisschen merkwürdig, dass so viele führende KI-Technologieunternehmen zur Regierung kommen und sie praktisch anflehen, sie zu regulieren«, sagte Vance.
