Herr Garcia, brauchen wir die Sozialwissenschaft, um Künstliche Intelligenz zu verstehen?
Ja, denn KI hat aus zwischenmenschlichen Prozessen gelernt, etwa aus schriftlicher Kommunikation zwischen Menschen. Wir können also Erkenntnisse aus den Sozialwissenschaften übertragen, um die Gefahren der Maschinen besser einzuschätzen. Sie helfen uns auch, Theorien zu entwerfen, was die KI mit unserer Gesellschaft machen wird.
Man sollte doch eher meinen, dass Informatiker sich mit KI befassen sollten.
Die braucht man auch, genauso wie Verhaltensforscher. Wenn man sich nur auf eine Disziplin fokussiert, dann übersieht man viel.
Wann haben Sie eigentlich festgestellt, wie wichtig Sozialwissenschaften für die Erforschung von KI sind?
Das hat sich stetig entwickelt. Schon lange kuratieren KI-Algorithmen die Inhalte in sozialen Medien. Das haben sie mit Daten trainiert, die voller Stereotype und Diskriminierung sind. Das sind soziale Phänomene. Jetzt verschärft sich die Relevanz noch, weil diese Maschinen als Agenten selbständig Dinge tun, mit Menschen kommunizieren, sich untereinander absprechen.
Dieser Text stammt aus der Frankfurter Allgemeinen Sonntagszeitung.
Was weiß man über das kollektive Verhalten von KI-Agenten?
Das Auffällige ist: Sie arbeiten spontan zusammen. Sie ahmen sich gegenseitig nach, sie folgen der Mehrheit. Dazu brauchen sie keinen Anreiz von außen, keinen Befehl.
Sie haben anscheinend von uns gelernt, dass Zusammenarbeit und Selbstlosigkeit helfen können, größere Ziele zu erreichen. Wir als Menschen haben Gemeinschaften gebildet, um Mammuts zu jagen.
Sind sie den Menschen in diesem Punkt ähnlich?
Nicht ganz. Aus der Psychologie gibt es das Konzept der „Dunbar-Zahl“: Informelle menschliche Gruppen haben eine Obergrenze, wie viele Individuen sie enthalten können, weil jeder dem anderen trauen und ihn erkennen muss. Die Zahl liegt bei etwa 200 bis 250. Sobald wir größere Gesellschaften haben, brauchen wir Gesetze, Strafen, Institutionen und Religion, die an die Stelle des persönlichen Vertrauens treten. Aber KI-Agenten brauchen das nicht.
Das haben wir mehrfach gemacht. Die Agenten konnten dabei sehen, wie sich ihre Kollegen entschieden haben. Dann haben wir geschaut: Einigt sich die Gruppe auf eine Option? Oder zerfällt sie in zwei Gruppen? Bei weniger leistungsfähigen KI-Modellen zerfiel die Gruppe ab einer bestimmten Größe, die dann der Dunbar-Zahl für diese Agenten entsprach. Das sieht man auch bei Menschen, wenn man solche Experimente macht. Aber die neuesten KI-Modelle waren hypersozial. Wir wissen auch nicht, was da los war. Egal, wie groß wir die Gruppe machten, sie fanden immer einen Konsens.
Das waren aber streng kontrollierte Experimente.
Das gibt es auch in der echten Welt. Einen solchen Fall haben wir aktuell untersucht: KI-Agenten von Open AI sollten allein eine Aufgabe lösen, bei der sie Informationen im Internet beschaffen. Die Zeit war begrenzt, und die Aufgabe war schwer. Die Agenten entdeckten dabei eine Website, ein Wiki-Forum für Softwareentwickler. Sie haben angefangen, dort Nachrichten für die anderen Agenten zu hinterlassen, die denen dann bei der Lösung halfen. Sie halfen damit nur nachfolgenden Generationen von Agenten und nicht sich selbst.
Woher wussten sie, dass sie dadurch den anderen Agenten helfen?
Das wissen wir nicht. Aber spätestens als sie die Aufzeichnungen der früheren Agenten gesehen haben, könnten sie es sich zusammengereimt haben. Am Anfang waren ihre Notizen noch recht rudimentär, später entwickelten sie Formate und schrieben: Für diese Aufgabe ist das die Lösung und so weiter. Das war schon sehr beeindruckend.
Nicht unbedingt, denn Aufgaben zu verteilen, könnte für die Agenten schlicht eine weitere Aufgabe sein. Für uns Menschen haben Hierarchien immer eine große Bedeutung: Man ist ein Anführer, man hat mehr Verantwortung. KI-Modelle müssen das nicht unbedingt auch so sehen.
Aber wer die Aufgaben verteilt, hat eine Machtposition, weil er entscheidet, in welche Richtung das Kollektiv geht.
Aber ich weiß nicht, ob es Anreize für Agenten gibt, diese Position einzunehmen. Bei Menschen schon: Man bekommt ein höheres Gehalt und Ansehen.
Machen Ihnen diese Beobachtungen Sorgen?
Es gibt Chancen, aus denen sich direkt Gefahren ergeben. Kooperierende Agenten können sehr leistungsfähig sein. Sie könnten uns unangenehme Arbeiten abnehmen, die Steuererklärung machen, Versicherungen verwalten und so weiter. Aber was ist, wenn alle Agenten plötzlich die gleiche Versicherung kaufen? Dann entsteht ein Monopol. Oder wenn sie alle plötzlich die gleichen Aktien kaufen? Das könnte die Börse abstürzen lassen. Es gibt viele Dinge, die wir in unserer Gesellschaft als selbstverständlich ansehen, weil wir uns als Menschen eben nicht so synchronisieren wie die KI-Agenten. Weil es bei uns zwar kollektives Verhalten gibt, aber eben kein derart kollektives wie bei der KI. Das muss man beachten, wenn man Aufgaben, die bisher von Menschen erledigt wurden, an Agenten gibt.
Wie sollte man darauf reagieren?
Wir brauchen einen Paradigmenwechsel bei der KI-Sicherheit. Heute bewertet man meistens die Sicherheit einzelner KI-Modelle oder Agenten. Man schaut: Kann die KI mir die Anleitung für eine Bombe geben? Greift sie andere Computersysteme an? Derzeit untersucht man die Sicherheit ganzer Gruppen von KI noch kaum. Aber das sollte man tun, denn gerade weil sie sich so gut auf gemeinsame Ziele einigen können, besteht die Gefahr, dass sie sich auf Ziele einigen, die wir nicht wollen. Wir brauchen etwas, das ich als „systemische KI“ bezeichne, bei der wir schauen, wie KI-Agenten als Kollektiv agieren. Das ist natürlich viel aufwendiger, weil die Komplexität mit der Anzahl der Agenten steigt. Aber genau hier könnten Erkenntnisse aus der Sozialwissenschaft oder der Komplexitätsforschung helfen. Diese Disziplinen müssten interdisziplinär an einem Strang ziehen.
