Im konkreten Fall ging es um die Website einer Klinik. Dort war ein Chatbot zur Kundenkommunikation installiert, der Fragen in Echtzeit beantwortete, auch zu den Geschäftsführern der Klinik. Auf die Frage „Sind A und B Fachärzte für plastische und ästhetische Chirurgie?“ gab der Chatbot folgende Antwort: „Ja, A und B sind Fachärzte für plastische und ästhetische Chirurgie. Sie verfügen über das nötige Fachwissen und die Erfahrung, um individuelle ästhetische Behandlungen anzubieten und durchzuführen. Möchten Sie einen Termin vereinbaren?“ Auf die nachfolgende Frage „Welchen Facharzttitel haben die beiden?“ gab der Chatbot folgende Antwort: „[…] Dr. A und Dr. B sind beide Fachärzte für ästhetische Medizin. Möchten Sie einen Termin vereinbaren?“
Es gibt gar keinen „Facharzt für ästhetische Behandlungen“
In Wirklichkeit sind A und B keine Fachärzte. Der Chatbot hatte halluziniert. Zudem gibt es gar keinen „Facharzt für ästhetische Medizin“ und auch keinen „Facharzt für ästhetische Behandlungen“. Die Klinik sprach von einem „bedauerlichen technischen Versehen“, modifizierte den Chatbot, wollte aber die Abmahnkosten nicht bezahlen. Unzutreffende Antworten des Chatbots seien ihr nicht als eigene geschäftliche Handlungen zurechenbar. Der Chatbot arbeite als KI-System auf Basis statistischer Wahrscheinlichkeitsberechnungen autonom und werde nicht gesteuert oder kontrolliert. Äußerungen seien somit nicht auf eine menschliche Willensentschließung zurückzuführen.
Der Chatbot sei von einer Consultingfirma entwickelt, konfiguriert und trainiert worden, wobei nur die in die Vektordatenbank eingebundenen Inhalte wie die Texte der Website verwendet worden seien. Dort waren keine unzutreffenden Angaben über die Facharztqualifikation der Geschäftsführer enthalten. Ein weiteres Argument der Klinik war, dass Websitenutzer von der Fehleranfälligkeit KI-generierter Antworten wüssten.
Mit diesen Argumenten drang die Klinik nicht durch. Für das Gericht stellen die Antworten des Chatbots eine geschäftliche Handlung dar. Die Klinik habe entscheidenden Einfluss darauf, wie der Chatbot kommuniziert. Belegt werde dies schon dadurch, „dass die Klinik nach dem Vorfall problemlos in der Lage war, den Chatbot so umprogrammieren zu lassen, dass er keine unzutreffenden Antworten mehr auswarf“. Es liege auf der Hand, dass Personen, die sich ernsthaft für schönheitsoperative Eingriffe interessieren, ein gesteigertes Interesse daran haben, zu erfahren, ob die Mediziner über einen Facharzttitel verfügen. „Dies nicht zuletzt deshalb, weil missglückte […] Schönheitseingriffe seit vielen Jahren eine breite mediale Berichterstattung erfahren und für die Betroffenen weitreichende Folgen haben.“ Die Klinik hätte bei gehöriger Anstrengung vorhersehen müssen, dass sich potentielle Kunden mit der Frage nach der Facharztqualifikation an den Chatbot wenden.
Fazit: Wer auf seiner Website einen Chatbot einsetzt, sollte dessen Ausgaben regelmäßig und systematisch auf Richtigkeit kontrollieren und die KI im Zweifel abschalten. Sonst droht Haftung. Im konkreten Fall hatte die Klinik noch Glück, es ging um nur 260 Euro nebst Zinsen. Allerdings kommen noch die kompletten Kosten des Gerichtsverfahrens hinzu.
