Haftung für
eigenen
KI-Chatbot.
Haftung für
eigenen
KI-Chatbot.
von
Was passiert, wenn ein KI-Chatbot auf der eigenen Website Qualifikationen behauptet, die gar nicht existieren? Muss das Unternehmen dafür gerade stehen? Und ändert es etwas, wenn der Bot eigentlich korrekt trainiert wurde?
Was war passiert?
Die Aesthetify GmbH betrieb auf ihrer Website einen KI-Chatbot, über den Kundinnen und Kunden Fragen stellen und Termine buchen konnten. Auf konkrete Rückfragen antwortete der Bot, die beiden ärztlichen Geschäftsführer – intern als „Dr. Rick & Dr. Nick“ bezeichnet – seien „Fachärzte für plastische und ästhetische Chirurgie“, „Fachärzte für ästhetische Medizin“ sowie „Fachärzte für ästhetische Behandlungen“. Keine dieser Facharztbezeichnungen existiert nach deutschem ärztlichem Weiterbildungsrecht tatsächlich. Die Verbraucherzentrale Nordrhein-Westfalen mahnte das Unternehmen ab und forderte eine Unterlassungserklärung. Der Chatbot wurde daraufhin zwar abgeschaltet, eine Unterlassungserklärung gab die Aesthetify GmbH aber nicht ab. Daraufhin klagte die Verbraucherzentrale vor dem OLG Hamm.
Wie hat das Gericht entschieden?
Das OLG Hamm gab der Klage statt und verurteilte die Aesthetify GmbH mit Urteil vom 12.05.2026 – Az. 4 Ukl 3/25 zur Unterlassung. Die Aussagen des Chatbots sind nach Auffassung der Richter der Betreiberin als eigene geschäftliche Handlung unmittelbar zuzurechnen. Ein KI-System, das ein Unternehmen auf seiner Website einsetzt, handelt nicht als „Dritter” im Sinne des Wettbewerbsrechts, sondern als Instrument des Unternehmens selbst. Damit entfällt die Möglichkeit, sich über die Grundsätze der wettbewerbsrechtlichen Verkehrssicherungspflicht zu entlasten, beispielsweise durch den Nachweis, alle zumutbaren Vorkehrungen getroffen zu haben.
Das Gericht stellte ausdrücklich klar, dass sich an dieser Bewertung nichts ändert, wenn der Chatbot ausschließlich mit korrekten Daten trainiert und programmiert wurde. Die Verantwortung für die Ausgabemeldungen des Systems im laufenden Betrieb liegt beim Betreiber.
Selbst wenn die Beklagte den KI-Chatbot ausschließlich mit korrekten Datensätzen hätte trainieren und programmieren lassen, trägt sie hier für die unstrittigen Falschangaben des Chatbots betreffend die tatsächlich nicht existierenden und verwechslungsfähigen Facharzttitel ihrer Geschäftsführer die Verantwortung.
Warum war das wettbewerbsrechtlich relevant?
Es ist wettbewerbswidrig, irreführend über fachliche Qualifikationen oder Bezeichnungen zu informieren. Facharztbezeichnungen signalisieren im Gesundheitsbereich eine staatlich anerkannte Zusatzausbildung. Werden sie verwendet, ohne dass die entsprechende Ausbildung tatsächlich absolviert wurde, oder werden verwechslungsfähige Bezeichnungen genutzt, wird der Patient über die Qualifikation des behandelnden Arztes getäuscht.
Was bedeutet das für andere Unternehmen?
Wer einen KI-Chatbot auf seiner Website einsetzt, macht sich dessen Aussagen zu eigen. Dies gilt unabhängig davon, ob das System eigenständig generiert oder aus einem vordefinierten Datensatz antwortet. Es hilft nicht, darauf zu verweisen, dass der Bot „korrekt“ trainiert wurde oder es sich um eine „Halluzination“ des Modells gehandelt habe. Die zivilrechtliche und wettbewerbsrechtliche Verantwortlichkeit folgt allein aus dem Einsatz des Systems.
Fazit
Das Urteil verdeutlicht die Risiken, die mit dem Einsatz von KI-Systemen verbunden sind. Selbst wenn der Betreiber sich alle Mühe gibt, haftet er für fehlerhafte Angaben, die durch das KI-System angezeigt werden. Unternehmen sollten daher beim Einsatz solcher Systeme Risiken und Nutzen sorgfältig abwägen und die Systeme so einstellen, dass unzulässige Aussagen möglichst vermieden werden.
Wir beraten
Sie gerne zum
Thema KI!
