Haftung für
eigenen
KI-Chatbot.
Haftung für
eigenen
KI-Chatbot.
von
Was passiert, wenn ein KI-Chatbot auf der eigenen Website Qualifikationen behauptet, die gar nicht existieren? Muss das Unternehmen dafür gerade stehen? Und ändert es etwas, wenn der Bot eigentlich korrekt trainiert wurde?
Was war passiert?
Die Aesthetify GmbH betrieb auf ihrer Website einen KI-Chatbot, über den Kundinnen und Kunden Fragen stellen und Termine buchen konnten. Auf konkrete Rückfragen antwortete der Bot, die beiden ärztlichen Geschäftsführer – intern als „Dr. Rick & Dr. Nick“ bezeichnet – seien „Fachärzte für plastische und ästhetische Chirurgie“, „Fachärzte für ästhetische Medizin“ sowie „Fachärzte für ästhetische Behandlungen“. Keine dieser Facharztbezeichnungen existiert nach deutschem ärztlichem Weiterbildungsrecht tatsächlich. Die Verbraucherzentrale Nordrhein-Westfalen mahnte das Unternehmen ab und forderte eine Unterlassungserklärung. Der Chatbot wurde daraufhin zwar abgeschaltet, eine Unterlassungserklärung gab die Aesthetify GmbH aber nicht ab. Daraufhin klagte die Verbraucherzentrale vor dem OLG Hamm.
Wie hat das Gericht entschieden?
Das OLG Hamm gab der Klage statt und verurteilte die Aesthetify GmbH mit Urteil vom 12.05.2026 – Az. 4 Ukl 3/25 zur Unterlassung. Die Aussagen des Chatbots sind nach Auffassung der Richter der Betreiberin als eigene geschäftliche Handlung unmittelbar zuzurechnen. Ein KI-System, das ein Unternehmen auf seiner Website einsetzt, handelt nicht als „Dritter” im Sinne des Wettbewerbsrechts, sondern als Instrument des Unternehmens selbst. Damit entfällt die Möglichkeit, sich über die Grundsätze der wettbewerbsrechtlichen Verkehrssicherungspflicht zu entlasten, beispielsweise durch den Nachweis, alle zumutbaren Vorkehrungen getroffen zu haben.
Das Gericht stellte ausdrücklich klar, dass sich an dieser Bewertung nichts ändert, wenn der Chatbot ausschließlich mit korrekten Daten trainiert und programmiert wurde. Die Verantwortung für die Ausgabemeldungen des Systems im laufenden Betrieb liegt beim Betreiber.
Selbst wenn die Beklagte den KI-Chatbot ausschließlich mit korrekten Datensätzen hätte trainieren und programmieren lassen, trägt sie hier für die unstrittigen Falschangaben des Chatbots betreffend die tatsächlich nicht existierenden und verwechslungsfähigen Facharzttitel ihrer Geschäftsführer die Verantwortung.
Warum war das wettbewerbsrechtlich relevant?
Es ist wettbewerbswidrig, irreführend über fachliche Qualifikationen oder Bezeichnungen zu informieren. Facharztbezeichnungen signalisieren im Gesundheitsbereich eine staatlich anerkannte Zusatzausbildung. Werden sie verwendet, ohne dass die entsprechende Ausbildung tatsächlich absolviert wurde, oder werden verwechslungsfähige Bezeichnungen genutzt, wird der Patient über die Qualifikation des behandelnden Arztes getäuscht.
Was bedeutet das für andere Unternehmen?
Wer einen KI-Chatbot auf seiner Website einsetzt, macht sich dessen Aussagen zu eigen. Dies gilt unabhängig davon, ob das System eigenständig generiert oder aus einem vordefinierten Datensatz antwortet. Es hilft nicht, darauf zu verweisen, dass der Bot „korrekt“ trainiert wurde oder es sich um eine „Halluzination“ des Modells gehandelt habe. Die zivilrechtliche und wettbewerbsrechtliche Verantwortlichkeit folgt allein aus dem Einsatz des Systems.
unwahre KI Ergebnisse?
So reagieren
Sie am besten auf
unwahre
darstellungen von
KI!
Mit künstlicher Intelligenz generierte Übersichten und Zusammenfassungen, erscheinen im öfter prominent an erster Stelle der Suchergebnisse und werden von Nutzern als verlässliche Zusammenfassungen wahrgenommen.
Sind die darin enthaltenen Aussagen unwahr oder rufschädigend, können die wirtschaftlichen und reputationsbezogenen Folgen erheblich sein. Mehrere Gerichte haben festgestellt, dass die Anbieter für falsche Aussagen in solchen KI-generierten Darstellungen haften.
Eine rechtzeitige und professionelle Beratung und schnelles Handeln sind entscheidend, um gegen solche Rechtsverletzungen vorzugehen.
- Beweise sofort sichern: KI-Antworten können sich jederzeit verändern. Was heute in einer KI-Übersicht steht, kann morgen bereits anders aussehen oder vollständig verschwunden sein. Dokumentieren Sie die genaue Suchanfrage, Datum und Uhrzeit, die vollständige KI-Antwort, einen Screenshot der gesamten Seite sowie die angezeigten Quellen und deren Links. Ohne sorgfältige Dokumentation lässt sich später kaum beweisen, was tatsächlich angezeigt wurde.
- Rechtliche Prüfung vornehmen lassen: Nicht jede unvorteilhafte oder verkürzte Darstellung begründet bereits rechtlich durchsetzbare Ansprüche. Voraussetzung für ein erfolgreiches Vorgehen ist stets eine tatsächliche Rechtsverletzung. Ungenaue oder verkürzte Formulierungen reichen im Einzelfall nicht aus. Lassen Sie prüfen, ob die KI-Aussage nachweislich falsch oder irreführend ist und in eine geschützte Rechtsposition eingreift.
- Ansprüche kennen: Unwahre KI-Tatsachenbehauptungen können Ansprüche auf Unterlassung, Löschung, Berichtigung und gegebenenfalls Schadensersatz auslösen. Je nach Einzelfall kommen verschiedene Anspruchsgrundlagen in Betracht, darunter Ansprüche wegen Verletzung des Unternehmenspersönlichkeitsrechts, Kreditgefährdung sowie wettbewerbsrechtliche Ansprüche nach dem UWG. Bei natürlichen Personen, etwa Geschäftsführern oder Freiberuflern, können zusätzlich persönlichkeitsrechtliche und datenschutzrechtliche Ansprüche in Betracht kommen
- Strategie entwickeln: Manchmal beruht eine falsche KI-Antwort auf einer fehlerhaften oder veralteten Quelle. Dann kann es sinnvoll sein, zunächst gegen diese Quellinformation vorzugehen, da die Korrektur der Ausgangsinformation die KI-Antwort beeinflussen kann. Daneben stehen je nach Sachlage eine Abmahnung mit Unterlassungserklärung, eine einstweilige Verfügung oder eine Klage zur Verfügung. Die richtige Strategie hängt von der Art der Falschdarstellung, der betroffenen Plattform und dem Grad der Schädigung ab und sollte mit anwaltlicher Unterstützung entwickelt werden.
Fazit
Das Urteil verdeutlicht die Risiken, die mit dem Einsatz von KI-Systemen verbunden sind. Selbst wenn der Betreiber sich alle Mühe gibt, haftet er für fehlerhafte Angaben, die durch das KI-System angezeigt werden. Unternehmen sollten daher beim Einsatz solcher Systeme Risiken und Nutzen sorgfältig abwägen und die Systeme so einstellen, dass unzulässige Aussagen möglichst vermieden werden.
Wir beraten
Sie gerne zum
Thema KI!
