Aktuelles

Blog — 6. Juli 2026

Wer haftet, wenn der KI-Chatbot lügt?

Josua Neudeck — Nach einem Urteil des Oberlandesgerichts (OLG) Hamm müssen sich Unternehmen Falschaussagen eines KI-Chatbots auf der eigenen Website grundsätzlich als Teil ihres eigenen Marktauftritts zurechnen lassen.

Das Urteil (Az. 4 UKl 3/25 vom 12. Mai 2026) betrifft eine ästhetische Praxis, die über ihren Chatbot falsche und teilweise nicht existente Facharzttitel den ärztlichen Geschäftsführern zuschrieb. Das Gericht verurteilte das Unternehmen dazu, die irreführenden Aussagen künftig zu unterlassen. Die Revision zum Bundesgerichtshof (BGH) ist zugelassen.

Der Sachverhalt: KI erfindet Facharzttitel

Die Aesthetify GmbH bietet unter der Leitung der ärztlichen Geschäftsführer „Dr. Rick“ und „Dr. Nick“ an mehreren Standorten ästhetische Gesichtsbehandlungen an. Auf der Unternehmenswebsite war ein KI-Chatbot eingebunden, über den Patientinnen und Patienten in Echtzeit Fragen stellen und Termine buchen konnten.

Auf konkrete Anfragen antwortete der Chatbot unter anderem, die beiden Ärzte seien „Fachärzte für plastische und ästhetische Chirurgie“, „Fachärzte für ästhetische Medizin“ sowie „Fachärzte für ästhetische Behandlungen“. Tatsächlich verfügten die Geschäftsführer nicht über diese Weiterbildungen. Hinzu kommt: Die Bezeichnungen „Facharzt für ästhetische Medizin“ und „Facharzt für ästhetische Behandlungen“ existieren als anerkannte Facharzttitel in Deutschland gar nicht.

Die Verbraucherzentrale Nordrhein-Westfalen mahnte die Gesellschaft ab und forderte eine strafbewehrte Unterlassungserklärung also das verbindliche und mit einer Vertragsstrafe abgesicherte Versprechen, die beanstandeten Aussagen nicht zu wiederholen. Der Chatbot wurde daraufhin zunächst deaktiviert und anschließend technisch angepasst. Die geforderte Unterlassungserklärung gab das Unternehmen jedoch nicht ab. Der Verbraucherverband erhob daraufhin Klage.

Die Entscheidung: Der Chatbot gehört zum Marktauftritt des Unternehmens

Der 4. Zivilsenat des OLG Hamm gab der Klage auf Unterlassung statt. Das Gericht bejahte eine Irreführung gemäß § 5 Abs. 1, Abs. 2 Nr. 3 UWG (Gesetz gegen den unlauteren Wettbewerb). Vereinfacht gesagt verbietet diese Vorschrift geschäftliche Aussagen, die Verbraucher über wesentliche Eigenschaften eines Unternehmens täuschen und dadurch ihre Entscheidungen beeinflussen können. Dazu gehören insbesondere falsche Angaben über die Befähigung, den Status oder die Zulassung eines Unternehmers.

Zentrale Frage war, ob die Antworten des KI-Chatbots der Beklagten als eigene Geschäftshandlung zugerechnet werden können. Das OLG Hamm hat dies bejaht:

  • Die Gesellschaft setze den Chatbot in Gang und verfügte über ausreichend Einfluss, wie er mit potenziellen Kunden kommunizierte.
  • Der Chatbot sei kein „Dritter“ im Sinne des Gesetzes, sondern Teil der geschäftlichen Organisation des Unternehmens.
  • Die autonome Funktionsweise des KI-Systems schließe die Zurechnung nicht aus.

Auch der sogenannte Black-Box-Charakter eines lernfähigen KI-Tools, also der Umstand, dass sich die Entstehung einer einzelnen KI-Antwort nicht vollständig nachvollziehen lässt, stehe der Zurechnung nicht entgegen.

 

Wer einen Chatbot zur Kundenkommunikation und Absatzförderung einsetzt, muss sich dessen Aussagen nach dieser Entscheidung als eigenen Marktauftritt gegen sich gelten lassen.

Keine Entlastung durch technische Schutzmaßnahmen

Die beklagte Praxis hatte im Verfahren geltend gemacht, der Chatbot sei durch einen externen IT-Dienstleister eingerichtet und ausschließlich mit korrekten Website-Texten und häufig gestellten Fragen des Unternehmens trainiert worden. Diese Inhalte enthielten keine falschen Angaben über die Facharztqualifikation der Geschäftsführer.

Das genügte dem OLG Hamm nicht. Entscheidend war für das Gericht, dass das Unternehmen den Chatbot für die eigene Kundenkommunikation eingesetzt hatte und dessen Tätigkeitsrahmen beeinflussen konnte.

Die Prompt-Anweisung und der Keyword-Filter, mit denen der Begriff „Facharzt“ später unterdrückt wurde, wurden erst nach der Abmahnung eingerichtet. Das Gericht sah in der schnellen technischen Anpassung einen Beleg dafür, dass das Unternehmen Einfluss auf die Antworten nehmen und die konkrete Fehlerquelle mit vertretbarem Aufwand absichern konnte.

Auch der Einwand, der Chatbot sei durch einen externen IT-Dienstleister eingebunden worden, half nicht weiter. Das Gericht rechnete die Tätigkeit des eingeschalteten Dienstleisters dem Unternehmen zu. Die Beauftragung eines externen Anbieters beseitigt damit jedenfalls gegenüber Kunden, Mitbewerbern und Verbraucherverbänden nicht die eigene Verantwortung des Unternehmens.

Von besonderer Bedeutung ist auch die Einschätzung des Gerichts zur Nutzererwartung: Das Gericht ging nicht davon aus, dass Verbraucher KI-generierte Antworten grundsätzlich mit Misstrauen lesen. Viele Nutzer vertrauen nach Einschätzung des Gerichts vielmehr in besonderem Maße auf die Richtigkeit computergenerierter Antworten.

BGH-Revision zugelassen: Die Grundsatzfrage bleibt offen

Das Urteil ist noch nicht rechtskräftig. Das OLG Hamm hat die Revision zum Bundesgerichtshof ausdrücklich zugelassen, weil die Entscheidung grundsätzliche Rechtsfragen zur Verantwortung für KI-generierte Aussagen aufwirft.

Die Zulassung der Revision unterstreicht die über den Einzelfall hinausgehende Bedeutung des Verfahrens. Im Kern geht es um die Frage, welche Maßstäbe für Unternehmen gelten, die KI-Chatbots auf der eigenen Website einsetzen. Der BGH wird Gelegenheit haben, Grundsätze für KI-generierte Inhalte in Werbung und Kundenkommunikation zu konkretisieren.

Was Unternehmen jetzt beachten sollten

Das Urteil des OLG Hamm ist ein deutliches Signal: Nach Auffassung des Gerichts übernimmt, wer einen KI-Chatbot auf seiner Website einsetzt, die Verantwortung für dessen Aussagen. Im entschiedenen Fall half es dem Unternehmen weder, dass ein externer Dienstleister eingeschaltet war, noch dass nach seiner Darstellung ausschließlich korrekte Ausgangsdaten verwendet worden waren. Auch die fehlende Kenntnis der konkreten Einzelantwort verhinderte den Unterlassungsanspruch nicht.

Für die Praxis bedeutet das:

  • Einsatzbereich klar begrenzen. Unternehmen sollten genau festlegen, zu welchen Themen der Chatbot Auskunft geben darf. Bei rechtlich oder wirtschaftlich besonders sensiblen Angaben – etwa zu Qualifikationen, Preisen, Lieferzeiten oder Produkteigenschaften – sollte der Chatbot nur geprüfte Antworten ausgeben oder an einen Menschen weiterleiten.
  • Kritische Angaben verbindlich hinterlegen und regelmäßig testen. Wesentliche Informationen sollten aus einer freigegebenen Wissensbasis stammen. Vor dem Start und nach Änderungen sollten typische sowie ungewöhnliche Nutzerfragen getestet und festgestellte Fehler korrigiert und dokumentiert werden.
  • Technische und organisatorische Schutzmaßnahmen kombinieren. Prompt-Anweisungen und Filter sind ein wichtiger Baustein. Zusätzlich erforderlich sind jedoch laufende Kontrollen, klare interne Zuständigkeiten und ein Verfahren für den Umgang mit Fehlantworten (z.B. IT-Dienstleister und / oder Rechtsabteilung einschalten).
  • Erwartungshaltung der Nutzer:innen steuern. Am Chatfenster sollte gut sichtbar erklärt werden, dass die Antworten von einer KI erzeugt werden, fehlerhaft oder unvollständig sein können und bei wichtigen Fragen überprüft werden müssen. Diese Erwartungshaltung kann in detaillierten rechtlichen Hinweisen noch konkretisiert und somit gesteuert werden (allein dies ersetzt aber nicht die rechtliche Verantwortung für die Falschaussagen des Chatbots).
  • Verträge mit IT-Dienstleistern prüfen. Sie sollten insbesondere regeln, wer für Datenqualität, Tests, Überwachung, Fehlerbehebung und mögliche Schäden verantwortlich ist. Gegenüber Dritten bleibt das Unternehmen jedoch selbst verantwortlich.

 

Ähnliche Entwicklung beim Landgericht München I (Google – KI)

In eine ähnliche Richtung weist übrigens ein noch nicht rechtskräftiges Urteil des Landgerichts München I vom 28. Mai 2026 (Az. 26 O 869/26). Dort hatte die KI-Funktion einer Suchmaschine in einer automatisch erzeugten Übersicht zwei Verlagsunternehmen unter anderem unseriöse Geschäftspraktiken und sogenannte Abo-Fallen vorgeworfen.

Das Gericht verpflichtete die Suchmaschinenbetreiberin, die beanstandeten Behauptungen künftig nicht mehr in ihrer KI-Übersicht zu verbreiten. Entscheidend war: Die KI-Übersicht gab nicht lediglich fremde Suchergebnisse wieder, sondern fasste Informationen zu einem neuen Text zusammen. Diesen selbst erzeugten Inhalt musste sich die Suchmaschinenbetreiberin als eigene Aussage zurechnen lassen.

Die Fälle unterscheiden sich zwar: Beim LG München ging es um rufschädigende Aussagen einer Suchmaschine, beim OLG Hamm um irreführende Angaben eines Unternehmens-Chatbots. Beide Entscheidungen machen jedoch deutlich, dass sich Betreiber nicht allein mit dem Hinweis entlasten können, die falsche Aussage sei von einer KI automatisch erzeugt worden.

Sie setzen KI-Chatbots ein oder planen deren Einsatz?

Wenn Sie prüfen möchten, ob Ihr KI-Chatbot rechtlich sicher aufgesetzt ist, ob Ihre Verträge mit IT-Dienstleistern die Risiken angemessen abbilden, stehen Ihnen unsere KI-Rechts – Experten von Vogel & Partner gerne zur Verfügung.

 

Haftung KI-Chatbot

Ja. Nach dem Urteil des OLG Hamm vom 12. Mai 2026 (Az. 4 UKl 3/25) muss sich ein Unternehmen die Aussagen eines auf der eigenen Website eingebundenen KI-Chatbots als Teil des eigenen Marktauftritts zurechnen lassen. Irreführende Angaben können einen Unterlassungsanspruch nach § 5 UWG begründen. Das Urteil ist noch nicht rechtskräftig, die Revision zum BGH wurde zugelassen.
Nein. Das OLG Hamm rechnete die Tätigkeit des eingeschalteten Dienstleisters dem Unternehmen zu. Gegenüber Kunden, Mitbewerbern und Verbraucherverbänden bleibt das Unternehmen selbst verantwortlich. Wer intern für Fehler des Dienstleisters einsteht, sollte vertraglich klar geregelt werden.
Nein. Nach Auffassung des Gerichts schließt die autonome Funktionsweise eines lernfähigen KI-Systems die Zurechnung nicht aus. Entscheidend ist, dass das Unternehmen den Chatbot für die eigene Kundenkommunikation einsetzt und dessen Tätigkeitsrahmen beeinflussen kann, etwa durch Prompt-Anweisungen und Filter.
Ein solcher Hinweis ist sinnvoll, um die Erwartungshaltung der Nutzer zu steuern, ersetzt aber nicht die rechtliche Verantwortung für Falschaussagen des Chatbots. Das OLG Hamm geht zudem davon aus, dass viele Nutzer computergenerierten Antworten in besonderem Maße vertrauen.
Unternehmen sollten den Einsatzbereich klar begrenzen, sensible Angaben (etwa zu Qualifikationen, Preisen oder Produkteigenschaften) nur aus einer geprüften Wissensbasis ausgeben lassen, den Chatbot vor dem Start und nach Änderungen regelmäßig testen, technische Filter mit laufenden Kontrollen und klaren Zuständigkeiten kombinieren sowie die Verträge mit IT-Dienstleistern auf Verantwortlichkeiten und Haftung prüfen.
Die Rechtsprechung geht darüber hinaus. Das LG München I hat mit Urteil vom 28. Mai 2026 (Az. 26 O 869/26, nicht rechtskräftig) die Betreiberin einer Suchmaschine verpflichtet, rufschädigende Behauptungen ihrer KI-Übersicht zu unterlassen. Beide Entscheidungen zeigen: Wer KI-generierte Inhalte verbreitet, kann sich nicht damit entlasten, dass die Aussage automatisch erzeugt wurde.