Wenn der Chatbot das Falsche verspricht
Jake Moffatt wollte kurzfristig zu einer Trauerfeier fliegen und fragte den Chatbot auf der Website von Air Canada nach den Konditionen. Die Antwort: Er könne den Antrag auf den günstigeren Trauertarif innerhalb von 90 Tagen nach Ausstellung des Tickets nachreichen. Das entsprach nicht den tatsächlichen Geschäftsbedingungen der Airline [1].
Air Canada verweigerte die Rückerstattung und argumentierte vor der kanadischen Schlichtungsstelle Civil Resolution Tribunal of British Columbia, der Chatbot sei eine eigenständige juristische Person und für seine Aussagen selbst verantwortlich. Die Schlichtungsstelle folgte dieser Argumentation nicht und verurteilte das Unternehmen zur Zahlung des Rabatts sowie zu Verfahrenskosten und Zinsausgleich [1] [4]. Kurz darauf verschwand der Chatbot von der Unternehmenswebsite [1].
Der Streitwert war klein, die Signalwirkung nicht. Die Entscheidung vom 14. Februar 2024 [6] wird seither in fast jeder Fachdiskussion zur KI-Haftung zitiert, und sie ist kein Einzelfall geblieben: Auch deutsche Gerichte haben inzwischen entschieden, dass Betreiber für die Aussagen ihrer Systeme einstehen [2] [6].
Wer einen Chatbot oder eine Voice KI im Kundenkontakt plant oder bereits betreibt, sollte das Haftungsrisiko deshalb nüchtern betrachten: Was passiert rechtlich, wenn das System falsch antwortet?
KI-Haftung: Warum die KI nicht haftet – aber Ihr Unternehmen schon
Der Chatbot als Unternehmensvertreter: Rechtlich trägt stets der Betreiber die Verantwortung.
KI ist keine Rechtsperson
Die erste Klarstellung ist unspektakulär, aber folgenreich: KI-Systeme sind keine Rechtssubjekte. Sie können nicht verklagt werden, kein Vermögen halten und keine Verantwortung tragen. Die Haftung trifft immer den Menschen oder das Unternehmen dahinter [6]. Weil die KI selbst keine Verantwortung trägt, bleibt die Haftung für irreführende Aussagen, Datenschutzverstöße und Wettbewerbsverletzungen beim Unternehmen als Betreiber [4].
Wichtig ist die Rollenverteilung: Wer einen Chatbot auf der eigenen Website einsetzt, ist Betreiber der KI-Anwendung, nicht Anbieter des Modells. Und im Kundenkontakt trifft die Haftung den Betreiber [8]. Wer KI-Ergebnisse im Geschäftsverkehr einsetzt oder an Kunden weitergibt, übernimmt dafür die Verantwortung, unabhängig davon, ob ein Mensch oder eine Maschine den Fehler verursacht hat [6].
Der Chatbot als offizieller Unternehmensvertreter
Entscheidend ist, wie der Chatbot nach außen wirkt. Kunden nehmen seine Antworten als Auskunft des Unternehmens wahr, und die Rechtsprechung behandelt sie genauso [2]. Die kanadische Schlichtungsstelle formulierte es so: „Es ist einem Kunden nicht zuzumuten zu entscheiden, welcher Teil einer Internetpräsenz eines Unternehmens korrekt und welcher falsch ist. Das KI-Programm als Teil der Internetpräsenz steht somit für Aussagen des Unternehmens selbst." [1]
Praktisch heißt das: Der Bot ist dein Vertreter. Was er sagt, sagst du, genau wie bei einem Mitarbeitenden am Telefon [8]. Aussagen des Chatbots, auch Halluzinationen, können dem Unternehmen als verbindlich zugerechnet werden [6]. Falsche Auskünfte zu Preisen, Leistungen, Kündigungs- oder Widerrufsrechten können Kunden auf das Unternehmen festlegen oder Schadensersatzansprüche begründen [2]. Rechtlich ist der Chatbot kein eigenständiger Akteur, sondern ein technisches Werkzeug im Verantwortungsbereich des Betreibers [2].
Die drei Risikodimensionen: Zivilrecht, Regulatorik, Verbraucherschutz
Drei Risikodimensionen für Chatbot-Betreiber: Zivilrecht, EU AI Act und Verbraucherschutz.
Zivilrechtliche Ansprüche durch geschädigte Kunden
Der Einsatz von KI ändert die Haftungsmaßstäbe nicht. Wer eine KI-gestützte Leistung erbringt und dabei fehlerhafte Ergebnisse liefert, haftet nach den allgemeinen vertragsrechtlichen Grundsätzen, es kommt weiterhin auf den konkreten Vertragstypus an [6]. Typische Anspruchsketten sind Erfüllungsverlangen, wenn eine Zusage zugerechnet wird, und Schadensersatz, wenn Kunden auf eine falsche Auskunft vertraut haben [2].
Hinzu kommt die Störerhaftung: Das Landgericht Kiel entschied am 29.02.2024 (6 O 151/23), dass ein Betreiber als unmittelbarer Störer nach § 1004 BGB für geschäftsschädigende Falschinformationen haftet, die eine unzulänglich programmierte KI generiert hat [4]. Auch ehrverletzende Aussagen sowie Marken- oder Urheberrechtsverletzungen des Bots können Unterlassungs- und Schadensersatzansprüche auslösen [2].
Zwei Entwicklungen gehören auf den Radar:
- Ab Dezember 2026 erfasst die EU-Produkthaftungsrichtlinie (EU) 2024/2853 Software und KI-Systeme erstmals ausdrücklich als Produkte, mit verschuldensunabhängiger Herstellerhaftung ohne Haftungshöchstbetrag [6].
- Geschäftsführung und Vorstand können persönlich haften, wenn der KI-Einsatz nicht sachgerecht organisiert und überwacht wird [6].
Eine KI-spezifische Haftungsregelung auf EU-Ebene fehlt dagegen: Die geplante KI-Haftungsrichtlinie wurde im Februar 2025 zurückgezogen [6].
Regulatorische Anforderungen: EU AI Act und KI-Haftung
Der EU AI Act ist seit Februar 2025 teilweise in Kraft und wird im Laufe von 2026 schrittweise vollständig anwendbar [8]. Er sortiert Systeme in vier Risikoklassen: unannehmbares Risiko (verboten), hohes Risiko (strenge Anforderungen), begrenztes Risiko (Transparenzpflicht) und minimales Risiko [8].
Kundenservice-Chatbots fallen in der Regel in die Kategorie begrenztes oder minimales Risiko. Zur Transparenzpflicht dieser Kategorie gehört, dass der Bot offenlegt, KI zu sein [8]. Die konkrete Offenlegungspflicht nach Art. 50 Abs. 1 KI-VO greift ab August 2026 [6]. Für General Purpose AI kommen Informations- und Transparenzpflichten hinzu, KI-generierte Inhalte müssen als solche kenntlich gemacht werden [4].
Zwei Punkte werden unterschätzt:
- Seit 2025 gilt die Pflicht, sicherzustellen, dass das eigene Team versteht, wie die eingesetzte KI funktioniert. Das ist eine gesetzliche Anforderung, keine Empfehlung [8].
- Die Bußgelder sind relevant: bis zu 35 Millionen Euro oder 7 Prozent des Umsatzes [8].
Parallel läuft der Datenschutz mit: Zu prüfen ist, ob Nutzereingaben zum Modelltraining verwendet werden oder Daten in Drittstaaten fließen, gegebenenfalls ist eine Datenschutz-Folgenabschätzung erforderlich [4]. Tools zur Stimmungserkennung aus Sprache unterliegen zusätzlich strengen Regulierungen [3]. Wer tiefer in die Frage eintaucht, wie Datenschutzanforderungen und Cloud-Compliance zusammenspielen, findet in unserem Artikel zu DSGVO, Cloud Act und digitaler Souveränität im CRM-Kontext eine strukturierte Entscheidungshilfe.
Verbraucherschutzrechtliche Implikationen
Hier entsteht das Haftungsrisiko oft am schnellsten. Nennt ein Chatbot falsche Produktdetails, erfindet er Preise oder halluziniert Garantiezusagen, kann das irreführende Werbung nach §§ 5 ff. UWG sein [4]. Wer Inhalte gezielt platziert, um KI-Ausgaben zu manipulieren, riskiert zudem Schleichwerbevorwürfe nach § 5a Abs. 4 UWG [4]. Halluzinationen sind dabei kein Randphänomen: Chatbots sind meist so eingestellt, dass sie in jedem Fall antworten, weshalb es zu völlig falschen Aussagen kommt [7].
Praktisch bedeutet das Post von Verbraucherschutzverbänden oder Mitbewerbern, verbunden mit Abmahnungen und Unterlassungsaufforderungen [2]. Eine eigene praxisbezogene Einordnung, die so nicht aus den Quellen stammt: Besonders exponiert sind aus meiner persönlichen Sicht Branchen mit reglementierten Angaben, etwa Gesundheit, Finanzen und Rechtsberatung, sowie der Handel mit seinen Preis- und Widerrufsangaben.
Reale Fälle: Was anderen Unternehmen passiert ist
Die folgenden Beispiele sind ausschließlich dokumentierte Fälle. Sie zeigen die Bandbreite der Konsequenzen.
Fall 1: Air Canada und der Trauertarif. Der Chatbot sicherte einem Kunden eine Kulanzregelung zu, die es so nicht gab. Die Schlichtungsstelle in British Columbia verurteilte die Airline am 14.02.2024 (2024 BCCRT 149) zur Zahlung des Rabatts, dazu kamen Verfahrenskosten und Zinsausgleich [1] [4]. Kern der Begründung: Das Unternehmen haftet für über sein Werkzeug erteilte Auskünfte genauso wie für jede andere Information auf seiner Website [6]. Die finanzielle Belastung war gering, der Bot wurde anschließend abgeschaltet [1].
Fall 2: Die Düsseldorfer Schönheitsklinik. Der Chatbot der Klinik Aesthetify bezeichnete zwei Beauty-Mediziner Aesthetify GmbH erfand die KI Facharzttitel für die bekannten Betreiber ("Dr. Rick" und "Dr. Nick") als „Fachärzte für plastische und ästhetische Chirurgie" beziehungsweise „Fachärzte für ästhetische Medizin", obwohl beide diese Titel nicht führten. Die zweite Bezeichnung existiert in der deutschen Weiterbildungsordnung überhaupt nicht, der Bot hatte sie erfunden [2]. Die Verbraucherzentrale Nordrhein-Westfalen mahnte ab und forderte eine strafbewehrte Unterlassungserklärung. Die Ärzte unterschrieben nicht, korrigierten den Prompt und setzten einen Keyword-Filter ein, die Verbraucherzentrale klagte dennoch [2]. Kostenseite: 276 Euro für die Abmahnung plus mehrere Tausend Euro Anwalts- und Gerichtskosten [2]. Den Maßstab dazu hat das Oberlandesgericht Hamm formuliert: Der Betreiber einer Website trägt das Risiko falscher Chatbot-Auskünfte allein, auch wenn das System mit korrekten Daten gefüttert wurde und dann halluziniert [2].
Fall 3: Falschbehauptungen über Dritte. Das Landgericht Hamburg entschied im September 2025 (Az. 324 O 461/25) als erstes deutsches Gericht, dass ein KI-Betreiber für Aussagen seines Chatbots haftet. Der Bot Grok hatte auf der Plattform X falsche Tatsachenbehauptungen über den Verein Campact verbreitet [6]. In dieselbe Richtung geht das bereits erwähnte Urteil des Landgerichts Kiel zur Störerhaftung [4].
Das Muster ist in allen Fällen identisch: Nicht die Technik stand vor Gericht, sondern der Betreiber.
Gilt das auch für Voice KI?
Ja. Die Haftungslogik ist technologieneutral. Auch bei Voice KI gilt: Das System ist kein Rechtssubjekt, verantwortlich ist der Betreiber, und was die Stimme am Telefon zusagt, wird dem Unternehmen zugerechnet, genau wie bei einem Mitarbeitenden im Gespräch [6] [8].
Drei Besonderheiten kommen hinzu:
- Fehlende Schriftlichkeit. Das ist eine praktische Einschätzung, keine Aussage aus der zitierten Rechtsprechung: Im Chat existiert ein Verlauf, den beide Seiten heranziehen können, im Telefonat hängt die Rekonstruktion davon ab, ob und wie Gespräche dokumentiert werden.
- Spontane Antworten ohne Revisionsschleife. Es gibt kein Zeitfenster, in dem ein Mensch eine Formulierung noch abfängt, während Systeme dazu neigen, in jedem Fall eine Antwort zu liefern, auch eine falsche [7].
- Transparenzpflichten gelten ebenso. Nach der Risikologik des EU AI Act müssen Chatbots offenlegen, dass sie KI sind [8], die Pflicht nach Art. 50 Abs. 1 KI-VO greift ab August 2026 [6]. Wer zusätzlich Emotionen aus der Stimme analysieren will, bewegt sich in einem streng regulierten Bereich [3].
Für die Praxis heißt das: Dokumentation, Gesprächsprotokolle und klare Eskalationswege sind bei Voice KI Teil des Risikomanagements. Wer zusätzlich verstehen möchte, wie KI-Agenten im Kundenservice wirklich funktionieren – und wo sie an Grenzen stoßen –, findet in unserem Artikel zu KI-Agenten im CRM: Stärken, Grenzen & Erfolgsfaktoren eine ehrliche Einschätzung.
Was Unternehmen jetzt tun sollten: drei konkrete Maßnahmen
1. Gründliches Testen vor dem Launch
Behandle den Chatbot wie ein Produkt, nicht wie ein beiläufiges technisches Add-on. Vor dem Go-live gehören systematische Tests dazu: typische Fehlermuster provozieren, Edge Cases durchspielen, Fragen zu Preisen, Fristen, Qualifikationen und Garantien gezielt abklopfen. Die Antworten eines Chatbots sind stets kritisch zu hinterfragen und nicht ohne Prüfung für bare Münze zu nehmen [7]. Dokumentiere Testfälle und Outputs. Der Fall der Düsseldorfer Klinik zeigt, dass korrekte Eingangsdaten allein nicht schützen, wenn das Modell halluziniert [2].
2. Human-in-the-Loop: Finale Entscheidungen durch Menschen
Verzichte auf vollständige Automatisierung. Bei komplexen Anliegen oder unzufriedenen Kunden sollte immer ein Mensch übernehmen [3]. Alles, was rechtlich bindet oder fachlich sensibel ist, gehört in die menschliche Freigabe: Vertragsabschlüsse, Preis- und Kulanzzusagen, Aussagen zu Widerrufs- und Kündigungsrechten sowie medizinische und rechtliche Auskünfte. Eine unkontrollierte Weitergabe KI-generierter Antworten ohne Prüfung durch fachlich qualifizierte Menschen öffnet Haftungen Tür und Tor [7]. Wer seine Contact-Center-Steuerung im KI-Hybridbetrieb neu kalibrieren will, findet in unserem Artikel zu Contact Center KPIs neu kalibrieren: AHT, FCR & KI konkrete Orientierung.
3. Rechtsberatung einholen und auf den „What if"-Fall vorbereitet sein
Hole rechtliche Beratung nicht erst, wenn die Abmahnung im Postfach liegt. Lass Haftungsszenarien vorab durchspielen, Nutzungsbedingungen, Kennzeichnung und Disclaimer prüfen und die Datenschutzfragen klären, etwa Modelltraining mit Nutzereingaben oder Drittlandtransfers [4]. Dazu gehört interne Governance: Wer verantwortet den Bot fachlich, wer prüft Änderungen, wer entscheidet im Fehlerfall? Auch die Schulung des Teams ist Pflicht, nicht Kür [8].
Diese Maßnahmen verhindern keinen Chatbot-Einsatz, sie machen ihn belastbar. Wer den Kundenservice über mehrere Kanäle hinweg verantwortet, sollte dabei auch die Kanalstrategie insgesamt überdenken – unser Artikel zur fokussierten Kanalstrategie im Kundenservice zeigt, wann weniger mehr ist.
Fazit: KI ja, aber mit Verantwortung
KI im Kundenservice hat handfeste Vorteile, von Erreichbarkeit rund um die Uhr über automatisierte Priorisierung bis zu mehrsprachigem Support [3]. Ein rechtsfreier Raum ist sie nicht. Die dokumentierten Fälle von Air Canada bis zur Düsseldorfer Klinik zeigen ein konsistentes Bild: Das Haftungsrisiko liegt beim Betreiber, und falsche Auskünfte, diskriminierende Aussagen oder Rechtsverletzungen durch den Chatbot können teure Folgen haben [2].
Beherrschbar ist das durchaus. Drei Schritte reichen als Grundgerüst: vor dem Launch systematisch testen, wichtige Entscheidungen durch Menschen freigeben lassen und frühzeitig rechtlich beraten sein. Unternehmen, die KI mit den richtigen Leitplanken, menschlicher Aufsicht und Transparenz einführen, haben wenig zu befürchten und heben sich von Wettbewerbern ab, die leichtfertig vorgehen [8]. Wer das Haftungsrisiko ernst nimmt, nutzt Chatbot und Voice KI ohne böse Überraschungen.
Häufige Fragen
Wer haftet rechtlich, wenn ein Chatbot falsche Informationen gibt? Das Unternehmen, das den Chatbot betreibt. KI-Systeme sind keine Rechtssubjekte – die Verantwortung für falsche Auskünfte, irreführende Aussagen oder Datenschutzverstöße liegt immer beim Betreiber.
Was fordert der EU AI Act von Unternehmen, die Chatbots einsetzen? Kundenservice-Chatbots fallen typischerweise in die Kategorie „begrenztes Risiko" und müssen offenlegen, dass sie KI sind. Die Offenlegungspflicht nach Art. 50 Abs. 1 KI-VO gilt ab August 2026. Dazu kommt die Pflicht, das eigene Team über die Funktionsweise der eingesetzten KI zu schulen. Verstöße können mit bis zu 35 Millionen Euro oder 7 Prozent des Umsatzes geahndet werden.
Gilt das Haftungsrisiko auch für Voice KI am Telefon? Ja. Die Haftungslogik ist technologieneutral. Was eine Voice KI gegenüber Kunden zusagt, wird dem Unternehmen zugerechnet – genau wie bei einem Mitarbeitenden im Telefongespräch. Besondere Bedeutung haben dabei Gesprächsprotokolle und klare Eskalationsregeln.
Was können Unternehmen konkret tun, um das Haftungsrisiko zu minimieren? Drei Maßnahmen sind zentral: (1) Den Chatbot vor dem Launch systematisch testen und Edge Cases durchspielen. (2) Finale Entscheidungen zu Verträgen, Preiszusagen und sensiblen Themen immer durch Menschen freigeben lassen (Human-in-the-Loop). (3) Rechtsberatung proaktiv einholen – Nutzungsbedingungen, Disclaimer und Datenschutzfragen vorab klären, nicht erst nach der ersten Abmahnung.
Quellen
- Die rechtliche Verantwortung von Chatbots: Unternehmen haften für ihre KI – Telepolis
- KI im Kundenservice: Unternehmen haften für falsche Auskünfte – WirtschaftsWoche
- KI im Kundenservice: Rechtliche Aspekte – eRecht24
- Wenn der KI-Chatbot falsche Werbeaussagen trifft: Haftung & Compliance bei Halluzinationen – Datenschutzticker
- Zu schön, um wahr zu sein: Haftung für KI-Chatbot auf Unternehmenswebsite (bbs-law) – Quelle zum Redaktionszeitpunkt nicht abrufbar (404)
- KI und Haftung: Wer haftet, wenn die KI Fehler macht? Produkthaftung, Schadensersatz, Organhaftung – IPLaw
- Chancen und Risiken bei der Anwendung von KI-Chatbots – PKF Salzburg
- KI-Haftung: Wer zahlt, wenn Ihr Chatbot einen Fehler macht? – ZeroCode Ventures