KI-Chatbots im Unternehmen: Warum falsche Antworten schnell zur Haftungsfalle werden können

 KI-generiertes Bild mit DALL·E (OpenAI), erstellt über ChatGPT

Viele Unternehmen setzen mittlerweile auf KI-gestützte Chatbots, um Kund:innenanfragen effizient zu beantworten. Gerade auf Websites, im Kundenservice oder im Gesundheitsbereich sollen automatisierte Systeme rund um die Uhr Informationen liefern und Prozesse vereinfachen. Doch ein aktuelles Urteil des Oberlandesgerichts Hamm zeigt deutlich: Unternehmen können sich rechtlich nicht hinter einem KI-Chatbot verstecken. Wer künstliche Intelligenz einsetzt, haftet unter Umständen auch für deren falsche Aussagen.

OLG Hamm: Unternehmen haftet für Aussagen des KI-Chatbots

Im Mittelpunkt der Entscheidung des OLG Hamm (Az. 4 UKl 3/25) stand ein KI-Chatbot auf der Website einer ästhetischen Praxis. Der Chatbot hatte gegenüber Interessent:innen erklärt, die behandelnden Ärzte seien „Fachärzte für plastische und ästhetische Chirurgie“ beziehungsweise „Fachärzte für ästhetische Medizin“. Das Problem: Diese Facharztbezeichnungen existieren in dieser Form gar nicht.

Das Gericht wertete diese Angaben als irreführende geschäftliche Handlung nach dem Gesetz gegen den unlauteren Wettbewerb (UWG). Besonders relevant war dabei die Frage, ob die fehlerhaften Aussagen überhaupt dem Unternehmen zugerechnet werden können, obwohl sie von einer KI generiert wurden. Genau dies hat das OLG Hamm bejaht. Der Chatbot sei kein unabhängiger „Dritter“, sondern Teil der geschäftlichen Organisation des Unternehmens. Die Verantwortlichkeit verbleibt daher beim Betreiber der Website.

KI schützt nicht vor rechtlicher Verantwortung

Die Entscheidung ist ein deutliches Signal an Unternehmen, die KI-Systeme im Kundenkontakt einsetzen. Viele Betreiber gehen bislang davon aus, dass automatisierte Antworten rechtlich anders zu behandeln seien als klassische Werbeaussagen. Das OLG Hamm macht jedoch klar: Entscheidend ist nicht, ob die Information von einem Menschen oder einer künstlichen Intelligenz stammt. Maßgeblich ist vielmehr, dass das Unternehmen das System bewusst einsetzt und in seine geschäftlichen Abläufe integriert hat.

Damit verschärft sich das Haftungsrisiko erheblich. Denn moderne KI-Modelle arbeiten probabilistisch und können sogenannte „Halluzinationen“ erzeugen – also überzeugend klingende, aber objektiv falsche Informationen. Gerade im Wettbewerbsrecht, im Medizinrecht oder bei berufsrechtlich sensiblen Angaben kann dies schnell zu Abmahnungen, Unterlassungsansprüchen oder Schadensersatzforderungen führen.

Digital Services Act: Neue europäische Anforderungen für KI und Plattformen

Die Entscheidung des OLG Hamm fügt sich zugleich in die regulatorische Entwicklung auf europäischer Ebene ein. Mit dem Digital Services Act (DSA) schafft die Europäische Union umfangreiche Pflichten für Plattformbetreiber und digitale Dienste. Der DSA verfolgt das Ziel, Transparenz und Verantwortlichkeit im digitalen Raum zu stärken.

Besonders relevant ist dabei, dass Nutzer:innen ausdrücklich erkennen können müssen, wenn sie mit einem Chatbot kommunizieren. Außerdem sollen Unternehmen Kommunikationswege bereitstellen, die nicht ausschließlich auf automatisierten Systemen beruhen. Der europäische Gesetzgeber geht also ebenfalls davon aus, dass KI-Systeme Risiken bergen und deshalb kontrolliert werden müssen.

Für große Plattformen sieht der DSA sogar konkrete Risikobewertungs- und Risikominderungspflichten vor. Unternehmen müssen analysieren, ob ihre Systeme zur Verbreitung irreführender Inhalte beitragen können und geeignete Gegenmaßnahmen treffen.

Besondere Risiken im Gesundheitsbereich

Gerade im Gesundheitswesen hat die Entscheidung besondere Brisanz. Patient:innen vertrauen regelmäßig auf die fachliche Kompetenz und Qualifikation medizinischer Anbieter. Falsche Angaben zu Facharzttiteln oder Spezialisierungen können erhebliche Auswirkungen auf Behandlungsentscheidungen haben. Deshalb gelten in diesem Bereich besonders strenge Anforderungen an die Richtigkeit von Informationen.

Das Urteil dürfte jedoch weit über den Medizinsektor hinaus Bedeutung entfalten. Auch Kanzleien, Finanzdienstleister, Coaches, Online-Shops oder sonstige Unternehmen, die KI-gestützte Kommunikation einsetzen, sollten ihre Systeme kritisch überprüfen.

Warum Unternehmen ihren KI-Einsatz rechtlich prüfen lassen sollten

Viele Unternehmen integrieren KI-Tools derzeit mit hoher Geschwindigkeit in ihre internen Abläufe und den Kundenkontakt. Häufig fehlt jedoch eine rechtliche Prüfung der konkreten Nutzung. Genau hierin liegt ein erhebliches Risiko. Denn fehlerhafte oder irreführende Aussagen eines Chatbots können nicht nur wettbewerbsrechtliche Konsequenzen haben, sondern auch berufsrechtliche, datenschutzrechtliche oder haftungsrechtliche Fragen aufwerfen.

Eine anwaltliche Prüfung kann insbesondere sinnvoll sein bei:

• dem Einsatz von KI-Chatbots auf Unternehmenswebsites,

• automatisierten Kundenkommunikationen,

• KI-generierten Werbetexten,

• sensiblen Aussagen zu Qualifikationen oder Leistungen,

• sowie im Zusammenhang mit den Vorgaben des Digital Services Act und weiterer europäischer KI-Regulierung.

Gerade Unternehmen in regulierten Bereichen – etwa im Gesundheitswesen, Finanzsektor oder im rechtsberatenden Umfeld – sollten bestehende Systeme regelmäßig überprüfen lassen, um Haftungsrisiken möglichst frühzeitig zu erkennen und zu minimieren.

Die Entscheidung des OLG Hamm zeigt deutlich: KI kann Prozesse vereinfachen und wirtschaftliche Vorteile bringen. Rechtlich entbindet ihr Einsatz Unternehmen jedoch nicht von ihrer Verantwortung für die veröffentlichten Inhalte.