KI-Haftung: Wer zahlt, wenn Ihr Chatbot einen Fehler macht?

Ihr Chatbot gibt einem Kunden eine falsche Auskunft. Ihr KI-Tool verschickt ein Angebot mit dem falschen Preis. Ihre automatisierte Planung setzt drei Monteure auf denselben Auftrag. Wer ist dann verantwortlich — Sie, der Softwareanbieter oder „die KI"?

Es ist eine Frage, die immer mehr KMU-Unternehmer beschäftigt. Und mit der EU-KI-Verordnung, die seit 2025 schrittweise in Kraft tritt, ist es keine theoretische Frage mehr.

Die EU-KI-Verordnung: Was Sie wissen müssen

Die Europäische KI-Verordnung ist das weltweit erste umfassende KI-Gesetz. Seit Februar 2025 gelten die ersten Verbote, und im Laufe von 2026 treten immer mehr Regelungen in Kraft. Das Gesetz teilt KI-Systeme nach Risiko ein:

• Unannehmbares Risiko: verboten (z. B. Social Scoring, manipulative KI)
• Hohes Risiko: strenge Anforderungen (medizinische Diagnose, Kreditbewertung, HR-Auswahl)
• Begrenztes Risiko: Transparenzpflicht (Chatbots müssen offenlegen, dass sie KI sind)
• Minimales Risiko: keine zusätzlichen Regeln

Die meisten KI-Tools, die KMU nutzen — Chatbots, Planungstools, automatisierte E-Mails — fallen in die Kategorie begrenztes oder minimales Risiko. Das bedeutet aber nicht, dass Sie keinerlei Verantwortung tragen.

Sie sind der Betreiber

Hier liegt der Knackpunkt: Die KI-Verordnung unterscheidet zwischen dem Anbieter (wer die KI entwickelt) und dem Betreiber (wer die KI einsetzt). Wenn Sie einen Chatbot auf Ihrer Website einsetzen, sind Sie der Betreiber. Das bringt Pflichten mit sich:

• Transparenz: Sie müssen Kunden mitteilen, dass sie mit KI kommunizieren
• Aufsicht: Sie müssen die Ergebnisse kontrollieren und bei Fehlern eingreifen
• KI-Kompetenz: Seit 2025 sind Sie verpflichtet sicherzustellen, dass Ihr Team versteht, wie die KI funktioniert

Der letzte Punkt ist neu und wird oft unterschätzt. KI-Kompetenz ist kein vager Ratschlag — sie steht wörtlich im Gesetz. Ihre Mitarbeiter müssen verstehen, was die KI tut, wo ihre Grenzen liegen und wann sie eingreifen müssen.

Drei Szenarien, die schiefgehen

1. Der Chatbot, der zu viel verspricht

Ein Installationsunternehmen setzt einen KI-Chatbot für Kundenanfragen ein. Der Bot verspricht einem Kunden, dass eine Wärmepumpen-Installation „innerhalb von zwei Wochen" erledigt ist. In Wirklichkeit beträgt die Lieferzeit sechs Wochen. Der Kunde hält das Unternehmen beim Wort.

Wer haftet? Das Installationsunternehmen. Der Chatbot ist Ihr Vertreter. Was der Bot sagt, sagen Sie. Genau wie Sie für das verantwortlich sind, was ein Mitarbeiter am Telefon verspricht.

2. Die KI, die falsche Preise verschickt

Ein Großhändler automatisiert Angebote mit KI. Aufgrund eines Fehlers in den Produktdaten erstellt das System Angebote mit Preisen, die 40 % zu niedrig sind. Drei Kunden nehmen das Angebot an, bevor der Fehler entdeckt wird.

Wer haftet? Das kommt darauf an. Hatte das KI-Tool einen Bug, können Sie den Anbieter in die Pflicht nehmen. Lag der Fehler aber in Ihren Produktdaten, sind Sie selbst verantwortlich. In der Praxis: Sie liefern trotzdem, oder Sie verhandeln. Aber der Schaden bleibt bei Ihnen.

3. Die automatisierte Absage

Ein Recruiter nutzt KI zum Screening von Lebensläufen. Das Tool lehnt systematisch Kandidaten über 50 ohne klaren Grund ab. Ein abgelehnter Bewerber klagt vor Gericht.

Wer haftet? Der Recruiter als Betreiber. CV-Screening mit KI fällt unter die KI-Verordnung als Hochrisiko-Anwendung. Hier gelten strenge Anforderungen an Transparenz, menschliche Aufsicht und Nichtdiskriminierung.

Wie Sie sich als KMU schützen

Sie brauchen kein Rechtsteam einzustellen. Aber Sie sollten einige Grundmaßnahmen ergreifen:

1. Setzen Sie Grenzen für Ihre KI

Lassen Sie Ihren Chatbot keine festen Zusagen über Lieferzeiten, Preise oder Garantien machen. Bauen Sie Rückfalloptionen ein: „Für einen genauen Preis melde ich mich bei Ihnen." Das ist keine Einschränkung — das ist professionell.

2. Kontrollieren Sie die Ergebnisse

„Einrichten und vergessen" funktioniert bei KI nicht. Prüfen Sie regelmäßig, was Ihre KI-Tools produzieren. Lesen Sie die Chatverläufe. Überprüfen Sie die erstellten Angebote. Das kostet eine halbe Stunde pro Woche und verhindert Probleme im Wert von Tausenden von Euro.

3. Schulen Sie Ihr Team

KI-Kompetenz ist Pflicht, aber auch einfach klug. Stellen Sie sicher, dass jeder, der mit KI-Tools arbeitet, versteht:

• Was das Tool kann und was nicht
• Wann eingegriffen werden muss
• Wie Fehler erkannt und gemeldet werden

4. Dokumentieren Sie, was Sie tun

Halten Sie fest, welche KI-Tools Sie nutzen, wofür und welche Maßnahmen Sie ergreifen. Falls jemals eine Beschwerde kommt, möchten Sie zeigen können, dass Sie sorgfältig gehandelt haben.

5. Prüfen Sie Ihren Anbieter

Fragen Sie Ihren KI-Anbieter: Entspricht das System der KI-Verordnung? Welche Risikokategorie? Welche Dokumentation wird bereitgestellt? Ein seriöser Anbieter hat Antworten auf diese Fragen.

Die gute Nachricht

Die KI-Verordnung ist kein Strafgesetz, das KMU das Leben schwer machen soll. Es ist ein Qualitätsstandard. Unternehmen, die KI gut implementieren — mit den richtigen Leitplanken, menschlicher Aufsicht und Transparenz — haben nichts zu befürchten. Im Gegenteil: Sie heben sich von Wettbewerbern ab, die KI leichtfertig einsetzen.

Die Bußgelder für Verstöße können bis zu 35 Millionen Euro oder 7 % des Umsatzes betragen. Aber diese richten sich an schwere Verstöße durch große Akteure. Für KMU ist es viel relevanter, zivilrechtliche Haftung zu vermeiden: Kunden, die Sie für Fehler Ihrer KI verantwortlich machen.

Fazit: KI einsetzen ist nicht das Risiko — KI ignorieren schon

Die Unternehmen, die jetzt über Haftung nachdenken und ihre KI-Implementierung ernst nehmen, werden die sein, die das Vertrauen ihrer Kunden gewinnen. Nicht weil sie keine KI nutzen, sondern weil sie es richtig machen.

Möchten Sie wissen, ob Ihre KI-Tools den Vorschriften entsprechen? Oder möchten Sie KI von Anfang an mit den richtigen Leitplanken einsetzen? Machen Sie den kostenlosen AI-Scan und entdecken Sie, wo die Chancen liegen — ohne die Risiken.