KI erfindet Angebote und Mails: Ab Dezember 2026 haften Sie dafür
Wenn das Modell erfindet statt zu wissen: Halluzination im Geschäftsdokument.
Ein Kunde bekommt ein Angebot mit einem Preis, den nie jemand kalkuliert hat. Eine Kundenmail sagt eine Lieferzeit zu, die technisch unmöglich ist. Ein interner Bericht enthält Zahlen, die es schlicht nicht gibt. Klingt nach Einzelfall? Ist es nicht. Es ist die logische Folge davon, wie Sprachmodelle wie ChatGPT oder Copilot funktionieren – und ab Dezember 2026 wird genau das für viele Unternehmen zur teuren Falle.
Wer im Mittelstand KI für Angebote, Berichte oder Kundenkommunikation nutzt, sollte jetzt genau hinschauen. Denn zwei rechtliche Entwicklungen treffen aufeinander: die Pflicht, KI-Kompetenz im Unternehmen nachzuweisen, und eine neue Produkthaftung, die keine Obergrenze mehr kennt. Wer beides ignoriert, verlässt sich auf Glück statt auf Sicherheit.
Warum KI lügt, ohne es zu merken
Sprachmodelle wissen nichts. Sie berechnen, welches Wort mit welcher Wahrscheinlichkeit als nächstes folgt. Das Ergebnis liest sich meistens überzeugend – manchmal ist es trotzdem frei erfunden. Man nennt das Halluzination: eine sachlich falsche Ausgabe, die ganz ohne erkennbares Zögern produziert wird. Falsche Preise, erfundene Paragraphen, nicht existierende Referenzen, Zahlen aus dem Nichts.
Das eigentliche Problem ist dabei nicht die Fehlerquote. Es ist die Tatsache, dass das Modell keine Unsicherheit signalisiert. Es klingt bei einer erfundenen Zahl genauso souverän wie bei einer korrekten. Genau das macht Halluzinationen so tückisch – und genau deshalb werden sie im Arbeitsalltag so selten hinterfragt.
Wo es im Alltag konkret wird
Laut Bitkom 2026 setzen unter den Unternehmen, die KI bereits aktiv nutzen, 68 Prozent sie für Textgenerierung ein, 54 Prozent für Dokumenten- und Datenanalyse, 41 Prozent für Kundenkommunikation. Genau dort wird eine Halluzination schnell konkret:
- Ein Angebot mit falscher Spezifikation oder erfundenem Preis ist rechtlich bindend, sobald es verschickt ist.
- Eine Kundenmail mit falscher Zusage schafft Erwartungen, die entweder erfüllt werden müssen – oder Reputationsschaden verursachen.
- Ein Bericht mit erfundenen Zahlen kann Entscheidungen mit echten Konsequenzen anstoßen.
Fachmedien wie Computerwoche und VisionaryData zählen KI-Halluzinationen 2026 zu den am meisten unterschätzten Risiken im Unternehmenseinsatz – vor allem, weil viele kleinere und mittlere Betriebe KI-Ausgaben ohne jeden Prüfprozess weiterverwenden.
Wer haftet, wenn die KI im Angebot lügt? Im Mittelstand meist der Chef.
Was sich rechtlich ändert – und warum das jetzt eilig wird
Zwei regulatorische Bausteine greifen ineinander und verschärfen die Lage für Unternehmen ohne geordnete KI-Prozesse.
EU AI Act, Artikel 4 verpflichtet Unternehmen seit Februar 2025, sicherzustellen, dass Mitarbeitende KI-Ausgaben kritisch einschätzen und Halluzinationen erkennen können. Durchgesetzt wird das ab August 2026. Wer KI-Outputs ohne Schulung und Prüfprozess einfach durchreicht, erfüllt diese Pflicht nicht.
Die EU-Produkthaftungsrichtlinie RL 2024/2853 muss bis zum 9. Dezember 2026 umgesetzt sein – eine nahende Pflicht, noch kein überall geltendes Recht. Sie stuft KI-Systeme und Software künftig als Produkte im Sinne des Produkthaftungsrechts ein. Wer KI-Outputs in eigene Angebote oder Leistungen einbaut, haftet dann verschuldensunabhängig für Schäden durch fehlerhafte Ergebnisse. Die bisherige Haftungsobergrenze von 85 Millionen Euro fällt weg.
Wichtig zur Einordnung: Verschuldensunabhängig heißt nicht automatisch schadensersatzpflichtig. Der Geschädigte muss weiterhin Produktfehler, Schaden und Kausalzusammenhang nachweisen – nur das Verschulden des Unternehmens muss er nicht mehr belegen. Die Beweislast verschiebt sich, sie verschwindet nicht.
| Regelung | Seit wann relevant | Was sie verlangt |
|---|---|---|
| EU AI Act, Art. 4 | In Kraft seit Feb. 2025, Durchsetzung ab Aug. 2026 | Nachweisbare KI-Kompetenz und Prüfprozesse im Unternehmen |
| EU-Produkthaftungsrichtlinie 2024/2853 | Umsetzungsfrist bis 9. Dez. 2026 | Verschuldensunabhängige Haftung für fehlerhafte KI-Outputs, keine Haftungsobergrenze |
Der Mittelstand hat besonders wenig Puffer
Ohne eigene Rechtsabteilung, ohne Compliance-Team, ohne CISO läuft KI-Nutzung in vielen Betrieben informell: Einzelne Mitarbeitende nutzen ChatGPT oder Copilot nach eigenem Ermessen, ohne dass die Geschäftsführung genau weiß, welche Outputs in welche Prozesse fließen. Kein Monitoring, kein Human-in-the-Loop, keine Dokumentation – und damit im Ernstfall auch kein Nachweis, dass angemessene Risikomaßnahmen ergriffen wurden.
Die häufigsten Denkfehler im Unternehmensalltag
- „Modelle werden besser, das Problem löst sich von selbst.“ Halluzinationen sind eine strukturelle Eigenschaft von Sprachmodellen, kein Bug, der irgendwann gepatcht wird. Neuere Modelle halluzinieren seltener – aber nie mit Sicherheit nie.
- „Unser Tool hat noch nie einen Fehler gemacht.“ Keinen Fehler bemerkt zu haben ist nicht dasselbe wie keinen gemacht zu haben.
- „Wir nutzen nur ChatGPT, kein eigenes KI-System.“ Auch der ungeregelte Einsatz öffentlicher Sprachmodelle durch Mitarbeitende begründet Pflichten nach Art. 4 des EU AI Act.
- „Das ist Sache des Herstellers.“ Wer KI-Outputs in eigene Angebote oder Kommunikation einbettet, steht nach der Produkthaftungsrichtlinie selbst in der Pflicht.
- „Ein Kollege schaut ja drüber.“ Sporadisches Gegenlesen ist kein dokumentierter Kontrollprozess – und im Schadensfall nicht nachweisbar.
Was ein geordneter Rahmen konkret bedeutet
Genau hier setzen AI Security Audits an, wie sie etwa KINAQ Solutions für mittelständische Unternehmen durchführt. Geprüft wird, ob bereits eingesetzte KI-Systeme – Chatbots, Agenten, Assistenten, Automationen – verlässlich arbeiten und keine unkontrollierten Outputs produzieren. Dazu gehören Live-Tests, ob Systeme manipulierbar sind, ungewollt Daten preisgeben oder eigenständig handeln, ohne es zu sollen.
Human-in-the-Loop ist dabei kein optionales Extra, sondern Standard: Kritische Schritte wie Angebote, Kundenmails oder Zahlungsfreigaben werden so aufgesetzt, dass die KI vorbereitet und ein Mensch final freigibt. Damit entsteht der Nachweis angemessener Risikomaßnahmen – nicht nur die Behauptung, alles im Griff zu haben.
Unkontrollierte KI-Nutzung in geschäftskritischen Dokumenten ist damit kein abstraktes Zukunftsthema mehr. Es geht ganz konkret darum, ob ein Unternehmen belegen kann, dass es seine KI-Systeme kennt, kontrolliert und abgesichert hat – oder ob es sich im Schadensfall nur auf Annahmen verlassen muss.
Kontrollierte KI im Betrieb: wissen, was das System tut – und was nicht.
Fazit: Kontrolle ist jetzt der Wettbewerbsvorteil
Die Frage ist nicht mehr, ob Sprachmodelle irgendwann etwas erfinden – sie tun es bereits, strukturell und unabhängig vom Anbieter. Die Frage ist, ob in Ihrem Unternehmen ein Mensch die letzte Kontrolle über Angebote, Kundenmails und Berichte behält, bevor sie das Haus verlassen. Ab Dezember 2026 wird aus dieser organisatorischen Frage eine haftungsrechtliche.
Nehmen Sie sich diese Woche zehn Minuten und gehen Sie durch, wo KI in Ihrem Betrieb tatsächlich überall mitschreibt – informell, unbemerkt, ohne Prüfprozess. Das allein zeigt oft schon, wie groß die Lücke wirklich ist. Ein unverbindliches Erstgespräch mit KINAQ Solutions kann der nächste sinnvolle Schritt sein, um aus Annahmen belegbare Sicherheit zu machen.
Muss ich schon heute handeln, obwohl die Produkthaftungsrichtlinie erst Ende 2026 greift?
Ja, denn die Pflicht zur KI-Kompetenz nach EU AI Act wird bereits ab August 2026 durchgesetzt, und Prüfprozesse lassen sich nicht über Nacht aufbauen.
Reicht es, wenn ein Mitarbeiter KI-Texte vor dem Versand gegenliest?
Nur dann, wenn dieses Gegenlesen als klar definierter, konsistent angewendeter Prozess dokumentiert ist – ein gelegentlicher Blick reicht als Nachweis nicht aus.
Betrifft das auch Unternehmen, die nur ChatGPT ohne eigene KI-Systeme nutzen?
Ja, denn auch der informelle Einsatz öffentlicher Sprachmodelle durch Mitarbeitende begründet Pflichten, sobald die Ergebnisse in Angebote oder Kundenkommunikation einfließen.
Was genau prüft ein AI Security Audit?
Es wird getestet, ob eingesetzte KI-Systeme manipulierbar sind, ungewollt Daten preisgeben oder unkontrolliert handeln, und es wird ein Human-in-the-Loop-Prozess für kritische Schritte etabliert, falls nötig.
Haftet nicht in erster Linie der Hersteller des KI-Modells?
Nein, wer KI-Outputs in eigene Produkte, Angebote oder Kommunikation einbettet, steht nach der Produkthaftungsrichtlinie selbst in der Verantwortung, unabhängig vom Modell-Anbieter.