Ab Dezember gilt Software als Produkt: Haftet dann der Anbieter, wenn Ihr KI-Agent Schaden anrichtet?

Shownotes

Letzte Woche haben wir uns mit einem Satz verabschiedet: Ab Dezember gilt Software als Produkt. Diese Woche misst Tina unseren eigenen Satz nach. Er stimmt, und er führt trotzdem in die Irre: Die neue Produkthaftung schützt nur natürliche Personen, und beruflich genutzte Daten sind ausdrücklich ausgenommen. Was bleibt einem Unternehmen, wenn sein KI-Agent Schaden anrichtet? Der Vertrag mit dem Anbieter. Wir haben drei Standardverträge gelesen. Dazu der Fall Air Canada, drei Schritte für diese Woche und eine terminierte Prognose.

Die Themen:
- Nachgetragen in eigener Sache: Unser Ausblick aus Folge 11, „Ab Dezember gilt Software als Produkt“, klang nach mehr Schutz, als das Gesetz gibt. Wir prüfen ihn wie jedes Anbieterversprechen
- Was stimmt: Die Richtlinie (EU) 2024/2853 zählt Software ausdrücklich zu den Produkten (Art. 4 Nr. 1). Der deutsche Gesetzentwurf nennt den 9. Dezember 2026 als Tag des Inkrafttretens. Beschlossen war er bei Redaktionsschluss am 5. Oktober 2026 nicht; die Tagesordnung des Bundestags führte die abschließende Beratung für Donnerstag, 8. Oktober
- Was der Satz verschwieg: Anspruch auf Schadensersatz hat „jede natürliche Person“ (Art. 5 Abs. 1). Ersetzt wird der Verlust von Daten nur, wenn sie „nicht für berufliche Zwecke verwendet werden“ (Art. 6 Abs. 1 c). Der deutsche Entwurf übernimmt das in § 1, und seine Begründung sagt es ausdrücklich. Die Regeln gelten nur für Produkte, die nach dem 9. Dezember 2026 in Verkehr kommen
- Drei Standardverträge nebeneinander, OpenAI, Anthropic und Salesforce: Im Normalfall endet die Haftung bei den Gebühren der letzten zwölf Monate. Bei OpenAI und, für Kunden in Deutschland, bei Salesforce gilt die Grenze nicht bei Vorsatz und grober Fahrlässigkeit. Bei Anthropic steht eine solche Ausnahme nicht im Text. Messart: Vertragstext des Anbieters, selbst gelesen
- Die Grenzen dieser Messung: Gelesen haben wir die drei Hauptverträge, keine individuell verhandelten Verträge und nicht jedes Zusatzdokument. OpenAI verweist auf weitere Freistellungen in seinen dienstspezifischen Bedingungen; dieses Dokument konnten wir nicht abrufen und sagen dazu nichts. Ob eine Haftungsgrenze vor einem deutschen Gericht hält, haben wir nicht geprüft
- Das Urteil nach unserer neuen Skala (belegt, belegt aber irreführend dargestellt, unbelegt, widerlegt): Unser eigener Satz ist belegt, aber irreführend dargestellt. Bezahlt hat ihn niemand, er ist von uns
- Der Streit der Folge: Frank nennt die Reform einen Fortschritt. Tina hält mit Art. 15 und Art. 10 dagegen. Frank antwortet mit Art. 8 Abs. 2: Wer ein Produkt wesentlich verändert und in Betrieb nimmt, gilt selbst als Hersteller. Ob das Einrichten eines Agenten dazu zählt, sagt der Text nicht
- Die geplante KI-Haftungsrichtlinie der EU ist zurückgenommen (Amtsblatt C vom 6. Oktober 2025)
- Das Lagerfeuer: Moffatt gegen Air Canada, Februar 2024. Der Chatbot der Fluglinie stellt eine nachträgliche Erstattung in Aussicht, die es nicht gibt. Die Fluglinie legt nahe, der Chatbot sei für sich selbst verantwortlich. Das Gericht nennt das einen bemerkenswerten Vortrag. Es war ein Chatbot, kein Agent, und ein Schiedsgericht für kleine Forderungen
- Drei Schritte für diese Woche, ohne Budget: die Haftungsgrenze im eigenen Vertrag suchen und in Euro ausrechnen; den Versicherer schriftlich fragen, ob Schäden durch KI gedeckt sind; für jeden Chatbot und Agenten mit Kundenkontakt einen Menschen mit Namen festlegen, der die Aussagen verantwortet
- Die Prognose der Folge, geführt in unserem Mess-Sheet: Bis 30. Juni 2027 hebt keiner der drei Anbieter die Grenze von zwölf Monatsgebühren in seinen Standardbedingungen an, und keiner sagt darin zu, für Schäden durch seinen Agenten einzustehen. Ändert einer von ihnen eines von beiden, lag Frank falsch

Quellen:
- Richtlinie (EU) 2024/2853 über die Haftung für fehlerhafte Produkte, Amtsblatt: https://eur-lex.europa.eu/eli/dir/2024/2853/oj
- Bundesregierung, Entwurf eines Gesetzes zur Modernisierung des Produkthaftungsrechts, Bundestagsdrucksache 21/4297 (PDF): https://dserver.bundestag.de/btd/21/042/2104297.pdf
- Deutscher Bundestag, erste Lesung am 4. März 2026: https://www.bundestag.de/dokumente/textarchiv/2026/kw10-de-produkthaftungsrecht-1150448
- Deutscher Bundestag, Tagesordnung der Sitzungswoche (PDF, Stand 5. Oktober 2026): https://www.bundestag.de/resource/blob/473452/Tagesordnung-komplett.pdf
- OpenAI, Services Agreement (PDF, Fassung v.010126): https://cdn.openai.com/osa/openai-services-agreement.pdf
- Anthropic, Commercial Terms of Service (gültig ab 17. Juni 2025): https://www.anthropic.com/legal/commercial-terms
- Salesforce, Main Services Agreement (PDF, Stand 1. September 2026, Abschnitt 12.13 für Kunden in Deutschland): https://www.salesforce.com/en-us/wp-content/uploads/sites/4/documents/legal/Salesforce_MSA.pdf
- Europäische Kommission, Rücknahme von Vorschlägen, C/2025/5423, Amtsblatt C vom 6. Oktober 2025: http://publications.europa.eu/resource/celex/52025XC05423
- Civil Resolution Tribunal British Columbia, Moffatt v. Air Canada, 2024 BCCRT 149: https://decisions.civilresolutionbc.ca/crt/crtd/en/item/525448/index.do
- Oberlandesgericht Hamm, Urteil vom 12. Mai 2026, 4 UKl 3/25 (erzählt in Folge 9): https://nrwe.justiz.nrw.de/olgs/hamm/j2026/4_UKl_3_25_Urteil_20260512.html

Wichtig: Alle Aussagen wurden am 5. Oktober 2026 gegen die genannten Quellen geprüft. Vertragsangaben stammen aus den öffentlichen Standardbedingungen der Anbieter. Diese Folge ist keine Rechtsberatung.

Unser Mess-Sheet mit allen geprüften Versprechen und den offenen Prognosen: https://darc-transform.de/podcast/mess-sheet/

Schicken Sie uns das Versprechen Ihres KI-Anbieters, gern per E-Mail oder auf LinkedIn. Wir suchen uns jede Woche eines zum Nachmessen aus; ein Anspruch auf Prüfung besteht nicht, und für Verdachtsfälle gelten die Regeln sorgfältiger Berichterstattung.

Nächste Folge am 14. Oktober: Ist KI der Jobkiller Nummer eins? Wir lesen nach, was die meistzitierte Zahl wirklich zählt. Wie immer mittwochs um 11:07 Uhr.

Mehr zum Podcast: https://darc-transform.de/podcast/

KI-Transparenz: Beide Stimmen in dieser Folge sind KI-generiert, auch Frank hören Sie als KI-Stimme. Die Gedanken und die Worte sind seine. Mehr: https://darc-transform.de/podcast/