Ein mittelständisches Unternehmen führt ein KI-gestütztes Entscheidungssystem für die Kreditwürdigkeitsprüfung von Geschäftspartnern ein. Wenige Monate später weist ein abgelehnter Partner nach, dass die Entscheidung auf fehlerhaften Trainingsdaten beruhte — und macht Schadensersatz geltend. Wer haftet: der KI-Anbieter, das Unternehmen als Betreiber, oder der Geschäftsführer persönlich?
Die Haftung beim Einsatz von KI-Systemen richtet sich in Deutschland nach einem Zusammenspiel aus produkthaftungsrechtlichen Grundsätzen, dem allgemeinen Deliktsrecht des BGB sowie — seit dem Geltungsbeginn der KI-Verordnung (KI-VO) der EU — einem abgestuften Regulierungsrahmen, der Hochrisiko-KI-Systeme besonders strengen Pflichten unterwirft. Unternehmen, die KI-Systeme einsetzen oder in ihre Produkte integrieren, tragen als Betreiber eigenständige Verantwortung; Geschäftsführer können bei Verletzung ihrer Organisationspflichten persönlich in Haftung genommen werden.
Dieser Beitrag erläutert die einschlägigen Haftungsgrundlagen, beschreibt die Pflichten für Betreiber nach der KI-VO, zeigt typische Risikokonstellation im Mittelstand und empfiehlt konkrete Schritte zur Haftungsminimierung.
Warum KI-Haftung jetzt zur Chefsache wird
Der Einsatz generativer und automatisierter KI-Systeme ist im deutschen Mittelstand keine Zukunftsvision mehr, sondern operative Realität. Wer KI für Prognosen, Qualitätskontrolle, HR-Auswahlverfahren oder Kundeninteraktionen nutzt, übernimmt damit rechtliche Verantwortung, die sich nicht durch Vertragsklauseln vollständig auf den Softwareanbieter abwälzen lässt.
In der Mandatspraxis sehen wir, dass gerade inhabergeführte Unternehmen und mittelständische GmbHs das Haftungsrisiko beim KI-Einsatz zunächst unterschätzen. Die verbreitete Annahme „der Softwareanbieter haftet" entspricht nicht der Rechtslage. Das Produkthaftungsgesetz (ProdHaftG) adressiert den Hersteller des Produkts — doch wer ein KI-System betreibt und in eigene Prozesse integriert, agiert im Außenverhältnis selbst als Verantwortlicher gegenüber Dritten.
Verschärft wird die Situation durch die KI-VO (EU 2024/1689), die seit ihrem gestaffelten Inkrafttreten schrittweise für Betreiber und Anbieter von KI-Systemen gilt. Für Hochrisiko-Systeme — dazu zählen etwa KI-Anwendungen in Personalentscheidungen, kritischer Infrastruktur oder Bonitätsbewertungen — gelten besondere Transparenz-, Dokumentations- und Überwachungspflichten. Verstöße gegen diese Pflichten können nach der KI-VO mit Bußgeldern von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes geahndet werden — je nachdem, welcher Betrag höher ist.
Welche Haftungsgrundlagen greifen beim KI-Einsatz?
Die Haftung beim Einsatz von KI-Systemen ist kein monolithisches Rechtsinstitut, sondern ergibt sich aus dem Zusammenwirken mehrerer Normen. Ein strukturierter Überblick ist Voraussetzung für jede unternehmerische Risikoabwägung.
Produkthaftung nach ProdHaftG: Das Produkthaftungsgesetz erfasst Hersteller von fehlerhaften Produkten. KI-Software gilt zunehmend als Produkt im haftungsrechtlichen Sinne; die EU-Produkthaftungsrichtlinie 2024/2853 (Neufassung), die bis Ende 2026 in nationales Recht umzusetzen ist, stellt dies ausdrücklich klar und bezieht digitale Produkte und KI-Ausgaben ein. Der Hersteller haftet verschuldensunabhängig, soweit ein Produktfehler vorliegt. Für den Betreiber — also das Unternehmen, das die KI in seinen Prozessen einsetzt — greift die Produkthaftung hingegen nur unter engen Voraussetzungen.
Deliktische Haftung nach §§ 823 ff. BGB: Verursacht ein KI-System einen Schaden, weil das betreibende Unternehmen seine Verkehrssicherungspflichten verletzt hat — etwa durch unzureichende Überwachung, fehlende Validierung oder mangelhafte Datenbasis —, kommt eine Haftung nach § 823 Abs. 1 BGB in Betracht. Entscheidend ist die Frage, ob der Betreiber nach dem Stand der Technik zumutbare Schutzmaßnahmen ergriffen hat. Nach unserer Erfahrung ist genau dieser Punkt in Unternehmen am häufigsten unzureichend dokumentiert.
Vertragliche Haftung: Im B2B-Bereich trifft den Betreiber gegenüber seinen Vertragspartnern die Pflicht, nur solche KI-Systeme einzusetzen, die den vereinbarten oder gesetzlich vorausgesetzten Standards entsprechen. Scheitert eine Leistung oder entsteht ein Schaden, weil das KI-System fehlerhafte Outputs produziert hat, kann das vertragliche Haftungsregime einschlägig sein — ohne dass es auf deliktische Tatbestandsmerkmale ankommt.
KI-VO als öffentlich-rechtliche Pflichtenbasis: Die KI-Verordnung (EU 2024/1689) statuiert keine privatrechtliche Schadensersatzhaftung, setzt aber den Pflichtenkatalog, dessen Verletzung in Verbindung mit dem allgemeinen Deliktsrecht und nationalen Schadensersatznormen zur Haftungsbegründung herangezogen werden kann. Für Hochrisiko-KI-Systeme schreibt die KI-VO eine laufende Risikoüberwachung, technische Dokumentation und menschliche Aufsicht vor — Anforderungen, die unmittelbar in die betriebliche Organisation übersetzt werden müssen.
Was ist ein Hochrisiko-KI-System nach der KI-VO — und betrifft das Ihren Betrieb?
Die KI-VO unterscheidet vier Risikokategorien: verbotene KI-Praktiken, Hochrisiko-Systeme, Systeme mit begrenztem Risiko und Systeme mit minimalem Risiko. Für die Haftungsfrage ist die Einstufung als Hochrisiko-System zentral, weil hieran die schärfsten Betreiberpflichten knüpfen.
Als Hochrisiko-Systeme gelten nach Anhang III der KI-VO unter anderem KI-Anwendungen in folgenden Bereichen:
- Personalentscheidungen, Bewerberauswahl und -bewertung
- Bonitätsbewertung und Kreditwürdigkeitsprüfung natürlicher Personen
- Zugangskontrolle zu wesentlichen Dienstleistungen (Wasser, Gas, Wärme, Internet)
- Biometrische Identifikations- und Kategorisierungssysteme
- KI-gestützte Entscheidungen im Bildungsbereich
- Sicherheitskomponenten in kritischer Infrastruktur
Viele mittelständische Unternehmen setzen KI-Systeme in einem oder mehreren dieser Bereiche ein, ohne sich der regulatorischen Einordnung bewusst zu sein. Die Frage „Handelt es sich um ein Hochrisiko-System?" ist daher nicht akademisch, sondern entscheidend für die Pflichtenlage und — im Haftungsfall — für die Beurteilung des Verschuldens.
Betreiber von Hochrisiko-Systemen müssen nach der KI-VO ein Risikomanagementsystem etablieren, technische Unterlagen führen, Maßnahmen zur menschlichen Aufsicht implementieren und sicherstellen, dass das System nur unter den vom Anbieter spezifizierten Bedingungen eingesetzt wird. Nach unserer Einschätzung aus der Beratungspraxis sind diese Anforderungen für den Mittelstand mit verhältnismäßigem Aufwand erfüllbar — wenn die Einführung strukturiert angegangen wird.
Wie haftet der Geschäftsführer persönlich?
Die persönliche Haftung des Geschäftsführers beim KI-Einsatz ist eine der drängendsten Fragen aus Mandantensicht. Sie ergibt sich nicht unmittelbar aus der KI-VO, wohl aber aus dem gesellschaftsrechtlichen Pflichtenprogramm der §§ 43, 43a GmbHG sowie der allgemeinen deliktsrechtlichen Verantwortlichkeit.
Ein Geschäftsführer, der den Einsatz eines KI-Systems anordnet oder genehmigt, ohne die hierfür erforderliche organisatorische Sorgfalt walten zu lassen — also ohne hinreichende Risikoprüfung, ohne klare Zuständigkeiten, ohne Dokumentation und ohne Kontrollmechanismen —, handelt möglicherweise pflichtwidrig im Sinne des § 43 Abs. 2 GmbHG. Im Innenverhältnis kann die Gesellschaft ihn auf Schadensersatz in Anspruch nehmen.
Im Außenverhältnis — also gegenüber Dritten — kommt eine persönliche deliktische Haftung des Geschäftsführers nach § 823 Abs. 2 BGB in Verbindung mit einem Schutzgesetz in Betracht, wenn er selbst aktiv eine schutzgesetzwidrige Entscheidung getroffen oder Pflichtverletzungen durch Unterlassen perpetuiert hat. Die Rechtsprechung stellt insoweit auf den individuellen Veranlassungs- und Organisationsbeitrag des Organs ab.
Besonders relevant ist dies, wenn ein KI-System ohne ausreichende Prüfung personenbezogene Daten verarbeitet und dadurch ein Datenschutzverstoß eintritt. Nach Art. 83 DSGVO können Bußgelder bis zu 20 Millionen Euro oder 4 % des weltweiten Jahresumsatzes verhängt werden — und die Aufsichtsbehörden prüfen dabei zunehmend, ob die Geschäftsführung ihrer Leitungs- und Kontrollverantwortung nachgekommen ist.
Typische Haftungsfallen im Mittelstand: Wo entstehen Risiken?
Welche Konstellationen führen in der Praxis am häufigsten zu Haftungsrisiken? Die nachfolgende Darstellung benennt die vier häufigsten Risikopunkte, die wir in der Beratung beobachten.
Konstellation 1 — Unkritische Übernahme von KI-Outputs: Das Unternehmen setzt KI-generierte Entscheidungen ohne menschliche Kontrollinstanz um (etwa automatische Ablehnung von Vertragspartnern). Instrument: Einführung obligatorischer Überprüfungsstufen. Folge bei Unterlassen: Verletzung der Sorgfaltspflicht nach BGB, mögliche Haftung nach KI-VO wegen Verstoß gegen die Anforderung menschlicher Aufsicht bei Hochrisiko-Systemen.
Konstellation 2 — Mangelhafte Lieferantenprüfung: Anbieterverträge enthalten einseitige Haftungsausschlüsse; das Unternehmen hat keine Prüfrechte hinsichtlich der eingesetzten Trainingsdaten. Instrument: Due-Diligence-Klauseln im Softwareversorgungs-/Lizenzvertrag. Folge: Im Schadenfall kann mangels Regressoption der Schaden vollständig beim Betreiber verbleiben.
Konstellation 3 — Fehlende Dokumentation: Hochrisiko-KI-Systeme laufen ohne technische Dokumentation und ohne Protokoll der Risikoabwägung. Folge: Im Behörden- oder Gerichtsverfahren fehlt der Entlastungsbeweis. Die Umkehr der Darlegungslast wirkt sich in solchen Fällen erheblich zum Nachteil des Betreibers aus.
Konstellation 4 — Datenschutzrechtliche Zweckbindung missachtet: Ein KI-System wird für Zwecke eingesetzt, die bei der Erhebung der Trainingsdaten nicht kommuniziert wurden. Die 72-Stunden-Meldefrist nach Art. 33 DSGVO bei Datenschutzverletzungen läuft auch in diesem Kontext, und ein Verstoß gegen die Zweckbindung kann den Anspruch auf Löschung und Schadensersatz nach Art. 82 DSGVO auslösen.
In einem aktuellen Mandat
In einem aktuellen Mandat beriet die Kanzlei ein inhabergeführtes Logistikunternehmen mit rund 250 Mitarbeitern, das ein KI-gestütztes Tourenplanungs- und Risikobeurteilungssystem eines US-amerikanischen Anbieters einführen wollte. Ausgangslage: Der Anbietervertrag enthielt einen weitgehenden Haftungsausschluss; das System verarbeitete Standort- und Verhaltensdaten der Fahrer. Eine Risikoklassifizierung nach KI-VO war nicht durchgeführt worden. Vorgehen: Die Kanzlei prüfte die Einstufung nach Anhang III KI-VO, analysierte den Lizenzvertrag auf Prüfrechte und Datenschutzkonformität und entwarf ergänzende Vertragsklauseln zur Datenschutz-Folgenabschätzung sowie ein internes Kontrollprotokoll. Ergebnis: Der Vertrag wurde um Auskunfts- und Auditrechte erweitert; das System wurde — nach Anpassung der Datenbasis — als Nicht-Hochrisiko-System eingestuft, was den Pflichtenkatalog erheblich reduzierte. Die Einführung konnte rechtssicher gestaltet werden.
Was müssen Betreiber jetzt konkret tun? Ein strukturierter Fahrplan
Die vorstehenden Haftungsgrundlagen verlangen vom Unternehmen aktives Handeln. Abwarten ist keine Option — insbesondere weil die KI-VO gestaffelt in Kraft tritt und die Übergangspflichten für Hochrisiko-Systeme bereits laufen.
Schritt 1 — KI-Inventar erstellen: Erfassen Sie alle im Unternehmen eingesetzten oder geplanten KI-Systeme. Klären Sie für jedes System: Wer ist Anbieter, wer Betreiber? Welche Entscheidungen werden durch das System beeinflusst oder automatisiert?
Schritt 2 — Risikoklassifizierung: Ordnen Sie jedes KI-System den Risikokategorien der KI-VO zu. Für Hochrisiko-Systeme beginnen Sie unverzüglich mit der Erstellung der technischen Dokumentation und der Risikoabwägung. Diese Einordnung ist rechtlich anspruchsvoll und sollte anwaltlich begleitet werden.
Schritt 3 — Vertragsanalyse und Nachverhandlung: Prüfen Sie bestehende Lizenz- und Serviceverträge mit KI-Anbietern auf Haftungsverteilung, Auskunfts- und Auditrechte, Datenschutzkonformität und Service-Level-Zusagen. Fehlen diese Klauseln, sind Nachverhandlungen geboten — bevor ein Schadensfall eintritt.
Schritt 4 — Interne Governance: Weisen Sie KI-Governance als Verantwortungsbereich einem benannten Verantwortlichen zu. Implementieren Sie eine Prüfroutine für neue KI-Projekte (analoog zu einer regulären Investitionsprüfung). Dokumentieren Sie Entscheidungen zur KI-Einführung so, dass sie im Ernstfall als Entlastungsbeweis dienen können.
Schritt 5 — Datenschutz-Folgenabschätzung (DSFA): Für KI-Systeme, die personenbezogene Daten in großem Umfang oder mit hohem Risiko für Betroffene verarbeiten, ist eine DSFA nach Art. 35 DSGVO Pflicht. Führen Sie diese vor dem Produktiveinsatz durch, nicht danach.
Die vorstehende Darstellung betrifft die typischen Regelfälle des KI-Haftungsrechts. Ihr konkreter Sachverhalt erfordert die Prüfung der eingesetzten Systeme, der vertraglichen Grundlagen und der einschlägigen Rechtsprechung. Für eine fachliche Einschätzung Ihrer Situation schreiben Sie an info@brandtfalk.com.
Haftungsbegrenzung durch Vertragsgestaltung: Was ist möglich, was nicht?
Eine vollständige vertragliche Haftungsfreistellung des KI-Betreibers ist rechtlich nicht erreichbar — und auch nicht angestrebt. Es geht vielmehr darum, das Haftungsrisiko sachgerecht zwischen Anbieter und Betreiber zu verteilen.
Im B2B-Verhältnis sind Haftungsbeschränkungen nach §§ 305 ff. BGB und § 307 BGB grundsätzlich zulässig, sofern sie nicht gegen wesentliche Grundgedanken des Gesetzes verstoßen. Eine AGB-Klausel, die jegliche Haftung des Anbieters für fehlerhafte KI-Outputs ausschließt, wird einer Inhaltskontrolle aber nur standhalten, wenn dem Betreiber zumindest Prüf- und Auditrechte verbleiben. Vollständige Haftungsausschlüsse für Vorsatz und grobe Fahrlässigkeit sind nach § 309 Nr. 7 BGB unwirksam.
In Verhandlungen mit internationalen Anbietern empfiehlt sich die Vereinbarung von Haftungsobergrenzen nach Schadenskategorie, verbunden mit Zertifizierungspflichten des Anbieters (insbesondere nach der KI-VO) und Gewährleistungen hinsichtlich der Qualität der Trainingsdaten. Stellt sich später heraus, dass der Anbieter diese Zusicherungen verletzt hat, kann das Unternehmen Rückgriff nehmen.
Regressregelungen im Innenverhältnis — also zwischen Gesellschaft und Geschäftsführer — sollten in der Satzung oder in einem Geschäftsführeranstellungsvertrag klar geregelt sein. Eine fehlende Regelung wirkt nicht zu Gunsten des Geschäftsführers; die gesetzliche Haftungsregelung des § 43 GmbHG ist dispositiv nur in engen Grenzen.
Häufige Fragen zur Haftung beim Einsatz von KI-Systemen
Haftet der Softwareanbieter oder das Unternehmen, das die KI einsetzt?
Beide können haften — auf unterschiedlicher Grundlage. Der Anbieter haftet als Hersteller nach produkthaftungsrechtlichen Grundsätzen für Produktfehler. Das einsetzende Unternehmen als Betreiber haftet nach dem BGB, wenn es seine Verkehrssicherungs- und Organisationspflichten verletzt, sowie nach der KI-VO, wenn es Betreiberpflichten für Hochrisiko-Systeme missachtet. Im Schadenfall kommen beide Haftungsebenen nebeneinander in Betracht. Eine vollständige Abwälzung auf den Anbieter ist rechtlich regelmäßig nicht möglich.
Was ist ein Hochrisiko-KI-System nach der KI-VO?
Die KI-Verordnung (EU 2024/1689) definiert Hochrisiko-KI-Systeme in Anhang III. Erfasst sind unter anderem Systeme für Personalentscheidungen, Bonitätsbewertungen, biometrische Identifikation und sicherheitskritische Infrastruktur. Für diese Systeme gelten besondere Pflichten: technische Dokumentation, Risikomanagementsystem, menschliche Aufsicht und Registrierungspflichten. Die Einordnung sollte durch rechtlich und technisch sachkundige Personen vorgenommen werden, da Fehlklassifikationen erhebliche Bußgeldrisiken nach sich ziehen können.
Kann der Geschäftsführer persönlich haften, wenn ein KI-System einen Schaden verursacht?
Ja, unter bestimmten Voraussetzungen. Im Innenverhältnis haftet der Geschäftsführer der Gesellschaft gegenüber nach § 43 GmbHG, wenn er den KI-Einsatz ohne hinreichende Sorgfalt angeordnet oder organisiert hat. Im Außenverhältnis kommt deliktische Haftung in Betracht, wenn er selbst schutzgesetzwidrig handelt — etwa durch Anordnung einer datenschutzwidrigen KI-Nutzung. Zudem prüfen Aufsichtsbehörden im Bußgeldverfahren nach DSGVO und KI-VO die Leitungsverantwortung der Geschäftsführung.
Welche Datenschutzpflichten gelten beim Einsatz von KI-Systemen besonders?
KI-Systeme, die personenbezogene Daten verarbeiten, unterliegen vollumfänglich der DSGVO. Besonders relevant ist die Pflicht zur Datenschutz-Folgenabschätzung (Art. 35 DSGVO) bei hohem Verarbeitungsrisiko — eine Voraussetzung, die viele KI-Anwendungen erfüllen. Hinzu kommen Zweckbindung, Datenminimierung und Transparenzpflichten. Bei Datenpannen gilt die 72-Stunden-Meldefrist nach Art. 33 DSGVO. Verletzungen können mit Bußgeldern bis zu 20 Millionen Euro oder 4 % des weltweiten Jahresumsatzes geahndet werden.
Wie sollten KI-Anbieterverträge gestaltet sein, um Haftungsrisiken zu begrenzen?
Wichtige Vertragsbestandteile sind: klare Haftungsverteilung zwischen Anbieter und Betreiber, Auskunfts- und Auditrechte hinsichtlich Trainingsdaten und Systemarchitektur, Gewährleistungen zur KI-VO-Konformität des Anbieters sowie Regelungen zur Datenschutz-Folgenabschätzung. Vollständige Haftungsausschlüsse des Anbieters halten einer AGB-Inhaltskontrolle nach §§ 305 ff. BGB in der Regel nicht stand. Die Vertragsgestaltung sollte die spezifische Risikokategorie des eingesetzten Systems widerspiegeln.
Verwandte Leistungen
Die vorstehende Darstellung betrifft die Regelfälle der KI-Haftung. Ihr konkreter Fall erfordert die Prüfung Ihrer eingesetzten Systeme, der Vertragsgrundlagen und der aktuellen Rechtsprechung. Zur Klärung, wie die KI-VO und das BGB auf Ihr Unternehmen wirken, wenden Sie sich an info@brandtfalk.com.
Dieser Beitrag dient ausschließlich der allgemeinen Information und stellt keine Rechtsberatung im Einzelfall dar. Er ersetzt nicht die anwaltliche Prüfung Ihres konkreten Sachverhalts. Für eine auf Ihre Situation zugeschnittene Beratung wenden Sie sich an info@brandtfalk.com.
Dieser Beitrag ist eine allgemeine Information und stellt keine Rechtsberatung dar. Für eine Prüfung Ihres Falls kontaktieren Sie info@brandtfalk.com.