Ein Logistikunternehmen setzt ein KI-gestütztes Routenoptimierungssystem ein — und ein Fahrer erleidet einen Unfall, weil das System eine gefährliche Route empfahl. Ein mittelständischer Maschinenbauer integriert ein KI-Modul zur Qualitätskontrolle; ein Fehler bleibt unentdeckt, das Produkt schädigt einen Kunden. Wer haftet? Der Softwareanbieter, der Systemintegrator, das Unternehmen selbst — oder der Geschäftsführer persönlich?
Die Haftung beim Einsatz von KI-Systemen richtet sich derzeit primär nach dem deutschen Zivilrecht (BGB) sowie dem Produkthaftungsgesetz (ProdHaftG). Mit der EU-KI-Verordnung (KI-VO, Verordnung (EU) 2024/1689) tritt ein eigenständiges Regelungssystem hinzu, das Betreibern von Hochrisiko-KI-Systemen unmittelbar Pflichten auferlegt. Für Geschäftsführer im Mittelstand folgt daraus: Wer KI-Systeme einsetzt, ohne Haftungsrisiken systematisch zu steuern, gefährdet nicht nur das Unternehmensvermögen, sondern auch seine persönliche Haftungsposition.
Dieser Beitrag analysiert die maßgeblichen Haftungsgrundlagen, ordnet die KI-VO in das bestehende Normsystem ein, zeigt typische Haftungsfallen im mittelständischen Betrieb und gibt einen strukturierten Handlungsrahmen für die anwaltliche Gestaltung.
Welcher Rechtsrahmen gilt heute für die KI-Haftung in Deutschland?
Die Frage nach der Haftung beim Einsatz von KI-Systemen lässt sich nicht mit einem einzigen Normverweis beantworten. Das deutsche Recht kennt bis zur vollständigen Geltung der KI-VO kein KI-spezifisches Haftungsregime. Es gilt ein Ensemble aus allgemeinem Deliktsrecht, Produkthaftungsrecht und vertraglichen Grundlagen — ergänzt durch die stufenweise anwendbaren Vorgaben der KI-VO.
Das Deliktsrecht des BGB setzt an der Verschuldensfrage an. Nach § 823 Abs. 1 BGB haftet, wer vorsätzlich oder fahrlässig ein absolutes Rechtsgut verletzt. Fahrlässigkeit bei KI-Einsatz bedeutet in der Praxis: Hat das Unternehmen die im Verkehr erforderliche Sorgfalt eingehalten? Maßstab sind dabei die allgemein anerkannten Regeln der Technik, einschlägige Normen (etwa ISO/IEC 42001) sowie — soweit anwendbar — die Sorgfaltspflichten aus der KI-VO. Wer diese nicht beachtet, hat ein Verschulden, das zur Haftung führt.
Das Produkthaftungsgesetz (ProdHaftG), das die europäische Produkthaftungsrichtlinie umsetzt, knüpft an einen fehlerhaften Produktbegriff an. Ob KI-Systeme als „Produkte" im Sinne des ProdHaftG einzuordnen sind, war lange umstritten. Die überarbeitete EU-Produkthaftungsrichtlinie (2024/2853/EU) stellt Software und KI-Systeme nunmehr ausdrücklich Produkten gleich. Die Umsetzungsfrist läuft; für das mittelständische Unternehmen als Importeur oder Hersteller eines KI-gestützten Produkts ergibt sich hieraus eine verschuldensunabhängige Haftung, sofern das Produkt fehlerhaft ist.
In der Mandatspraxis sehen wir regelmäßig, dass Geschäftsführer diese drei Normsäulen — BGB, ProdHaftG und KI-VO — als voneinander getrennte Regelungen behandeln. Das ist ein Fehler: Sie greifen ineinander, verstärken einander in der Beweislastfrage und multiplizieren das Haftungsrisiko.
Die EU-KI-Verordnung: Was Betreiber ab wann beachten müssen
Die EU-Verordnung (EU) 2024/1689 — die KI-VO — ist am 1. August 2024 in Kraft getreten. Sie gilt gestaffelt: Verbote für inakzeptable Risiken seit Februar 2025, Pflichten für Hochrisiko-KI-Systeme ab August 2026 und die vollständige Anwendbarkeit ab August 2027. Mittelständische Unternehmen, die KI-Systeme einsetzen, sind als „Betreiber" im Sinne der KI-VO erfasst — und zwar unabhängig davon, ob sie das System selbst entwickelt haben.
Hochrisiko-KI-Systeme sind in Anhang III der KI-VO enumeriert: Systeme zur Personalentscheidung, Kreditwürdigkeitsbewertung, kritische Infrastruktur, biometrische Identifikation, medizinische Diagnostik und weitere Bereiche. Betreiber solcher Systeme müssen technische Dokumentation vorhalten, ein Risikomanagement implementieren, menschliche Aufsicht sicherstellen und Protokolldaten aufbewahren. Verstöße können Bußgelder bis zu 35 Millionen Euro oder bis zu 7 Prozent des weltweiten Jahresumsatzes nach sich ziehen — je nachdem, welcher Betrag höher ist.
Für die Haftungsfrage ist die KI-VO unmittelbar relevant: Wer die Sorgfaltspflichten der Verordnung verletzt, erfüllt damit regelmäßig zugleich den Fahrlässigkeitsmaßstab des § 823 BGB. Die Verletzung einer Schutzvorschrift — etwa der Pflicht zur menschlichen Aufsicht — begründet nach § 823 Abs. 2 BGB eine Haftung ohne weiteren Kausalitätsnachweis für den konkreten Schadenseintritt, wenn die Norm gerade diesen Schaden verhindern sollte.
Welche Schlussfolgerung ergibt sich daraus für den Geschäftsführer? Die KI-VO schreibt keine Haftungsfolgen selbst fest. Sie konditioniert aber durch ihre Sorgfaltspflichten den Fahrlässigkeitsmaßstab des allgemeinen Zivilrechts — mit der Folge, dass ein Betreiber, der KI-VO-konforme Prozesse implementiert hat, seine Haftungsposition erheblich verbessert.
Produkthaftung und der fehlerhafte KI-Fehler: Was als Defekt gilt
Das Produkthaftungsgesetz verlangt einen Produktfehler. Der Fehlerbegriff des ProdHaftG orientiert sich daran, ob das Produkt die berechtigten Sicherheitserwartungen des Nutzers erfüllt. Bei KI-Systemen entstehen hier drei typische Konstellationen, die in der Praxis zu Haftungsfällen führen.
Erstens: Der Konstruktionsfehler. Das KI-Modell wurde fehlerhaft trainiert, etwa auf nicht repräsentativen Daten, und trifft in bestimmten Randszenarien systematisch falsche Entscheidungen. Diese Fehler sind schwer vorherzusehen, weil sie in der normalen Nutzungsphase zunächst nicht auftreten.
Zweitens: Der Instruktionsfehler. Das Unternehmen hat das KI-System korrekt implementiert, aber die Nutzer nicht ausreichend über Einsatzbeschränkungen informiert. Wer ein KI-System zur medizinischen Vorauswahl einsetzt, ohne auf die inhärente Fehlerquote hinzuweisen, riskiert eine Haftung wegen unzureichender Warnung — unabhängig davon, ob das Modell selbst fehlerhaft war.
Drittens: Der Entwicklungsfehler. Das System entsprach bei Inverkehrbringen dem Stand der Technik, entwickelte sich aber durch Updates oder neue Trainingsdaten weiter und verursachte erst später einen Schaden. Die neue Produkthaftungsrichtlinie sieht für Software mit Selbstlernfähigkeit eine erhebliche Erweiterung der Haftungsperiode vor; dieser Aspekt ist bei langlebigen KI-Systemen im Maschinenbau oder in der Medizintechnik besonders relevant.
Nach unserer Erfahrung in der Beratung von Industrieunternehmen ist der Instruktionsfehler der häufigste Haftungsauslöser: nicht das fehlerhafte Modell, sondern die fehlende oder missverständliche Dokumentation des Einsatzbereichs.
Wann haftet der Geschäftsführer persönlich?
Die Haftung der GmbH oder AG schützt den Geschäftsführer nicht automatisch. Das GmbHG und das AktG begründen eine Innenhaftung gegenüber der Gesellschaft (§ 43 GmbHG, § 93 AktG), die den Geschäftsführer persönlich trifft, wenn er die Sorgfalt eines ordentlichen Geschäftsmannes verletzt hat. Der Einsatz eines KI-Systems ohne vorherige Risikoanalyse ist nach dem heutigen Stand der Technik ein starkes Indiz für eine Sorgfaltspflichtverletzung.
Die Business Judgment Rule (§ 93 Abs. 1 Satz 2 AktG, entsprechend für GmbH-Geschäftsführer) schützt nur dann, wenn die Entscheidung auf einer angemessenen Informationsgrundlage getroffen wurde. Wer ein Hochrisiko-KI-System einführt, ohne die KI-VO-Konformität geprüft zu haben, handelt nicht auf angemessener Informationsgrundlage — und genießt damit nicht den Schutz der Business Judgment Rule.
Hinzu tritt die Außenhaftung: Verursacht ein KI-System einen Schaden bei einem Dritten, der sich nicht gegen die Gesellschaft, sondern direkt gegen den handelnden Organwalter richtet — etwa über § 823 Abs. 2 BGB in Verbindung mit einer Schutzvorschrift —, bleibt auch die persönliche Haftung möglich. Dies gilt besonders im Kontext von Datenschutzverstößen: Geschäftsführer, die die DSGVO-Konformität eines KI-Systems nicht sicherstellen, können nach der Rechtsprechung einiger Landgerichte persönlich in Anspruch genommen werden.
Dass diese Risiken nicht abstrakt sind, zeigt die Praxis: In einem aktuellen Mandat beriet die Kanzlei ein mittelständisches Unternehmen aus dem Bereich Personaldienstleistungen, das ein KI-gestütztes Bewerbermanagementsystem eingesetzt hatte. Ausgangslage war eine behördliche Anfrage der zuständigen Datenschutzaufsichtsbehörde, die automatisierte Entscheidungen ohne ausreichende menschliche Überprüfung beanstandete und zugleich eine Haftungsthese für den Geschäftsführer persönlich entwickelte. Vorgehen: Sofortiger Stopp der vollständig automatisierten Auswertung, Erstellung einer technischen Dokumentation nach KI-VO-Vorentwurf, schriftliche Stellungnahme gegenüber der Behörde. Ergebnis: Das Verfahren wurde eingestellt; weitergehende Haftungsansprüche wurden abgewandt.
Mikro-Fall aus der Mandatspraxis
In einem aktuellen Mandat beriet die Kanzlei ein Pharmaunternehmen aus dem Bereich Medizintechnik, das ein KI-System zur Qualitätssicherung in der Fertigung einsetzte. Ausgangslage: Ein fehlerhaftes Produktionslos war auf den Markt gelangt; ein Vertriebspartner erhob Schadensersatzforderungen und berief sich auf die automatisierte Qualitätskontrolle als Ursache. Vorgehen: Analyse der vertraglichen Risikoverteilung im Softwarelizenzvertrag, Prüfung der ProdHaftG-Einstandspflicht sowie der Frage, ob die Dokumentationspflichten der KI-VO (nach dem damals anwendbaren Vorentwurf) eingehalten worden waren. Ergebnis: Die Haftungsquote konnte erheblich reduziert werden, weil die Betreibergesellschaft eine nachvollziehbare Prozessdokumentation vorweisen konnte, die den Instruktionsfehler beim Lizenzgeber verortete — nicht beim Betreiber.
Beweislast und Kausalität: Die zentrale Herausforderung bei KI-Schäden
Die Kausalität zwischen KI-Entscheidung und Schaden ist schwerer zu beweisen als bei klassischen Produktfehlern. Das Modell ist eine „Black Box" — die interne Entscheidungslogik lässt sich oft nur eingeschränkt rekonstruieren. Das ProdHaftG erleichtert diese Situation partiell: Der Geschädigte muss den Fehler und den Schaden nachweisen; den Kausalzusammenhang muss er plausibel machen, aber der Hersteller trägt dann die Beweislast für fehlende Fehlerursächlichkeit.
Die neue EU-Produkthaftungsrichtlinie enthält darüber hinaus explizite Erleichterungen für den Geschädigten bei KI-Systemen: Wenn der Geschädigte trotz zumutbarer Anstrengungen keinen Zugang zur technischen Dokumentation erlangt, darf das Gericht auf das Vorliegen eines Fehlers schließen. Diese Beweislastverschiebung ist für den Betreiber ein erheblicher Anreiz, vollständige technische Dokumentation zu führen.
Parallel dazu sieht die KI-Haftungsrichtlinie (AI Liability Directive, Vorschlag der EU-Kommission) eine Kausalitätsvermutung für Hochrisiko-KI-Systeme vor: Wenn der Betreiber seinen Sorgfaltspflichten aus der KI-VO nicht genügt hat, wird vermutet, dass dieser Verstoß kausal für den Schaden war. Der Gesetzgebungsprozess auf EU-Ebene ist noch nicht abgeschlossen; Unternehmen sollten diese Entwicklung jedoch bereits heute in ihre Risikosteuerung einbeziehen.
Für die prozessuale Praxis bedeutet das: Wer als Betreiber keine Dokumentation vorlegen kann, verliert die Beweislastschlacht. Wer dokumentiert hat — Trainingsdatensätze, Validierungsberichte, Risikoanalysen, Protokolldaten —, verhandelt auf deutlich stabilerem Grund.
Vertragsgestaltung: Haftungsverteilung zwischen Anbieter und Betreiber
In der Lieferkette für KI-Systeme sind regelmäßig mehrere Parteien beteiligt: der Modellentwickler, der Systemintegrator, der Cloud-Anbieter und das betreibende Unternehmen. Jeder von ihnen hat Einfluss auf den Betrieb des Systems — und damit auf das Haftungsrisiko. Die Frage, wer im Schadensfall auf wen zurückgreifen kann, entscheidet sich im Vertrag.
Typische Regelungsfelder in KI-Serviceverträgen sind: Haftungsausschlüsse und -begrenzungen, Gewährleistungsumfang für die Modellgenauigkeit (Accuracy-Garantien), Pflichten zur Modelldokumentation und -offenlegung, Aktualisierungs- und Patch-Pflichten sowie Haftungsfreistellung (Indemnification). In der Praxis enthalten viele Standard-AGB der großen KI-Anbieter weitgehende Haftungsausschlüsse, die AGB-rechtlich nach §§ 305 ff. BGB einer Inhaltskontrolle standhalten müssen — insbesondere die Klauselverbote des § 307 BGB.
Welche Klauseln halten einer solchen Kontrolle stand? Das hängt von der konkreten Ausgestaltung ab. Pauschalausschlüsse für Körperschäden oder grob fahrlässig verursachte Schäden sind nach deutschem Recht unwirksam. Für Mittelstandsunternehmen im B2B-Bereich gelten teilweise abweichende Maßstäbe — die Klauselfreiheit ist im unternehmerischen Verkehr größer, aber nicht unbegrenzt.
Nach unserer Erfahrung unterschätzen Mittelstandsunternehmen systematisch die Verhandlungsmacht, die sie gegenüber KI-Anbietern haben. Wer ein Jahresvolumen im fünf- bis sechsstelligen Bereich abnimmt, kann und sollte individuelle Haftungsregelungen, Quellcoffe-Escrow-Vereinbarungen und Audit-Rechte verhandeln. Wir beraten regelmäßig Unternehmen, die solche Verhandlungen erfolgreich geführt haben — nicht weil der Anbieter kooperativ war, sondern weil die rechtliche Argumentationsgrundlage klar war.
Datenschutz als Haftungstreiber: DSGVO und KI-Einsatz
Nahezu jedes KI-System, das personenbezogene Daten verarbeitet, berührt die DSGVO. Das betrifft Kundendaten-basierte Empfehlungssysteme, HR-Analysetools, Chatbots, Qualitätskontrollsysteme mit Personenbezug und viele weitere Anwendungen. Die haftungsrelevanten Vorschriften sind bekannt: Bußgelder bis zu 20 Millionen Euro oder 4 Prozent des weltweiten Jahresumsatzes nach Art. 83 DSGVO; Meldepflicht bei Datenschutzverletzungen binnen 72 Stunden nach Art. 33 DSGVO; Auskunftsrecht binnen eines Monats nach Art. 15 i. V. m. Art. 12 Abs. 3 DSGVO.
Für KI-Systeme spezifisch relevant ist das Verbot vollständig automatisierter Entscheidungen mit erheblicher Wirkung (Art. 22 DSGVO). Wer ein KI-System einsetzt, das beispielsweise Kreditwürdigkeitsprüfungen, Personalentscheidungen oder Kundenscoring vollautomatisiert durchführt, braucht entweder eine ausdrückliche Einwilligung, eine Vertragserforderlichkeit oder eine gesetzliche Grundlage. Fehlt diese Rechtsgrundlage, ist der Einsatz rechtswidrig — mit der Folge einer DSGVO-Haftung.
Die Datenschutzfolgenabschätzung (DSFA, Art. 35 DSGVO) ist für KI-Systeme mit hohem Risiko für natürliche Personen Pflicht. In der Mandatspraxis stellen wir fest, dass die DSFA häufig nicht oder nur unvollständig durchgeführt wird. Das ist nicht nur ein Datenschutzproblem: Eine fehlende DSFA ist im Haftungsprozess ein Indiz für die Verletzung der im Verkehr erforderlichen Sorgfalt nach § 823 BGB.
Handlungsrahmen für Geschäftsführer: Sieben Schritte zur Haftungssteuerung
Die vorstehende Analyse zeigt: KI-Haftung entsteht nicht aus einem einzigen Regelwerk, sondern aus dem Zusammenspiel von Deliktsrecht, Produkthaftungsrecht, KI-VO und DSGVO. Der Geschäftsführer, der dieses Zusammenspiel nicht kennt und nicht steuert, trägt ein kumuliertes Risiko.
Der strukturierte Handlungsrahmen für den Mittelstand umfasst die folgenden Schritte:
- KI-Systemkataster anlegen: Welche KI-Systeme werden eingesetzt? Wer ist Anbieter, wer Betreiber, wer Nutzer? Eine vollständige Inventarisierung ist Voraussetzung für jede weitere Maßnahme.
- Risikoklassifizierung nach KI-VO: Handelt es sich um Hochrisiko-KI im Sinne von Anhang III der KI-VO? Oder um ein allgemeines KI-System mit geringerem Risiko? Die Klassifizierung bestimmt den Pflichtenkatalog.
- Vertragliche Risikoallokation prüfen: Welche Haftungsklauseln enthalten die bestehenden KI-Dienstleistungsverträge? Sind Accuracy-Garantien vereinbart? Gibt es Dokumentationspflichten des Anbieters?
- Technische Dokumentation sicherstellen: Trainings- und Testdatensätze, Validierungsberichte, Protokolldaten müssen systematisch aufbewahrt werden. Das ist sowohl KI-VO-Anforderung als auch prozessuale Vorsorge.
- DSFA durchführen oder aktualisieren: Für jeden KI-Einsatz mit personenbezogenen Daten ist der Art-35-DSGVO-Test durchzuführen. Bestehende DSFAs sind bei wesentlichen Systemänderungen zu aktualisieren.
- Interne Governance etablieren: Wer im Unternehmen ist verantwortlich für KI-Compliance? Ohne klare Zuständigkeit fehlt die organisatorische Voraussetzung für eine wirksame Haftungssteuerung.
- D&O-Versicherung prüfen: Deckt die bestehende Directors-and-Officers-Versicherung Schäden aus KI-Einsatz ab? Viele Policen enthalten Ausschlüsse für neue Technologierisiken, die einer Aktualisierung bedürfen.
Die Entscheidungsmatrix für die praktische Priorisierung: Konstellation A (Hochrisiko-KI nach Anhang III KI-VO, personenbezogene Daten, Produktionseinsatz) → Instrument: vollständige KI-VO-Konformitätsprüfung + DSFA + Vertragsrevision → Frist: vor dem 2. August 2026 → Folge bei Nichthandeln: Bußgeld nach KI-VO und DSGVO, mögliche persönliche Haftung des Geschäftsführers. Konstellation B (Allgemeines KI-System ohne Personenbezug, interner Einsatz) → Instrument: Risikobewertung nach BGB-Sorgfaltsmaßstab, Vertragsprüfung → keine feste KI-VO-Frist → Folge bei Nichthandeln: Deliktshaftung bei Schadensfall.
Die vorstehende Darstellung betrifft die Regelfälle des einschlägigen Haftungsrechts. Ihr konkreter Fall erfordert die Prüfung Ihrer Vertragsdokumentation, der von Ihnen eingesetzten KI-Systeme sowie der einschlägigen Rechtsprechung und Behördenpraxis. Für eine erste Durchsicht Ihrer Unterlagen erreichen Sie uns unter info@brandtfalk.com.
Verwandte Leistungen
Häufige Fragen zur Haftung beim Einsatz von KI-Systemen
Auf welcher Rechtsgrundlage haftet ein Unternehmen, wenn ein KI-System einen Schaden verursacht?
Die Haftung richtet sich nach dem allgemeinen Deliktsrecht (§ 823 BGB), dem Produkthaftungsgesetz (ProdHaftG) sowie — sofern ein Hochrisiko-KI-System eingesetzt wird — nach den Sorgfaltspflichten der EU-KI-Verordnung (KI-VO). Diese Normen greifen ineinander: Ein Verstoß gegen KI-VO-Pflichten begründet regelmäßig zugleich den Fahrlässigkeitsmaßstab des Deliktsrechts. Die neue EU-Produkthaftungsrichtlinie stellt Software und KI-Systeme ausdrücklich Produkten gleich, was die Verschuldensunabhängigkeit der Haftung für Betreiber bedeutsam ausweitet.
Was versteht die KI-VO unter einem Hochrisiko-KI-System, und welche Pflichten folgen daraus?
Hochrisiko-KI-Systeme sind in Anhang III der KI-VO aufgezählt. Dazu zählen unter anderem KI-Systeme zur Personalentscheidung, Kreditwürdigkeitsbewertung, biometrischen Identifikation, medizinischen Diagnostik und zum Einsatz in kritischer Infrastruktur. Betreiber solcher Systeme müssen technische Dokumentation vorhalten, ein Risikomanagement implementieren, menschliche Aufsicht sicherstellen und Protokolldaten aufbewahren. Die Pflichten gelten ab dem 2. August 2026. Verstöße können mit Bußgeldern bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes geahndet werden.
Kann der Geschäftsführer einer GmbH für KI-bedingte Schäden persönlich haften?
Ja. Die Innenhaftung nach § 43 GmbHG greift, wenn der Geschäftsführer die Sorgfalt eines ordentlichen Geschäftsmannes verletzt hat. Wer KI-Systeme ohne vorherige Risikoanalyse einführt, handelt nicht auf angemessener Informationsgrundlage und genießt keinen Schutz der Business Judgment Rule. Zusätzlich ist eine Außenhaftung nach § 823 Abs. 2 BGB möglich, wenn der Geschäftsführer konkrete Schutzvorschriften — etwa DSGVO-Pflichten — verletzt hat. Eine aktuelle D&O-Versicherung, die KI-Risiken abdeckt, ist daher dringend zu prüfen.
Was ist bei automatisierten Entscheidungen nach Art. 22 DSGVO zu beachten?
Art. 22 DSGVO verbietet vollständig automatisierte Entscheidungen, die erhebliche Auswirkungen auf Personen haben, ohne ausreichende Rechtsgrundlage. Zulässig sind solche Entscheidungen nur bei ausdrücklicher Einwilligung, bei Vertragserforderlichkeit oder aufgrund gesetzlicher Erlaubnis. In allen Fällen hat die betroffene Person das Recht auf menschliche Überprüfung. Wird dieses Recht nicht gewährt, drohen DSGVO-Bußgelder bis zu 20 Millionen Euro oder 4 Prozent des weltweiten Jahresumsatzes — je nachdem, welcher Betrag höher ist.
Wie lässt sich die Haftung zwischen KI-Anbieter und Betreiber vertraglich aufteilen?
Vertraglich sind Haftungsbegrenzungen, Gewährleistungsausschlüsse und Freistellungsklauseln zulässig, unterliegen aber der AGB-rechtlichen Inhaltskontrolle nach §§ 307 ff. BGB. Vollständige Ausschlüsse für grob fahrlässig verursachte Schäden oder Körperschäden sind unwirksam. Für Betreiber empfiehlt sich die Vereinbarung von Dokumentationspflichten des Anbieters, von Audit-Rechten sowie von klaren Haftungsquoten für bestimmte Fehlertypen. Diese Klauseln sind Verhandlungssache — und im mittelständischen Beschaffungsvolumen regelmäßig erreichbar.
Ist eine Datenschutzfolgenabschätzung (DSFA) bei KI-Einsatz Pflicht?
Ja, sofern das KI-System personenbezogene Daten verarbeitet und ein hohes Risiko für natürliche Personen begründet (Art. 35 DSGVO). Das ist bei den meisten Hochrisiko-KI-Anwendungen der Fall. Eine fehlende oder unvollständige DSFA ist nicht nur ein Bußgeldrisiko, sondern auch im Haftungsprozess ein Indiz für eine Verletzung der im Verkehr erforderlichen Sorgfalt nach § 823 BGB. DSFA und KI-VO-Risikoanalyse können bei sorgfältiger Gestaltung aufeinander abgestimmt und in einem gemeinsamen Dokumentationsrahmen zusammengeführt werden.
Die vorstehende Darstellung betrifft die Regelfälle des KI-Haftungsrechts. Ihr konkreter Fall erfordert die Prüfung Ihrer eingesetzten Systeme, der bestehenden Vertragsdokumentation und der für Ihre Branche einschlägigen Rechtsprechung. Für eine erste Durchsicht Ihrer Unterlagen erreichen Sie uns unter info@brandtfalk.com.
Dieser Beitrag dient ausschließlich der allgemeinen Information und stellt keine Rechtsberatung im Einzelfall dar. Er ersetzt nicht die anwaltliche Prüfung Ihres konkreten Sachverhalts. Für eine auf Ihre Situation zugeschnittene Beratung wenden Sie sich an info@brandtfalk.com.
Dieser Beitrag ist eine allgemeine Information und stellt keine Rechtsberatung dar. Für eine Prüfung Ihres Falls kontaktieren Sie info@brandtfalk.com.