KI-Einsatz im Unternehmen und die KI-Verordnung – rechtliche Würdigung

Ein inhabergeführter Maschinenbauer führt einen KI-gestützten Bewerbungsfilter ein, ein mittelständischer Finanzdienstleister automatisiert Kreditentscheidungen, ein Handelsunternehmen setzt Predictive-Analytics-Systeme zur Lagersteuerung ein: In der Praxis beobachten wir, dass viele Geschäftsführer KI-Werkzeuge operativ nutzen, ohne den ordnungsrechtlichen Rahmen zu kennen, der seit Mitte 2024 gilt. Die EU-KI-Verordnung (Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates – im Folgenden: KI-VO) ist in Kraft und entfaltet bereits ab August 2026 vollständige Bindungswirkung für sämtliche Akteure, die KI-Systeme in der Union einsetzen, bereitstellen oder importieren.

Die KI-VO klassifiziert KI-Systeme nach Risikoklassen und knüpft an jede Klasse spezifische Pflichten, deren Verletzung Bußgelder von bis zu 35 Millionen Euro oder bis zu sieben Prozent des weltweiten Jahresumsatzes auslösen kann. Für Geschäftsführer im Mittelstand bedeutet dies: Wer heute KI-Systeme einsetzt oder beschafft, ohne eine Risikoeinstufung vorgenommen und interne Governance-Strukturen aufgebaut zu haben, exponiert sich persönlich und das Unternehmen ordnungsrechtlich. Die nachfolgende Analyse beschreibt den Normrahmen, ordnet die zentralen Pflichtenkategorien ein und zeigt, welche Handlungsschritte bis zur vollständigen Anwendbarkeit der KI-VO unabweisbar sind.

Der Beitrag gliedert sich in sieben Abschnitte: Normgeschichte und Anwendungsbereich, Risikoklassifikation, Pflichten für Betreiber und Anbieter, Schnittstelle zur DSGVO, Haftungs- und Strafrahmen, praktische Governance-Anforderungen sowie eine Einordnung für den Mittelstand.

Normgeschichte, Anwendungsbereich und Zeitplan der KI-VO

Die KI-VO ist die erste umfassende horizontale Regulierung künstlicher Intelligenz weltweit. Sie wurde am 12. Juli 2024 im Amtsblatt der EU veröffentlicht und trat zwanzig Tage später in Kraft. Der Anwendungszeitplan ist gestaffelt: Die Verbote für unzulässige KI-Praktiken (Titel II) galten ab dem 2. Februar 2025. Pflichten für GPAI-Modelle (General-Purpose AI Models, also universell einsetzbare KI-Systeme wie große Sprachmodelle) greifen seit August 2025. Die Kernbestimmungen für Hochrisiko-KI-Systeme in Anhang III der KI-VO sind ab dem 2. August 2026 vollständig anzuwenden.

Der persönliche Anwendungsbereich erfasst jeden, der ein KI-System in der Union einsetzt, bereitstellt oder in Verkehr bringt – unabhängig von Sitz oder Unternehmensgröße. In der Mandatspraxis sehen wir regelmäßig, dass Unternehmen irrtümlich annehmen, die Verordnung richte sich allein an KI-Entwickler. Das ist falsch. Auch der reine Betreiber (Deployer) eines fremd entwickelten KI-Systems unterliegt eigenständigen Compliance-Pflichten, sobald das System einer Hochrisikokategorie zuzuordnen ist. Kleine und mittlere Unternehmen werden durch reduzierte Dokumentationspflichten in bestimmten Bereichen entlastet, bleiben jedoch dem Grunde nach vollständig pflichtgebunden.

Was gilt als „KI-System" im Sinne der Verordnung? Die KI-VO definiert KI-Systeme als maschinenbasierte Systeme, die aus einer Reihe von Eingaben Ausgaben wie Vorhersagen, Empfehlungen, Entscheidungen oder Inhalte erzeugen können, die reale oder virtuelle Umgebungen beeinflussen, und die für verschiedene Zwecke konzipiert sind. Diese bewusst technologieneutrale Definition erfasst nicht nur neuronale Netze und große Sprachmodelle, sondern potenziell auch klassische Machine-Learning-Verfahren – die genaue Abgrenzung ist im Einzelfall zu prüfen.

Risikoklassifikation: In welche Kategorie fällt Ihr KI-System?

Das Kernstück der KI-VO ist eine vierstufige Risikoklassifikation. Jede Stufe zieht qualitativ unterschiedliche Rechtsfolgen nach sich, und die Einordnung des eigenen KI-Systems ist die erste und bedeutendste Compliance-Entscheidung, die Geschäftsführer treffen müssen.

Unzulässige KI-Praktiken (Art. 5 KI-VO) sind vollständig verboten und seit dem 2. Februar 2025 sanktionierbar. Darunter fallen: KI-Systeme zur unterschwelligen Beeinflussung von Personen unterhalb der Bewusstseinsschwelle, zur Ausnutzung von Schwächen bestimmter Personengruppen, zur sozialen Bewertung von Personen durch Behörden sowie – mit eng gefassten Ausnahmen – zur biometrischen Echtzeit-Fernidentifikation in öffentlichen Räumen. Wer solche Systeme heute betreibt oder plant, begeht ab sofort einen Verordnungsverstoß.

Hochrisiko-KI-Systeme (Anhang III KI-VO) bilden den regulatorischen Kern. Anhang III listet Einsatzbereiche auf, darunter: kritische Infrastruktur, Bildung und Berufsausbildung, Beschäftigung und Personalmanagement (insbesondere automatisiertes Screening von Bewerbungen und leistungsbewertende Systeme), wesentliche private und öffentliche Dienstleistungen (Kredit-Scoring, Versicherungen), Strafverfolgung sowie Migration und Asyl. Für Mittelständler mit mehr als zehn Beschäftigten ist der Bereich Personalmanagement besonders relevant: Ein KI-gestützter Bewerbungsfilter oder ein algorithmisches Leistungsbewertungstool kann ohne weiteres als Hochrisiko-System einzustufen sein.

Begrenzte Risiko-KI-Systeme (Art. 52 KI-VO) – etwa Chatbots und Deepfake-Generatoren – unterliegen primär Transparenzpflichten: Nutzer sind zu informieren, dass sie mit einem KI-System interagieren. Minimales Risiko liegt vor, wenn keine der genannten Kategorien zutrifft; für diese Systeme bestehen keine zwingenden Mindestanforderungen, jedoch empfiehlt die KI-VO die Einhaltung freiwilliger Verhaltenskodizes.

Nach unserer Erfahrung fällt in mittelständischen Unternehmen eine überraschend hohe Zahl der eingesetzten KI-Tools in die Kategorie begrenztes Risiko mit Transparenzpflicht oder – im HR- und Finanzbereich – in die Hochrisikokategorie. Eine systematische Bestandsaufnahme ist daher der unabdingbare erste Schritt.

Welche Pflichten treffen Betreiber von Hochrisiko-KI-Systemen?

Betreiber (Deployers) sind Unternehmen oder natürliche Personen, die ein KI-System in eigener Verantwortung einsetzen – also nicht als Anbieter vermarkten. Die KI-VO unterscheidet die Pflichten von Anbietern (Providers) und Betreibern klar, wobei Betreiber einen eigenständigen und erheblichen Pflichtenkatalog tragen.

Kernpflichten für Betreiber von Hochrisiko-KI-Systemen ab August 2026:

• Risikomanagement: Betreiber müssen technische und organisatorische Maßnahmen ergreifen, um die Risiken ihres Einsatzszenarios zu bewältigen. Das umfasst die Prüfung, ob das KI-System für den konkreten Anwendungszweck geeignet ist.
• Menschliche Aufsicht: Art. 26 KI-VO verpflichtet Betreiber, geeignete Maßnahmen zur menschlichen Aufsicht zu gewährleisten. Dies bedeutet: Es muss immer eine natürliche Person in der Lage sein, die Ausgaben des KI-Systems zu überprüfen und ggf. zu verwerfen oder außer Kraft zu setzen.
• Datenschutz-Folgenabschätzung: Betreiber, die Hochrisiko-Systeme in Bereichen einsetzen, die personenbezogene Daten verarbeiten, sind zur Grundrechte-Folgenabschätzung (Fundamental Rights Impact Assessment) verpflichtet, sofern sie öffentliche Einrichtungen sind; für private Unternehmen besteht eine enge Verknüpfung mit der DSGVO-Datenschutz-Folgenabschätzung.
• Transparenz gegenüber betroffenen Personen: Werden natürliche Personen einer Entscheidung eines Hochrisiko-KI-Systems unterworfen, sind sie darüber zu informieren.
• Protokollierung und Aufbewahrung: Betreiber müssen Protokolle über den Betrieb des KI-Systems aufbewahren, sofern und soweit sie Zugang zu diesen Protokollen haben.
• Meldung schwerwiegender Vorfälle: Verursacht das KI-System einen schwerwiegenden Vorfall, besteht eine Meldepflicht gegenüber dem Anbieter und unter Umständen gegenüber den Marktüberwachungsbehörden.

Werden Betreiber zum Anbieter? Wer ein Hochrisiko-KI-System wesentlich verändert oder ein KI-System für eigene Zwecke mit eigenem Namen in Verkehr bringt, rückt in die Pflichtenstellung eines Anbieters auf – mit dem vollständigen Anforderungskatalog für Konformitätsbewertung, Registrierung in der EU-Datenbank und CE-Kennzeichnung. Diese Statusverschiebung ist in der Praxis besonders dann relevant, wenn Unternehmen bestehende Modelle durch Fine-Tuning oder Prompt-Engineering erheblich anpassen.

Schnittstelle zwischen KI-VO und DSGVO: Was gilt vorrangig?

Kein anderes Rechtsgebiet ist enger mit der KI-VO verzahnt als die Datenschutz-Grundverordnung (DSGVO). Wer KI-Systeme betreibt, die personenbezogene Daten verarbeiten – und das ist in der überwiegenden Mehrheit aller unternehmerischen KI-Anwendungen der Fall –, muss beide Regelwerke parallel einhalten.

Das Verhältnis ist kumulativ, nicht subsidiär: Die KI-VO lässt die DSGVO ausdrücklich unberührt (Erwägungsgrund 9 KI-VO). Beide Verordnungen gelten gleichzeitig, und der Betrieb eines KI-Systems, das datenschutzrechtlich konform ist, kann gleichwohl gegen die KI-VO verstoßen – und umgekehrt.

Zentrale Berührungspunkte:

• Rechtsgrundlage nach Art. 6 DSGVO: Jede Verarbeitung personenbezogener Daten durch ein KI-System bedarf einer Rechtsgrundlage. Berechtigte Interessen nach Art. 6 Abs. 1 lit. f DSGVO reichen dann nicht aus, wenn die KI-basierte Verarbeitung in automatisierte Einzelentscheidungen nach Art. 22 DSGVO mündet.
• Datenschutz-Folgenabschätzung (DSFA, Art. 35 DSGVO): Beim Einsatz von Hochrisiko-KI-Systemen, die personenbezogene Daten verarbeiten, ist in aller Regel eine DSFA erforderlich. Die Meldung einer Datenschutzverletzung muss gemäß Art. 33 DSGVO binnen 72 Stunden gegenüber der zuständigen Aufsichtsbehörde erfolgen – ein Zeitdruck, der durch KI-gestützte Systeme mit breiter Datenverarbeitung erheblich zunimmt.
• Zweckbindung und Datensparsamkeit: Viele KI-Systeme werden mit weit größeren Datensätzen trainiert oder betrieben, als für den konkreten Anwendungszweck erforderlich. Dies kollidiert mit Art. 5 Abs. 1 lit. b und c DSGVO.
• Bußgeldrahmen DSGVO: Bis zu 20 Mio. Euro oder 4 % des weltweiten Jahresumsatzes (Art. 83 DSGVO) können bei schwerwiegenden Datenschutzverstößen verhängt werden. Tritt ein KI-System gleichzeitig als Verursacher eines DSGVO-Verstoßes und als Gegenstand eines KI-VO-Verstoßes auf, besteht Kumulierungsgefahr.

Kurze Antwort auf eine häufig gestellte Frage: Nein, ein datenschutzkonformes KI-System ist nicht automatisch KI-VO-konform. Und ja, ein KI-VO-konformes System kann dennoch einen DSGVO-Verstoß begehen, wenn die Verarbeitungsgrundlage fehlt oder die Informationspflichten nicht eingehalten werden.

Haftung und Bußgeldrahmen: Welche Risiken trägt die Geschäftsführung persönlich?

Die KI-VO sieht einen dreistufigen Bußgeldrahmen vor, der sich nach Schwere des Verstoßes und Unternehmenstyp staffelt. Die Mitgliedstaaten sind verpflichtet, bis zum 2. August 2025 nationale Marktüberwachungsbehörden zu benennen und Sanktionsregimes zu etablieren.

Sanktionsrahmen der KI-VO:

• Verstöße gegen verbotene KI-Praktiken (Art. 5 KI-VO): bis zu 35 Mio. Euro oder 7 % des weltweiten Jahresumsatzes, der jeweils höhere Betrag gilt.
• Sonstige Verstöße gegen Pflichten für Anbieter und Betreiber: bis zu 15 Mio. Euro oder 3 % des weltweiten Jahresumsatzes.
• Übermittlung unrichtiger, unvollständiger oder irreführender Informationen an Behörden: bis zu 7,5 Mio. Euro oder 1 % des weltweiten Jahresumsatzes.

Für KMU und Startups gilt jeweils der niedrigere der beiden genannten Begrenzungsbeträge. Gleichwohl können auch absolute Beträge von 7,5 oder 15 Millionen Euro für einen mittelständischen Betrieb existenzbedrohend sein.

Zur persönlichen Haftung der Geschäftsführung: Die KI-VO richtet sich als Ordnungsrecht gegen das Unternehmen. Gleichwohl ergeben sich aus dem nationalen Recht – insbesondere aus § 43 GmbHG und der allgemeinen Geschäftsführerhaftung – persönliche Verantwortlichkeiten. Wer als Geschäftsführer den KI-Einsatz ohne angemessene Governance-Struktur freigibt und es dadurch zu einem Verordnungsverstoß kommt, kann dem Innenregress des Unternehmens und unter Umständen der persönlichen Haftung nach § 43 GmbHG ausgesetzt sein. In der Mandatspraxis sehen wir, dass Geschäftsführer diese Brücke zwischen Ordnungsrecht und Gesellschaftsrecht oft unterschätzen.

Daneben ist die zivilrechtliche Haftung für KI-verursachte Schäden im Fluss. Der EU-Gesetzgeber hat die KI-Haftungsrichtlinie (AI Liability Directive) sowie Änderungen an der Produkthaftungsrichtlinie auf den Weg gebracht; beide Instrumente sind zum Redaktionsschluss noch nicht abschließend in Kraft getreten. Sie werden die Beweislast bei KI-verursachten Schäden zugunsten Geschädigter verschieben. Auch insoweit gilt: Die anwaltliche Prüfung des Einzelfalls ist unerlässlich.

Governance-Anforderungen: Welche internen Strukturen sind aufzubauen?

Die KI-VO ist keine bloße Dokumentationspflicht – sie verlangt eine organisatorische Verankerung des KI-Risikomanagements. Wer glaubt, mit einer nachträglich erstellten PDF-Checkliste konform zu sein, unterschätzt den Regelungsanspruch der Verordnung erheblich.

Erforderliche Governance-Elemente für Betreiber von Hochrisiko-KI-Systemen:

1. KI-Systeminventar: Vollständige Bestandsaufnahme aller im Unternehmen eingesetzten KI-Systeme mit Klassifizierung nach der Risikoabstufung der KI-VO. Einbeziehung von Cloud-Diensten und SaaS-Lösungen, die KI-Funktionen enthalten.
2. Risikoeinstufungsprotokoll: Dokumentiertes Verfahren zur Risikobewertung neuer KI-Systeme vor dem Einsatz. Analoge Struktur zur Datenschutz-Folgenabschätzung, aber eigenständige Anforderungen nach KI-VO.
3. Vertragliche Absicherung gegenüber Anbietern: Anbieter müssen dem Betreiber die zur Erfüllung seiner Pflichten erforderlichen Informationen bereitstellen (technische Dokumentation, Benutzerhandbuch, Protokolldaten). Dieser Informationsanspruch ist vertraglich zu verankern – idealerweise vor Vertragsschluss in Beschaffungsverfahren.
4. Konzept zur menschlichen Aufsicht: Benennung von verantwortlichen Personen, die KI-Ausgaben prüfen, und Sicherstellung, dass diese Personen über ausreichende Kompetenzen verfügen. Schulungsprogramm dokumentieren.
5. Interne Beschwerde- und Eskalationswege: Insbesondere wenn Entscheidungen von KI-Systemen betroffene Personen (Bewerber, Kunden, Mitarbeiter) berühren, ist ein transparenter Beschwerdeprozess aufzubauen.
6. Regelmäßige Überprüfung: Das Risikomanagement ist kein einmaliger Akt. Technische Veränderungen am KI-System, geänderte Einsatzszenarien oder neue Rechtsprechung können eine Neubewertung erforderlich machen.

Welche Rolle spielt der Betriebsrat? In Unternehmen mit Betriebsrat ist der Einsatz von KI-Systemen, die zur Überwachung oder Leistungsbewertung von Arbeitnehmerinnen und Arbeitnehmern geeignet sind, mitbestimmungspflichtig nach § 87 Abs. 1 Nr. 6 BetrVG. Die Missachtung des Mitbestimmungsrechts führt zur Unwirksamkeit der entsprechenden Betriebsvereinbarung oder Regelungsabrede und kann den gesamten KI-Einsatz blockieren. In der Mandatspraxis sehen wir regelmäßig, dass die arbeitsrechtliche Dimension von KI-Governance unterschätzt wird.

Eine Entscheidungsmatrix für die Einführungspraxis:

Konstellation A – Einsatz eines Standard-SaaS-Chatbots ohne Personalisierungsfunktion → begrenztes Risiko → Transparenzpflicht (Nutzerinformation) → kein Hochrisiko-Protokoll erforderlich, DSGVO-Prüfung auf Verarbeitungsgrundlage ist dennoch obligatorisch.

Konstellation B – KI-gestütztes Bewerbungsscreening in einem Unternehmen mit mehr als zehn Beschäftigten → Hochrisiko-System (Anhang III KI-VO) → vollständiger Pflichtenkatalog: DSFA, menschliche Aufsicht, Transparenz gegenüber Bewerbern, Protokollierung, Betriebsrats-Konsultation nach § 87 BetrVG → Frist: Compliance vor erstem Einsatz, spätestens ab 2. August 2026 zwingend.

Konstellation C – Eigenentwicklung eines KI-basierten Preisprognose-Tools für den Vertrieb, das ausschließlich auf aggregierten Marktdaten basiert, keine natürlichen Personen bewertet → wahrscheinlich minimales Risiko → Empfehlung: Freiwillige Kodex-Anforderungen prüfen, Klassifizierungsentscheidung dokumentieren.

Einordnung für den Mittelstand: Was muss bis August 2026 erledigt sein?

Der 2. August 2026 ist für Betreiber von Hochrisiko-KI-Systemen die entscheidende Frist. Ab diesem Datum ist die vollständige Konformität mit den Hochrisiko-Anforderungen der KI-VO keine regulatorische Option, sondern eine Rechtspflicht – und die nationalen Marktüberwachungsbehörden werden ab diesem Zeitpunkt kontrollieren und sanktionieren dürfen.

Was bedeutet das konkret für Geschäftsführer im Mittelstand? Zunächst: Keine Panik, aber konsequentes Handeln. Die KI-VO kennt keine formale Übergangsamnestie für Betreiber, die erst ab August 2026 tätig werden. Wer bis dahin sein KI-Systeminventar nicht erstellt, keine Risikoeinstufung vorgenommen und keine Governance-Dokumentation aufgebaut hat, ist ab dem ersten Tag vollständig dem Bußgeldrahmen ausgesetzt.

Positiv formuliert: Die KI-VO schafft zugleich Wettbewerbschancen. Unternehmen, die frühzeitig KI-Compliance als Teil ihrer Unternehmensführung verankern, schaffen Vertrauen bei Kunden, Geschäftspartnern und Behörden. Gerade im B2B-Umfeld werden Vertragspartner verstärkt KI-Governance-Nachweise einfordern.

Eine schematische Priorisierung für den Mittelstand:

1. Sofort (bis Ende 2025): KI-Systeminventar erstellen, Vorprüfung aller eingesetzten Systeme auf Verbote nach Art. 5 KI-VO, Einstufung auf Hochrisiko-Verdacht.
2. Mittelfristig (Q1–Q2 2026): DSFA/Grundrechte-Folgenabschätzung für Hochrisiko-Systeme, Überarbeitung aller KI-Klauseln in Anbieterverträgen, Schulung der verantwortlichen Mitarbeiterinnen und Mitarbeiter.
3. Vor August 2026: Vollständige Governance-Dokumentation abgeschlossen, menschliches Aufsichtskonzept implementiert, Meldewege für Vorfälle etabliert, Betriebsrat konsultiert wo mitbestimmungspflichtig.

Wie halten Sie fest, was Sie bereits erledigt haben? Strukturiert: Die Compliance-Dokumentation sollte nach unserer Erfahrung so aufgebaut sein, dass sie im Fall einer behördlichen Prüfung innerhalb von 48 Stunden vollständig vorgelegt werden kann. Wer diese Probe jetzt simuliert, erkennt Lücken frühzeitig.

Die vorstehende Darstellung betrifft die Regelfälle der KI-VO-Compliance im unternehmerischen Kontext. Ihr konkreter Fall erfordert die Prüfung Ihrer eingesetzten Systeme, bestehender Vertragsunterlagen und der einschlägigen Entwicklungen in Rechtsprechung und Behördenpraxis. Für eine erste Durchsicht Ihrer Unterlagen erreichen Sie uns unter info@brandtfalk.com.

Verwandte Leistungen

• Haftung beim Einsatz von KI-Systemen – Überblick zur Haftungsstruktur bei KI-Einsatz im Unternehmen
• Haftung beim Einsatz von KI-Systemen: rechtliche Würdigung – Vertiefende Analyse zu Haftungsfragen und Gestaltungsoptionen
• Haftung beim Einsatz von KI-Systemen: Rechtslage und Optionen – Aktuelle Rechtslage und strategische Handlungsoptionen für Unternehmen

Die vorstehende Analyse gibt den Stand des einschlägigen Rechts in allgemeiner Form wieder. Ihr konkreter Fall erfordert die Prüfung Ihrer spezifischen KI-Systeme, bestehender Lieferanten- und Lizenzverträge sowie der aktuellen Behördenpraxis. Für eine erste Durchsicht Ihrer Unterlagen erreichen Sie uns unter info@brandtfalk.com.

Dieser Beitrag dient ausschließlich der allgemeinen Information und stellt keine Rechtsberatung im Einzelfall dar. Er ersetzt nicht die anwaltliche Prüfung Ihres konkreten Sachverhalts. Für eine auf Ihre Situation zugeschnittene Beratung wenden Sie sich an info@brandtfalk.com.

Dieser Beitrag ist eine allgemeine Information und stellt keine Rechtsberatung dar. Für eine Prüfung Ihres Falls kontaktieren Sie info@brandtfalk.com.