Autor: Connie Begic

Anwendungsbereich der KI-Verordnung: Für wen gilt das Regelwerk?
Die KI-Verordnung hat einen umfassenden Anwendungsbereich und betrifft eine Vielzahl von Akteuren, sowohl innerhalb als auch außerhalb der Europäischen Union. Wenn Sie sich einer dieser Personengruppen oder Unternehmen zugehörig fühlen, fallen Sie voraussichtlich unter die Verordnung:
Anbieter von KI-Systemen, die ihre KI-Systeme in der EU in Verkehr bringen oder in Betrieb nehmen, unabhängig davon, ob der Anbieter seinen Sitz innerhalb der EU oder in einem Drittland hat.
Betreiber von KI-Systemen, die ihren Sitz in der Union haben oder in der Union befinden;
Anbieter und Betreiber außerhalb der EU (Sitz oder sich dort befinden), wenn die vom KI System hervorgebrachte Ausgabe in der Union verwendet wird;
Einführer und Händler von KI-Systemen
Produkthersteller, die KI-Systeme als Teil ihres Produkts unter eigenem Namen oder eigener Marke in Verkehr bringen oder in Betrieb nehmen.
Bevollmächtigte von Anbietern, die nicht in der Union niedergelassen sind;
Betroffene Personen, die sich in der Union befinden.
Diese breite Reichweite soll sichererstellen, dass die Verordnung auf alle relevanten Akteure im Zusammenhang mit KI-Systemen Anwendung findet, unabhängig davon, wo sie niedergelassen sind oder ihre Produkte entwickeln. Damit wird gewährleistet, dass auch internationale Anbieter die europäischen Standards einhalten müssen, sobald ihre KI-Produkte im Binnenmarkt genutzt werden.
Diese breite Reichweite soll sichererstellen, dass die Verordnung auf alle relevanten Akteure im Zusammenhang mit KI-Systemen Anwendung findet, unabhängig davon, wo sie niedergelassen sind oder ihre Produkte entwickeln. Damit wird gewährleistet, dass auch internationale Anbieter die europäischen Standards einhalten müssen, sobald ihre KI-Produkte im Binnenmarkt genutzt werden.

Weitere wichtige Begriffe und Definitionen der KI-Verordnung
Der KI-Verordnung führt eine Reihe von weiteren Begriffen und Definitionen ein, die das Verständnis und die Umsetzung der Verordnung erleichtern sollen. Diese Begriffe sind entscheidend, um den Geltungsbereich der KI-Verordnung klar abzugrenzen und sicherzustellen, dass Unternehmen die Anforderungen präzise erfüllen können. Hier sind einige der wichtigsten Begriffe und Definitionen, die im KI-Verordnung festgelegt sind:

Risikokategorien von KI-Systemen
Der KI-Verordnung führt eine risikobasierte Kategorisierung von KI-Systemen ein, die das Herzstück der Regulierung bildet. Ein Risiko nach der KI-Verordnung ist die Kombination aus der Wahrscheinlichkeit des Auftretens eines Schadens und der Schwere dieses Schadens Diese Kategorien helfen dabei, das Ausmaß der Regulierung basierend auf dem potenziellen Risiko, das ein KI-System für die Sicherheit oder Grundrechte darstellt, zu bestimmen:

• Minimales Risiko: Diese Kategorie umfasst KI-Systeme, die wenig bis kein Risiko für die Nutzer oder die Gesellschaft darstellen, wie z.B. KI-gesteuerte Videospiele oder Spam-Filter. Solche Systeme unterliegen keinen besonderen Anforderungen oder Regulierungen und können weitgehend frei entwickelt und eingesetzt werden.
• Begrenztes Risiko: Diese Systeme müssen bestimmte Transparenzanforderungen erfüllen. Beispielsweise müssen Betreiber informiert werden, wenn sie mit einem KI-System interagieren, wie es bei Chatbots der Fall ist. Diese Anforderung zielt darauf ab, den Nutzern die Möglichkeit zu geben, informierte Entscheidungen zu treffen.
• Hochrisiko: Hochrisiko-KI-Systeme unterliegen strengen Anforderungen, da sie erhebliche Risiken für die Gesundheit, Sicherheit oder die Grundrechte der Menschen darstellen können, indem sie unter anderem das Ergebnis der Entscheidungsfindung wesentlich beeinflussen. Dazu gehören zum Beispiel Systeme, die in kritischen Infrastrukturen, im Bildungswesen, bei der Rekrutierung oder in der Strafverfolgung eingesetzt werden. Diese Systeme müssen ein Risikomanagement-System einführen, Daten-Governance- und Dokumentationsanforderungen entsprechen und weitere umfangreiche Pflichten erfüllen.
• Unzumutbares Risiko: KI-Systeme, die ein unannehmbares Risiko darstellen, werden nach der KI-Verordnung vollständig verboten. Dazu gehören Technologien, die beispielsweise zur manipulativen Überwachung oder sozialen Bewertung (Social Scoring) eingesetzt werden, wie dies in einigen Ländern bereits vorkommt. Solche Anwendungen werden als unvereinbar mit den europäischen Werten und Grundrechten betrachtet.

Weitere wichtige Begriffe: Anbieter, Nutzer, KI-System, Risikobewertung
• Anbieter: natürliche oder juristische Personen, die KI-Systeme oder KI-Modelle mit allgemeinem Verwendungszweck entwickeln, entwickeln lassen, unter eigenem Namen oder der Handelsmarke in Verkehr bringen oder in Betrieb nehmen.
• Betreiber: natürliche oder juristische Personen, die ein KI System in eigener Verantwortung verwendet, außer wenn es im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet wird;
• KI-System: maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können;
• KI-Modell mit allgemeinem Verwendungszweck: ein KI Modell – das eine erhebliche allgemeine Verwendbarkeit aufweist und in der Lage ist, unabhängig von der Art und Weise seines Inverkehrbringens ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen, und das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann

Diese Begriffe und Definitionen dienen als erster Überblick, um sich mit der KI-Verordnung vertraut zu machen, die Anforderungen besser zu verstehen und sicherzustellen, dass ihre KI-Systeme den gesetzlichen Vorgaben entsprechen.

In a nutshell
• Die KI-Verordnung ist das weltweit erste Regelwerk, dass nach einem risikobasieren Ansatz unterschiedliche Akteure in die Pflicht nimmt.
• Die KI-Verordnung möchte damit eine sichere und ethisch vertretbare KI-Nutzung zu regeln, während innovative Entwicklungen nicht unnötig behindert werden sollen, garantieren.
• Die Pflicht zum Aufbau von KI-Kompetenz in der Belegschaft gilt schon ab dem 2. Februar 2025.

Wir unterstützen Sie bei allen Fragen zur rechtsicheren Entwicklung und Einsatz von künstlicher Intelligenz. Wir verstehen nicht nur die rechtlichen Implikationen von KI, sondern setzen sie auch selbst ein.

Dieses Bild wurde mithilfe des KI-Tools DALL-E generiert.

Bei Fragen zu »KI-Verordnung« stehe ich Ihnen gerne zur Verfügung.

Julia Hirsch, juh@vogel-partner.eu, +49 721 78 20 27 – 0

Diese technischen Fortschritte treffen allerdings auf gewisse Risiken: IT-Sicherheit, ethisches Training und Einsatzfelder von KI sowie rechtliche Spannungsfelder rund um Urheberrechte und Datenschutz sind nur einige Hürden, mit denen sich Anbieter und Nutzer von KI konfrontiert sehen.

Auf diese Herausforderungen hat die EU mit dem weltweit ersten Regulierungsversuch, der KI-Verordnung, reagiert. Die KI-Verordnung vom August 2024 verfolgt einen risikobasierten Ansatz, indem sie KI-Systeme in unterschiedliche Risikoklassen – von verbotener bis zu risikoarmer KI – unterteilt. Einer gewissen Sonderstellung haben zudem sog. KI-Systeme mit allgemeinem Verwendungszweck („GPAI“), z.B. solchen wie ChatGPT oder Microsoft Copilot. Weiterhin legt die KI-Verordnung verschiedenen Akteuren, allen voran Anbietern (Entwicklern) und Betreibern (Nutzern) von KI gewisse Pflichten auf.

Für Unternehmen, die in der EU ansässig sind oder ihre Produkte auf den europäischen Markt bringen möchten, ist es daher unerlässlich, die Vorgaben der KI-Verordnung zu verstehen und umzusetzen, unabhängig davon, ob sie KI-Systeme entwickeln, anbieten oder nutzen. Diese Einführung gibt einen ersten Überblick über die grundlegenden Aspekte der KI-Verordnung.

Hintergrund und Entstehung der Verordnung: Was lange währt ist endlich gut?
Ein wichtiger Meilenstein in der Entstehung des KI-Verordnung war die Veröffentlichung des „White Paper on Artificial Intelligence“ im Februar 2020, in dem die Europäische Kommission erste Vorschläge für eine KI-Regulierung präsentierte. Auf Grundlage dieses Dokuments und der darauffolgenden Rückmeldungen wurde der KI-Verordnung weiter modifiziert. Der risikobasierte Ansatz der KI-Verordnung soll sicherstellen, dass besonders risikoreiche Anwendungen strengeren Kontrollen unterliegen, während innovative Entwicklungen nicht unnötig behindert werden. Die Pflichten für Hochrisiko-KI-Systeme und GPAI greifen ab Mitte 2025 – 2026, für verbotene KI-Systeme (z.B. bestimmte biometrische Gesichtserkennungstools) sogar bereits ab Februar 2025. Ob dieses Ziel, eine Regulierung ohne Innovationen zu behindern hierdurch erreicht wird, bleibt abzuwarten.

Wann gilt die KI-Verordnung? 
Was mit einem ersten Entwurfsvorschlag im April 2021 der EU-Kommission begann, wurde in den Trilog-Abstimmungen im Dezember 2023 weiter modifiziert. Im Mai 2024 stimmte der Rat der EU dem Entwurf zu, sodass die KI-Verordnung am 1. August 2024 in Kraft trat.
Die meisten Pflichten der KI-Verordnung gelten erst zwei Jahr nach ihrem Inkrafttreten, ab dem 2. August 2026. Allerdings greifen gewisse Pflichten für Unternehmen bereits vorher, in abgestufter zeitlicher Reihenfolge.
Zunächst gelten die Regelungen für verbotene KI und der Aufbau von KI-Kompetenz im Unternehmen ab sechs Monaten nach Inkrafttreten der Verordnung, also schon ab dem 2. Februar 2025. Hierbei wird die Pflicht zum Aufbau von KI-Kompetenz eine der umfangreichsten Pflichten sein, die die meisten Unternehmen betreffen wird.
Die Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck sowie die teilweise Möglichkeit zur Verhängung von Bußgeldern gelten genau 1 Jahr nach Inkrafttreten, ab dem 2. August 2025.

Ziele der KI-Verordnung
Der Zweck dieser Verordnung besteht darin, das Funktionieren des Binnenmarkts zu optimieren und die Einführung einer menschenzentrierten und vertrauenswürdigen Künstlichen Intelligenz (KI) zu fördern. Gleichzeitig soll ein hohes Schutzniveau für Gesundheit, Sicherheit sowie die in der Charta der Grundrechte verankerten Werte, wie Demokratie, Rechtsstaatlichkeit und Umweltschutz, gewährleistet werden. Hierdurch soll die Union vor schädlichen Auswirkungen von KI-Systemen geschützt und gleichzeitig Innovationen in diesem Bereich unterstützt werden.

Schutz der Grundrechte und Sicherheit der Bürger
Eines der Hauptziele der KI-Verordnung ist der Schutz der Grundrechte und der Sicherheit der EU-Bürger. Da KI-Systeme zunehmend in sensible Bereiche wie Gesundheitsversorgung, Strafverfolgung, Bildung und Beschäftigung integriert werden (sollen), wächst die Sorge über mögliche Diskriminierung, Fehlinformationen und ungerechte nicht nachvollziehbare Entscheidungsprozesse – zu Recht, denn die Ergebnisse (Output) der KI-Systeme sind immer nur so gut, wie der Datensatz, mit dem die KI vorher trainiert wurde.
Die KI-Verordnung soll sicherstellen, dass KI-Systeme fair, transparent und nachvollziehbar agieren. Insbesondere das Grundrecht auf informationelle Selbstbestimmung und der Schutz personenbezogener Daten soll durch die KI-Verordnung weiterhin gewahrt bleiben. Durch klare Regeln und Vorschriften soll verhindert werden, dass KI-Technologien zur Überwachung oder Manipulation von Menschen missbraucht werden.

Förderung von Innovation und Vertrauen in KI-Technologien
Ein weiteres wichtiges Ziel der KI-Verordnung ist die Förderung und der Schutz von Innovation in der KI-Branche, ohne gleichzeitig die Entwicklung und den Einsatz neuer Technologien zu behindern. Die KI-Verordnung will ein Umfeld schaffen, in dem Unternehmen weiterhin in KI investieren und innovative Lösungen entwickeln können, die den gesellschaftlichen Fortschritt vorantreiben. Gleichzeitig ist es wichtig, dass die Menschen Vertrauen in die KI-Technologien haben. Durch die Etablierung eines klaren Rechtsrahmens soll der KI-Verordnung dazu beitragen, dass Unternehmen vertrauenswürdige KI-Systeme entwickeln, die von den Nutzern als sicher und verlässlich angesehen werden.

Wir unterstützen Sie bei allen Fragen zur rechtsicheren Entwicklung und Einsatz von künstlicher Intelligenz. Wir verstehen nicht nur die rechtlichen Implikationen von KI, sondern setzen sie auch selbst ein.

Dieses Bild wurde mithilfe des KI-Tools DALL-E generiert.

Bei Fragen zu »KI-Verordnung« stehe ich Ihnen gerne zur Verfügung.

Julia Hirsch, juh@vogel-partner.eu, +49 721 78 20 27 – 0

Mitarbeiterbeteiligungen bieten die Möglichkeit, Mitarbeiter* an dem langfristigen Erfolg des Unternehmens zu beteiligen. Dies sorgt nicht nur für eine besondere Motivation bei den Mitarbeitern, sondern ermöglicht auch die langfristige Bindung von Top- Performern. Gleichzeitig kann hierdurch kurzfristig die Liquidität des Unternehmens geschont werden, wenn die Mitarbeiterbeteiligung beispielsweise als Option anstelle von Bonusauszahlungen angeboten wird. Daher finden solche Möglichkeiten auch immer mehr Anklang bei Startups sowie Klein- und Mittelstandsunternehmen.

Die zahlreichen Gestaltungsmöglichkeiten bieten ausreichende Flexibilität und maßgeschneiderte Lösungen für jedes Unternehmen. Sie sind damit nicht zwingend nur für Aktiengesellschaften oder GmbHs geeignet. Zudem haben Mitarbeiterbeteiligungen nicht zwingend ein Mitbestimmungsrecht der Mitarbeiter zur Folge.

Etablierte Modelle für die Umsetzung einer Mitarbeiterbeteiligung sind:

• Direkte Beteiligungen in Form von Belegschaftsaktien bzw. Belegschaftsgeschäftsanteilen
• Gründung von Mitarbeiterbeteiligungsgesellschaften
• Ausgabe virtueller Anteile wie z.B. virtual stock options
• Einräumung stiller Beteiligungen
• Ausgabe von Genussrechten oder Genussscheinen
• Mitarbeiterdarlehen

Bei der Wahl und Ausgestaltung des jeweiligen Modells sind nicht nur gesellschaftsrechtliche Aspekte relevant. Auch die Berührungspunkte mit dem Arbeits-, Sozialversicherungs- und Steuerrecht sind zu beachten.

• Finanzielle Zuwendungen können bei den Mitarbeitern je nach gewähltem Mitarbeiterbeteiligungsmodell als Arbeitslohn, Kapitaleinkünfte oder gewerbliche Einkünfte qualifiziert werden – jeweils mit unterschiedlichen steuerlichen Folgen für die Mitarbeiter.
• Bei der Ausgestaltung der Mitarbeiterbeteiligung werden in der Regel auch arbeitsrechtliche Grundsätze insbesondere die des Arbeitnehmerschutzes zu beachten sein.
• Es besteht zudem die Möglichkeit, den finanziellen Zufluss beim Mitarbeiter als sozialversicherungspflichtigen Arbeitslohn oder als sozialversicherungsfreies Entgelt auszugestalten.

Hinzukommen die durch das Zukunftsfinanzierungsgesetz erfolgten Neuerungen im § 19a EstG und die dadurch bestehenden steuerlichen Vorteile für Mitarbeiter bei der Gewährung von Geschäftsanteilen bzw. Mitarbeiterbeteiligungen. Zum 01.01.2024 wurde der Anwendungsbereich des § 19a EstG erweitert, sodass noch mehr Unternehmen und deren Mitarbeiter hiervon profitieren können. Wesentlicher Vorteil ist der Steueraufschub von bis zu 15 Jahren, der eine Dry-Income-Besteuerung verhindert.

Um maßgeschneiderte Lösungen zu finden, empfiehlt es sich immer, rechtzeitig Rechtsanwälte und Steuerberater bei der Gestaltung von Beginn an ins Boot zu holen.

*  Die Bezeichnung „Mitarbeiter“ wird lediglich aus Gründen der Vereinfachung verwendet und meint Arbeitnehmer gleich welchen Geschlechts.

Dieses Bild wurde mithilfe des KI-Tools DALL-E generiert.

Bei Fragen zu »Mitarbeiterbeteiligungen« stehe ich Ihnen gerne zur Verfügung.

Anna Danek, ad@vogel-partner.eu, +49 721 78 20 27 – 0