EU AI Act: Wie kamium Unternehmen bei der Umsetzung unterstützt

Bei Nichteinhaltung des EU AI Acts drohen empfindliche Strafen von bis zu 35 Millionen Euro oder 7% des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Die genaue Höhe hängt von der Art und Schwere des Verstoßes ab. Diese substanziellen Sanktionen unterstreichen die Bedeutung, die der europäische Gesetzgeber der Regulierung von KI-Systemen beimisst.

‍

Deutsche Unternehmen müssen folgende Maßnahmen ergreifen:

1. Bestandsaufnahme aller genutzten KI-Systeme
2. Risikoklassifizierung der eingesetzten KI-Anwendungen
3. Dokumentation der KI-Systeme und ihrer Verwendung
4. Implementierung notwendiger Schutzmaßnahmen entsprechend der Risikoklasse
5. Schulung der Mitarbeitenden im Umgang mit KI
6. Regelmäßige Überprüfung und Aktualisierung der Compliance-Maßnahmen

Besonders wichtig ist die frühzeitige Vorbereitung auf die stufenweise Einführung der Regulierung.

‍

Ein in der EU gehostetes KI-System wie kamium bietet mehrere entscheidende Vorteile:

1. Garantierte Compliance: Automatische Einhaltung der EU-Datenschutzstandards
2. Rechtssicherheit: Reduziertes Risiko von Verstößen gegen den EU AI Act
3. Datensouveränität: Kontrolle über Unternehmensdaten ohne Datenabfluss in Drittländer
4. Transparenz: Nachvollziehbarkeit der Datenverarbeitung gemäß EU-Vorgaben
5. Wettbewerbsvorteil: Positionierung als vertrauenswürdiger, regulierungskonformer Partner

Diese Faktoren machen EU-basierte Lösungen zu einem strategischen Asset für deutsche Unternehmen.

‍

Der Einsatz von KI im HR-Bereich wird vom EU AI Act als Hochrisiko-Anwendung eingestuft. Unternehmen müssen bei KI-gestützten HR-Prozessen (wie Bewerberselektion oder Leistungsbewertung) folgende Anforderungen erfüllen:

1. Gründliche Risikoanalyse und -dokumentation
2. Hohe Datenqualität und Diskriminierungsfreiheit sicherstellen
3. Transparenz gegenüber Betroffenen gewährleisten
4. Menschliche Aufsicht und Eingriffsmöglichkeiten implementieren
5. Regelmäßige Überprüfung des Systems auf Fehler oder Verzerrungen

Die Verwendung von Emotionserkennung am Arbeitsplatz ist zudem generell verboten.

‍

Der EU AI Act verbietet seit Februar 2025 KI-Systeme mit inakzeptablem Risiko. Dazu gehören:

1. Social Scoring-Systeme, die Menschen nach ihrem sozialen Verhalten bewerten
2. Biometrische Massenüberwachung im öffentlichen Raum
3. Emotionserkennungssysteme am Arbeitsplatz oder im Bildungsbereich
4. KI-Systeme zur Manipulation durch subliminale Techniken
5. KI zur Ausnutzung von Schwächen bestimmter Personengruppen
6. Prädiktive Polizeiarbeit auf Basis individueller Risikoprofile

Für diese Anwendungen gibt es nur sehr begrenzte Ausnahmen für nationale Sicherheitszwecke.

‍

Die Förderung der KI-Kompetenz von Mitarbeitenden ist eine explizite Anforderung des EU AI Acts und umfasst:

1. Strukturierte Schulungsprogramme zu KI-Grundlagen und -Anwendungen
2. Spezifische Trainings zu regulatorischen Anforderungen (EU AI Act, DSGVO)
3. Praxisnahe Workshops zum sicheren Umgang mit KI-Tools
4. Klare Richtlinien zur verantwortungsvollen KI-Nutzung im Unternehmen
5. Regelmäßige Updates zu rechtlichen und technologischen Entwicklungen

Mit kamium bieten wir umfassende Schulungen an, die diese Aspekte abdecken und Unternehmen bei der Compliance-Umsetzung unterstützen.

‍

Während sich beide Regelwerke ergänzen, bestehen wichtige Unterschiede:

EU AI Act:

• Fokussiert auf KI-Systeme und deren Risikopotenzial
• Kategorisiert Anwendungen nach Risikoklassen
• Regelt technische und organisatorische Anforderungen an KI-Systeme
• Definiert verbotene KI-Anwendungen

DSGVO:

• Konzentriert sich auf personenbezogene Daten allgemein
• Regelt Erhebung, Verarbeitung und Speicherung von Daten
• Definiert Rechte der betroffenen Personen
• Gilt unabhängig von der verwendeten Technologie

Unternehmen müssen beide Regelwerke beachten, wenn sie KI-Systeme mit personenbezogenen Daten einsetzen.

‍

Um sich effektiv auf den EU AI Act vorzubereiten, empfehlen wir einen strukturierten Ansatz:

1. KI-Bestandsaufnahme durchführen: Identifizieren Sie alle KI-Systeme und -Anwendungen in Ihrem Unternehmen
2. Risikobewertung vornehmen: Klassifizieren Sie Ihre KI-Anwendungen nach den Risikoklassen des EU AI Acts
3. Dokumentationssystem aufbauen: Erstellen Sie eine zentrale Dokumentation Ihrer KI-Systeme, deren Funktionsweise und Verwendungszwecke
4. Technische Konformität sicherstellen: Implementieren Sie EU-konforme KI-Lösungen (wie kamium) mit EU-Hosting und entsprechenden Sicherheitsmaßnahmen
5. Schulungsprogramm entwickeln: Bilden Sie Ihre Mitarbeiter im verantwortungsvollen Umgang mit KI-Technologien aus
6. Compliance-Zeitplan erstellen: Planen Sie Ihre Maßnahmen entsprechend der stufenweisen Einführung des EU AI Acts

Eine frühzeitige Anpassung Ihrer KI-Strategie an die kommenden Anforderungen vermeidet teure Nachbesserungen und rechtliche Risiken.

‍

Der EU AI Act gilt für alle Unternehmen unabhängig von ihrer Größe, bietet jedoch bestimmte Erleichterungen für KMUs:

1. Proportionale Anforderungen: Die technischen und organisatorischen Maßnahmen sollen verhältnismäßig zur Unternehmensgröße sein
2. Unterstützungsstrukturen: Die Verordnung sieht spezielle Beratungsstellen und Unterstützung für KMUs vor
3. Regulatorische Sandboxes: KMUs können ihre KI-Lösungen in kontrollierten Testumgebungen erproben
4. Dokumentationserleichterungen: Vereinfachte Dokumentationspflichten für bestimmte Anwendungen

Trotz dieser Erleichterungen müssen auch KMUs die grundlegenden Anforderungen des EU AI Acts erfüllen, insbesondere bei Hochrisiko-Anwendungen. Eine EU-konforme Lösung wie kamium kann gerade für KMUs den Compliance-Aufwand deutlich reduzieren.

‍