Pflichten nach dem AI Act: Was Unternehmen jetzt tun müssen.

Mit dem AI Act nimmt die Europäische Union (EU) Unternehmen klar in die Pflicht, wenn es um den Einsatz von Künstlicher Intelligenz geht. Neben der Risikoklassifizierung sind insbesondere Transparenz-, Schulungs- und Dokumentationspflichten zentrale Bausteine für die gesetzeskonforme Nutzung von KI-Systemen. Doch was genau bedeutet das für die Praxis? Und wie lässt sich der AI Act mit bestehenden Strukturen wie der DSGVO und dem ISMS verbinden?

Transparenzpflichten: Offenheit schaffen.

Der AI Act verpflichtet Unternehmen dazu, transparent mit KI-Anwendungen umzugehen. Nutzer müssen darüber informiert werden, wenn sie mit einem KI-System interagieren (etwa mit einem Chatbot oder bei KI-generierten Inhalten).

Das bedeutet konkret:

• Hinweispflicht bei KI-gestützter Interaktion (z. B. auf Websites)
• Kennzeichnungspflicht für KI-generierte Texte, Bilder oder Videos, sofern diese unbearbeitet veröffentlicht werden
• Offenlegungspflicht gegenüber Aufsichtsbehörden über eingesetzte KI-Systeme

Diese Maßnahmen dienen dem Verbraucherschutz und stärken das Vertrauen in KI-Lösungen.

Schulungspflichten: KI-Kompetenz im Unternehmen verankern.

Der AI Act fordert Unternehmen explizit dazu auf, internes Know-how im Umgang mit KI aufzubauen. Artikel 4 legt fest, dass sowohl Mitarbeitende als auch Führungskräfte entsprechend geschult werden müssen (abgestimmt auf die jeweilige Risikoklasse der eingesetzten Systeme).

Was Unternehmen tun sollten:

• E-Learnings oder Präsenzschulungen anbieten, dokumentieren und regelmäßig wiederholen
• Spezialtrainings für Hochrisiko-Anwendungen entwickeln
• Verantwortlichkeiten definieren: Wer darf was mit welchen KI-Tools?

Ziel ist es, Risiken besser einschätzen und Fehlverhalten vermeiden zu können.

Dokumentationspflicht: Systeme und Prozesse nachvollziehbar machen.

Ein zentrales Element des AI Acts ist die Dokumentation. Unternehmen müssen nachweisen können, welche KI-Systeme sie nutzen, wie sie diese bewertet haben und welche Maßnahmen zur Risikominimierung ergriffen wurden.

Notwendige Schritte:

• KI-Inventur durchführen (Welche Tools sind im Einsatz?)
• Risikobewertung erstellen (Nach AI Act-Risikoklassen)
• Maßnahmenkatalog dokumentieren (Schulungen, Governance, Prüfprozesse)

Diese Dokumentation ist bei Prüfungen durch Aufsichtsbehörden essenziell.

Verbindung zu DSGVO und ISMS: Synergien nutzen.

Viele Unternehmen verfügen bereits über ein Datenschutzkonzept (DSGVO) und ein Informationssicherheits-Managementsystem (ISMS). Gute Nachrichten: Der AI Act baut auf diesen Strukturen auf.

Vorteile:

• Bestehende Prozesse wie Datenschutz-Folgenabschätzungen können angepasst werden
• Rollen wie Datenschutz- oder Informationssicherheitsbeauftragte lassen sich um die Perspektive des AI Compliance Officers erweitern
• Risikomanagement-Tools aus dem ISMS können auch für KI-Systeme verwendet werden

Tipp: Ergänzen Sie Ihre bestehenden Richtlinien um KI-spezifische Aspekte und führen Sie regelmäßige Reviews durch.

Buchempfehlung für weitere Insides zum AI Act.

Für weitere Informationen und detaillierte Einblicke zu dem Themen AI empfehlen wir Ihnen folgende Bücher:

• Arbeitsbuch AI Act: Gebrauchsanleitung für Unternehmen zur Umsetzung der KI-Verordnung (r&w/Fachmedien Recht und Wirtschaft)*
• Das neue Recht der Künstlichen Intelligenz: Artificial Intelligence Act (AI Act)*
• AI Act kompakt: Compliance, Management & Use Cases in der Unternehmenspraxis (InTeR-Schriftenreihe: Schriftenreihe der Zeitschrift für Innovations- und Technikrecht)*
• EU AI Act: Full text of the Artificial Intelligence Regulation (EU) 2024/1689*

* Werbung/ Affiliate

Fazit.

Die Pflichten aus dem AI Act sind umfassend – aber machbar. Wer frühzeitig Transparenz schafft, Mitarbeitende schult und eine solide Dokumentation aufsetzt, ist nicht nur gesetzlich auf der sicheren Seite, sondern positioniert sich auch als verantwortungsvoller und zukunftsfähiger Anbieter im digitalen Markt.

Empfehlung: Starten Sie mit einer KI-Inventur, identifizieren Sie Ihre Schulungsbedarfe und verknüpfen Sie Ihre bestehenden DSGVO- und ISMS-Prozesse mit den Anforderungen des AI Acts.

Dieser Artikel wurde mit Unterstützung von KI erstellt und anschließend redaktionell überarbeitet.