Seit dem 02. Februar 2025 ist die KI-Verordnung (AI-ACT) in Kraft und regelt den Einsatz von KI-Systemen. Diese Verordnung betrifft auch viele unserer Mandanten, insbesondere wenn Sie KI-Lösungen in Ihrem Unternehmen nutzen. Im Folgenden möchten wir Sie über die wichtigsten Punkte informieren und Ihnen aufzeigen, was Sie beachten müssen.
Sind Sie von der KI-Verordnung betroffen?
Die KI-Verordnung unterscheidet zwischen zwei zentralen Rollen:
- Anbieter: Dies sind Hersteller oder Entwickler von KI-Systemen, die diese unter eigenem Namen auf den Markt bringen.
- Betreiber: Als Betreiber gelten Unternehmen, die KI-Systeme in ihrem Betrieb nutzen, beispielsweise über Chatbots oder andere KI-gestützte Lösungen. Diese Rolle trifft in der Regel auf unsere Mandanten zu.
Weitere Rollen sind in der Verordnung definiert, spielen jedoch aus Anwendersicht eine untergeordnete Rolle.
Was müssen Sie als Betreiber beachten?
Die KI-Verordnung stellt klare Anforderungen an den Einsatz von KI-Systemen. Hier die wichtigsten Punkte:
- Verbotene KI-Systeme:
KI-Systeme, die Menschen manipulieren, Schwachstellen ausnutzen oder Verhaltensbewertungen durchführen, sind verboten. - Verantwortlichkeiten:
Ab jetzt müssen Sie den Einsatz von KI-Systemen rechtskonform planen und steuern. Dazu gehört zu Beginn vor allem, dass Ihre Mitarbeiter im sorgsamen Umgang mit KI geschult werden. Die Verordnung fordert eine sogenannte „KI-Kompetenz“. - Verschärfte Regelungen ab August 2026:
Hochrisiko-KI-Systeme, wie beispielsweise solche, die mit medizinischen Daten arbeiten, unterliegen besonders strengen Vorgaben. Zudem muss die Nutzung von KI transparent sein: Nutzer müssen erkennen können, wenn ein Ergebnis von einer KI generiert wurde. Ab diesem Zeitpunkt beginnen auch die behördlichen Kontrollen, deren genaue Ausgestaltung noch offen ist.
Was sollten Sie jetzt tun?
Als Betreiber eines KI-Systems sollten Sie sich damit auseinandersetzen, wie Sie die geforderten Verantwortlichkeiten in Ihrem Unternehmen umsetzen können.
Wie unterstützen wir Sie?
Wir stehen Ihnen gerne zur Seite, um Sie bei der Einhaltung der KI-Verordnung zu unterstützen:
- Schulungsmaterial für Mitarbeiter:
Wir stellen Ihnen ein Handout zur Verfügung, mit dem Sie Ihre Mitarbeiter schulen und die geforderte „KI-Kompetenz“ im Unternehmen sicherstellen können. - Muster-Richtlinie für KI-Anwendungen:
Bereits seit dem 22. August 2023 steht Ihnen eine Muster-Richtlinie für die Nutzung von KI-Anwendungen im Datenschutzmanagementsystem (DSMS) zur Verfügung. Diese Richtlinie hilft Ihnen, klare Regelungen für den Einsatz von KI in Ihrem Unternehmen zu etablieren. - Umsetzung des Datenschutzhandbuches (BK2):
Wir empfehlen dringend, das Datenschutzhandbuch (BK2) in Ihrem Unternehmen umzusetzen. Dies stellt sicher, dass alle datenschutzrechtlichen Anforderungen erfüllt werden und ein sorgsamer Umgang mit IT und personenbezogenen Daten gewährleistet ist. Für die meisten Mandanten ist diese Unterstützung kostenfrei im vereinbarten Betreuungsumfang enthalten.
Haben Sie Fragen?
Sollten Sie weitere Fragen zur KI-Verordnung oder zur Umsetzung der erforderlichen Maßnahmen haben, zögern Sie bitte nicht, uns anzusprechen. Wir unterstützen Sie gerne bei der Umsetzung und stehen Ihnen mit unserer Expertise zur Verfügung.
