Immer mehr Mitarbeiter nutzen Künstliche Intelligenz im Arbeitsalltag und das oft ohne Absprache mit der IT-Abteilung oder der Geschäftsführung. Ob ChatGPT für E-Mails, DeepL für Übersetzungen oder Midjourney für Präsentationsbilder: Die unkontrollierte Nutzung von KI-Tools wird in Unternehmen zur wachsenden Compliance-Herausforderung.
Seit Inkrafttreten des AI Act der Europäischen Union sind die rechtlichen Risiken für Unternehmen massiv gestiegen. In diesem Beitrag zeige ich Ihnen, worauf Sie achten müssen und wie ich Sie bei der Umsetzung unterstützen kann.
Was ist Shadow AI – und warum ist sie gefährlich?
Shadow AI bezeichnet den Einsatz von KI-Anwendungen im Unternehmen, der nicht autorisiert, dokumentiert oder kontrolliert wird. Typische Beispiele sind:
- Mitarbeiter geben vertrauliche Daten in öffentliche KI-Chatbots ein
- Teams nutzen nicht geprüfte KI-Übersetzungsdienste für Geschäftskommunikation
- KI-Bildgeneratoren werden für Marketingmaterial eingesetzt ohne Klärung der Urheberrechte
- Systeme laufen auf privaten Geräten (z.B. BYOD oder ohne Wissen des Unternehmens) ohne Datenschutz-Folgenabschätzung
Das Problem: Die wenigsten dieser Tools wurden auf DSGVO-Konformität, AI Act-Anforderungen oder Haftungsrisiken geprüft. Im Schadensfall haftet das Unternehmen – und oft auch die Geschäftsführung persönlich.
Die rechtlichen Risiken im Überblick
1. DSGVO-Verstöße
Werden personenbezogene Daten in öffentliche KI-Modelle eingespeist, liegt regelmäßig ein Verstoß gegen die Grundsätze der Auftragsverarbeitung (Art. 28 DSGVO) und der Datenminimierung (Art. 5 DSGVO) vor. Die Datenschutzbehörden können Bußgelder von bis zu 20 Millionen Euro oder 4 % des Jahresumsatzes verhängen.
2. AI Act – Hochrisiko-KI ohne Kennzeichnung
Der AI Act stuft zahlreiche KI-Anwendungen als Hochrisiko-Systeme ein, darunter KI im Recruiting, in der Kreditwürdigkeitsprüfung oder im Gesundheitswesen. Werden solche Systeme ohne Konformitätsbewertung und CE-Kennzeichnung eingesetzt, drohen Bußgelder von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes.
3. Haftung der Geschäftsführung
Die Geschäftsführung ist nach § 43 GmbHG bzw. § 93 AktG zur ordnungsgemäßen Geschäftsführung verpflichtet. Dazu gehört auch die Sicherstellung eines funktionierenden Compliance-Systems für KI-Nutzung. Bei Verstößen droht die persönliche Haftung.
4. Urheberrechtsverletzungen
KI-generierte Inhalte werfen komplexe urheberrechtliche Fragen auf. Werden geschützte Werke als Trainingsdaten verwendet oder KI-Outputs ohne Prüfung veröffentlicht, können Abmahnungen und Schadensersatzforderungen drohen.
Wie Sie Shadow AI in den Griff bekommen
Eine vollständige Verbannung von KI aus dem Unternehmen ist weder realistisch noch sinnvoll. Künstliche Intelligenz bietet enorme Chancen, aber nur, wenn sie rechtssicher eingesetzt wird. Ich empfehle folgende Schritte:
- Bestandsaufnahme: Ermitteln Sie, welche KI-Tools in Ihrem Unternehmen tatsächlich genutzt werden. Oft ist die Dunkelziffer überraschend hoch.
- Richtlinie zur KI-Nutzung: Erstellen Sie eine verbindliche Unternehmensrichtlinie, die erlaubte und verbotene KI-Anwendungen klar definiert.
- Datenschutz-Folgenabschäzung (DPIA): Prüfen Sie für jede KI-Anwendung, ob eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO erforderlich ist.
- AI Act-Compliance-Prüfung: Lassen Sie Ihre KI-Systeme auf AI Act-Konformität prüfen, insbesondere hinsichtlich der Einstufung als Hochrisiko-KI.
- Schulung der Mitarbeiter: Sensibilisieren Sie Ihre Teams für die rechtlichen Risiken von Shadow AI.
Mein Angebot: KI- und AI Act-Schulungen für Ihr Unternehmen
Als Rechtsanwalt mit langjähriger IT-Erfahrung verbinde ich juristische Expertise mit technischem Verständnis. Ich biete Ihnen speziell zugeschnittene Schulungen zum AI Act und zum rechtssicheren Umgang mit Künstlicher Intelligenz an. Für Geschäftsführung, Compliance-Beauftragte und Ihre gesamte Belegschaft, persönlich und mit Aha!-Effekt für Sie.
In meinen Schulungen behandele ich unter anderem:
- Grundlagen des AI Act: welche Pflichten auf Ihr Unternehmen zukommen
- DSGVO-konformer Einsatz von KI-Tools im Arbeitsalltag
- Erstellung einer KI-Nutzungsrichtlinie für Ihr Unternehmen
- Haftungsvermeidung für Geschäftsführung und Führungskräfte
Meine Unterstützung
Als spezialisierte Kanzlei für IT-Recht und Datenschutz begleite ich Sie von der ersten Bestandsaufnahme bis zur Implementierung eines KI-Compliance-Systems. Ich unterstütze Sie bei:
- AI Act-Compliance-Prüfung Ihrer KI-Systeme
- Erstellung von KI-Nutzungsrichtlinien
- Datenschutz-Folgenabschätzungen für KI-Anwendungen
- Inhouse-Schulungen zu KI-Recht und AI Act
- Vertragsprüfung bei der Einführung neuer KI-Tools
Kontaktieren Sie mich gerne für ein unverbindliches Erstgespräch. Gemeinsam sorgen wir dafür, dass Ihr Unternehmen die Chancen der Künstlichen Intelligenz nutzen kann, ohne rechtliche Risiken einzugehen.
Hinweis: Dieser Beitrag dient der allgemeinen Information und stellt keine rechtliche Beratung im Einzelfall dar. Für eine verbindliche Einschätzung Ihrer konkreten Situation stehe ich Ihnen gerne persönlich zur Verfügung.