EU AI Act: Eine Zusammenfassung
- Rebecca-Marie Hundschell
- 3. Feb.
- 4 Min. Lesezeit
Dieser Artikel dient nur zu Informationszwecken und stellt keine rechtliche Beratung dar. Für verbindliche Auskünfte wende dich an eine Fachanwältin / einen Fachanwalt oder eine zuständige Behörde. Keine Haftung für getroffene Entscheidungen.
Am 1. August 2024 ist der EU AI Act in Kraft getreten. Er ist das weltweit erste umfassende Gesetz zur Regulierung von Künstlicher Intelligenz. Doch was bedeutet das für dein Unternehmen? Hier erfährst du in einer kompakten EU AI Act Zusammenfassung, welche Regelungen seit 2. Februar 2025 gelten und was man als Unternehmen beachten muss.
1. Warum gibt es den EU AI Act?
Die Europäische Union hat den AI Act ins Leben gerufen, um sicherzustellen, dass Künstliche Intelligenz sicher, transparent und vertrauenswürdig eingesetzt wird. Ziel des Gesetzes ist es, Risiken zu minimieren und gleichzeitig Innovation zu fördern. Die Regelungen betreffen alle Unternehmen, die KI entwickeln, einsetzen oder vertreiben – unabhängig von ihrer Größe oder Branche. Damit soll gewährleistet werden, dass der technologische Fortschritt nicht auf Kosten von Sicherheit und Ethik geht.
2. Ab wann gilt der EU AI Act und für wen?
Der EU AI Act ist am 1. August 2024 in Kraft getreten. Die einzelnen Regelungen treten nun schrittweise zwischen Februar 2025 und August 2027 in Kraft.
Der Zeitstrahl gibt eine Übersicht über die einzelnen Regelungen und wann diese in Kraft treten:
Das Gesetz gilt nicht nur für große Technologieunternehmen, die KI-Systeme entwickeln, sondern auch für Unternehmen, die KI-Systeme nutzen oder betreiben.
Besonders betroffen sind Unternehmen, die KI in sensiblen Bereichen wie Personalmanagement, Produktion, Gesundheitswesen oder Kundenservice einsetzen. Es ist daher wichtig, frühzeitig zu prüfen, ob eigene Prozesse unter die neuen Vorschriften fallen und für welche Mitarbeitenden KI-Kompetenzen aufgebaut werden müssen.
3. Die Risikoklassen – Welche KI-Systeme sind reguliert?
Der AI Act teilt KI-Systeme in vier Kategorien ein, abhängig von ihrem potenziellen Risiko für die Gesellschaft:
Unzulässiges Risiko: KI-Anwendungen, die gegen Grundrechte verstoßen, wie Social Scoring oder manipulative Überwachungsmethoden, sind verboten.
Hohes Risiko: KI in sicherheitskritischen Bereichen, wie medizinische Diagnosen oder Kreditvergabe, unterliegt strengen Auflagen und muss klare Nachweise zur Sicherheit und Fairness erbringen.
Begrenztes Risiko: KI-Systeme, die Nutzerentscheidungen beeinflussen, wie Chatbots oder Empfehlungssysteme, müssen Transparenzanforderungen erfüllen. Nutzer müssen darüber informiert werden, dass sie mit einer KI interagieren.
Minimales Risiko: KI-Anwendungen für allgemeine Zwecke, wie Spamfilter oder automatisierte Rechtschreibprüfungen, bleiben weitgehend unreguliert.
Web-KI-Anwendungen: Über die vier Risikoklassen hinaus gibt es Spezialanforderungen für KI-Modelle mit allgemeinem Verwendungszweck, die über eine Webapplikation auf Unternehmenshardware abrufbar ist (z.B. ChatGPT).
4. Welche Pflichten haben Unternehmen, die KI nutzen, jetzt ab Februar 2025 bereits?
Im Februar 2025 wurden Kapitel I und II des EU AI Acts rechtsgültig.
Kapitel I - KI-Kompetenzen: Als Betreiber von KI-Systemen werden Maßnahmen ergriffen, um nach besten Wissen und Gewissen sicherzustellen, dass Personal und Personen, die im Auftrag für das Unternehmen handeln, über ausreichend KI-Kompetenz verfügen. Ziel ist dabei, dass jeder Nutzer der eigenen KI-Systeme diese sachkundig einsetzen kann sowie sich der Chancen, Risiken und möglicher Schäden durch KI bewusst ist.
Das heißt konkret: Wenn Sie KI-Systeme verwenden (z.B. einen Unternehmens-GPT), sollten Mitarbeitende, die Zugriff auf die KI-Systeme haben können, in KI, dessen Chancen, Risiken und ethischen Herausforderungen sowie zum praktischen Einsatz geschult werden.
Sonderfall Web-KI-Anwendungen: Wenn sie selbst keine KI-Systeme nutzen oder betreiben, könnten sie schnell zu dem Schluss kommen: KI-Kompetenz-Training brauchen wir nicht.
Aber Achtung: Wenn Web-KI-Anwendungen, z.B. ChatGPT oder Midjourney, über Ihre Unternehmenshardware für Mitarbeitende zugänglich ist, müssen sie entweder a) eine Richtlinie einführen mit Verbot der Nutzung dieser Web-KI-Anwendungen, diese Anwendungen blockieren und so nicht zugänglich für Ihre Mitarbeitenden machen oder b) eine Richtlinie zur richtigen, sicheren Nutzung einführen und KI-Kompetenz-Trainings für Ihre Mitarbeitende anbieten. Um die Wettbewerbs- und Zukunftsfähigkeit des Unternehmens sicherzustellen, würde ich Ihnen immer zu b) raten.
Kapitel II - Verbotene KI-Praktiken: Es muss sichergestellt werden, dass keine KI-Anwendungen mit unzulässigem Risiko im Unternehmen angewendet werden. Praktische Beispiele für KI-Anwendungen mit unzulässigem Risiko sind Social Scoring-Algorithmen oder KI-Systeme, die Gesichtsbilder aus dem Internet oder aus Videoüberwachungsanlagen auslesen.
Das heißt konkret: Analyse der eingesetzten KI-Systeme, Kategorisierung nach Risikoklassen (wie oben erklärt) und Dokumentation der Kategorisierungsergebnisse. Stilllegen der KI-Anwendungen mit unzulässigem Risiko, falls vorhanden.
5. Welche Strafen drohen bei Verstößen?
Strafen für die Nichteinhaltung des EU AI Acts treten ab 1. August 2025 in Kraft. Die Strafen bei Nichteinhaltung der Vorschriften sind dabei erheblich. Je nach Verstoß drohen Bußgelder von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes. Die Höhe des Bußgelds ist nach Größe und Delikt zu bemessen. Die nationalen Behörden sind für die Überwachung der Einhaltung zuständig und können Sanktionen verhängen. Unternehmen sollten sich daher frühzeitig mit den neuen Anforderungen vertraut machen, um hohe Strafen zu vermeiden.
6. Was solltest du konkret in deinem Unternehmen tun, um den EU AI Act im Ganzen zu erfüllen?
Der EU AI Act ist ein sehr umfangreiches Regelwerk, dass für Unternehmen eine Hürde darstellt. Gleichzeitig kann er aber auch als Chance gesehen werden, da es jedem Unternehmen einen Rahmen gibt, wie KI strategisch sinnvoll und holistisch gedacht eingeführt werden kann.
Ich bin kein Fan davon, den einzelnen Regelungen hinterherzurennen und reaktiv auf die Anforderungen zu handeln. Denn dies ist immer unüberlegter und nimmt einem die Chance, den für das Unternehmen eigenen Weg durch die Regulatorik zu finden. Meine Empfehlung ist deshalb ein proaktives Auseinandersetzen mit dem EU AI Act und dessen Auswirkungen aufs Unternehmen.
Du willst mehr dazu erfahren, wie du den EU AI Act für dein Unternehmen als Chance nutzen kannst? Lass uns darüber in einem kostenfreien, unverbindlichen Erstgespräch sprechen. Ich freu mich auf dich!
Kommentare