Ich habe ein sehr interessantes Video zum EU AI Act gesehen und möchte das hier für euch und für mich zur nachverfolgung zusammenfassen. Der Beitrag bietet eine umfassende Übersicht über die schrittweise Einführung der EU-KI-Verordnung und zeigt auf, was Unternehmen ab dem 2. August 2026 sowie in den Folgejahren unbedingt beachten müssen.
Mit dem abspielen des Videos stimmst du den Datenschutzrichtlinien (siehe Datenschutz) von Youtube zu.
Zielsetzung des EU AI Acts
Der EU AI Act ist die Verordnung der Europäischen Union zur Regulierung von künstlicher Intelligenz, die offiziell am 1. August 2024 in Kraft getreten ist.
Der Einsatz von KI bringt viele Chancen, aber auch erhebliche Risiken mit sich — wie die gezielte Manipulation, Überwachung, Ausbeutung oder Diskriminierung von Menschen. Das Ziel des AI Acts ist es, klare Grenzen zu ziehen und Folgendes zu schützen:
- Gesundheit und Sicherheit
- Grundrechte
- Demokratie und Rechtsstaatlichkeit
- Umwelt
Der risikobasierte Ansatz: Die 4 Risikostufen
Da nicht jede KI-Anwendung das gleiche Schadenspotenzial hat (ein KI-Spamfilter richtet weit weniger Schaden an als ein System zur Kreditvergabe), verfolgt die EU einen risikobasierten Ansatz. KI-Systeme werden in vier Kernkategorien unterteilt:
- Inakzeptables Risiko (Verbotene KI):
- KI-Systeme dieser Kategorie sind komplett verboten, da sie unvereinbar mit den Grundrechten sind.
- Beispiel: Social-Scoring-Systeme zur gesellschaftlichen Bewertung von Menschen.
- Hochrisikosysteme (Strenge Auflagen):
- Grundsätzlich erlaubt, jedoch an sehr strenge Auflagen gebunden (z. B. detaillierte technische Dokumentation und kontinuierliche Risikoprüfungen).
- Beispiele: KI bei der Bewertung der Kreditwürdigkeit, automatisiertes Vorsortieren von Bewerbungen, Medizintechnik oder autonomes Fahren.
- Begrenztes Risiko (Transparenzpflichten):
- Nicht streng reguliert, erfordert aber Transparenz gegenüber den Nutzern.
- Beispiele: Chatbots, KI-generierter Content (Bilder, Videos, Audios, Texte).
- Minimales Risiko (Keine Sonderpflichten):
- Unterliegt keinen besonderen gesetzlichen Pflichten; es gelten lediglich empfohlene Verhaltensregeln.
- Beispiele: KI-gestützte Spamfilter, KI in Videospielen.
Zeitplan: Der Stufenplan der Umsetzung
Die Regeln des AI Acts treten nicht auf einen Schlag, sondern verteilt über einen Zeitraum von rund vier Jahren in Kraft:
- 2. Februar 2025:
- Inkrafttreten der Verbote für KI mit inakzeptablem Risiko.
- Start der KI-Kompetenzpflicht: Unternehmen müssen dafür sorgen, dass Mitarbeitende, die KI beruflich nutzen, ausreichend geschult sind, um Risiken einschätzen und KI sinnvoll einsetzen zu können.
- 2. August 2025:
- Pflichten für Anbieter von GPAI-Modellen (General Purpose AI / universelle KI-Modelle wie OpenAI, Anthropic, Google, Mistral). Sie müssen u. a. Trainingsinhalte offenlegen und die Einhaltung des Urheberrechts nachweisen.
- 2. August 2026:
- Start der breiten Transparenzpflichten: Betrifft nahezu jedes Unternehmen, das Chatbots einsetzt oder KI-Inhalte veröffentlicht.
- Weitere Ausblicke (Verschiebungen & Ergänzungen):
- Die harten Vorgaben für Hochrisikosysteme wurden von der EU kurzfristig auf Dezember 2027 und August 2028 verschoben.
- Im Dezember 2026 tritt zudem ein weiteres Verbot in Kraft.
Wer ist betroffen? Anbieter vs. Betreiber
Der EU AI Act unterscheidet zwischen verschiedenen Rollen. Für den Unternehmensalltag ist vor allem die Unterscheidung zwischen Anbieter und Betreiber entscheidend:
- Anbieter (Provider):
- Entwickelt ein KI-System oder bietet ein universelles KI-Modell unter eigenem Namen an (egal ob kostenpflichtig oder kostenlos).
- Beispiele: OpenAI, ElevenLabs, Entwickler von Kundensupport-Chatbots.
- Betreiber (Deployer):
- Setzt KI-Systeme eigenverantwortlich im beruflichen / kommerziellen Kontext ein.
- Beispiele: Eine Marketingagentur, die KI für Kundenkampagnen nutzt, oder ein E-Commerce-Shop, der einen Chatbot auf seiner Website einbindet.
Die Transparenzpflichten im Detail (Ab 2. August 2026)
Das Hauptziel der Transparenzpflichten ist es, sicherzustellen, dass Menschen jederzeit erkennen können, wenn sie mit einer KI interagieren oder von KI generierte/veränderte Inhalte konsumieren.
1. Direkte Interaktion (z. B. Chatbots & Voice-Bots)
- Pflicht: Bei unmittelbarer Kommunikation zwischen KI und Mensch muss die KI-Nutzung offengelegt werden.
- Zuständigkeit: Anbieter.
- Anforderung: Der Hinweis muss spätestens bei der ersten Interaktion und klar ersichtlich erfolgen. Das Verstecken in den AGB ist ausdrücklich unzulässig.
- Ausnahme: Wenn es völlig offensichtlich ist, dass es sich um eine KI handelt (wobei der Maßstab je nach Zielgruppe variiert, z. B. Erwachsene vs. Kinder).
2. KI-generierte & KI-manipulierte Medien (Bilder, Audio, Video, Text)
- Pflicht: Inhaltsgenerierende Systeme müssen die Erzeugnisse maschinenlesbar als KI-generiert oder -manipuliert kennzeichnen.
- Umsetzung: Es geht hier nicht primär um ein sichtbares Label, sondern z. B. um unsichtbare Wasserzeichen oder eingebettete Metadaten.
- Ausnahme: Standardmäßige Bearbeitungen (z. B. automatische Belichtungskorrekturen in Fotos), die den Inhalt nicht wesentlich verändern.
- Schonfrist: Für Bestands-Systeme, die vor dem 2. August auf dem Markt waren, gilt für die maschinenlesbare Kennzeichnung eine Übergangsfrist bis zum 2. Dezember 2026.
3. Deep Fakes
- Definition: KI-erzeugte oder -manipulierte Inhalte, die echten Personen, Gegenständen, Orten oder Ereignissen täuschend ähnlich sehen.
- Pflicht: Wer einen Deep Fake erstellt und veröffentlicht, muss die KI-Herkunft für Menschen sichtbar offenlegen.
- Zuständigkeit: Auch Betreiber / Ersteller (nicht nur Anbieter).
- Ausnahme: Rein technische Nachbearbeitungen (z. B. Rauschunterdrückung) sowie rein private Deep Fakes, die nicht veröffentlicht werden.
4. KI-Texte zu öffentlichen Interessenthemen
- Pflicht: KI-generierte oder -überarbeitete Texte, die veröffentlicht werden, um die Öffentlichkeit über Themen von öffentlichem Interesse (Politik, Gesellschaft, Wirtschaft) zu informieren, müssen als KI-Text gekennzeichnet werden. (Trifft nicht auf persönliche Hobby-Blogs zu).
- Ausnahme: Die Kennzeichnungspflicht entfällt, wenn beide Bedingungen erfüllt sind:
- Ein Mensch hat den Text inhaltlich geprüft (eine bloße Rechtschreibprüfung reicht nicht aus).
- Eine namentlich genannte Person oder ein Unternehmen übernimmt die rechtliche und inhaltliche Verantwortung dafür.
5. Emotionserkennung & biometrische Kategorisierung
- Pflicht: Betreiber müssen betroffene Personen darüber informieren, wenn KI zur Erkennung von Emotionen oder biometrischen Merkmalen genutzt wird.
- Verbot: Die Verwendung von Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen gilt als inakzeptables Risiko und ist strikt verboten.
Orientierungshilfe: Code of Practice der EU-Kommission
Um Unternehmen bei der praktischen Gestaltung der Kennzeichnung zu unterstützen, stellt die EU-Kommission einen freiwilligen Code of Practice bereit. Dieser enthält unter anderem offizielle Icons und Platzierungsempfehlungen. Die Nutzung ist nicht verpflichtend, dient aber im Streitfall als verlässlicher Nachweis für die Einhaltung der gesetzlichen Vorgaben.
Bußgelder & Strafen bei Verstößen
Die Nichteinhaltung des EU AI Acts kann zu drastischen finanziellen Sanktionen führen:
| Verstoß | Maximales Bußgeld |
| Verbotene KI-Praktiken | Bis zu 35 Mio. Euro oder 7 % des weltweiten Jahresumsatzes (je nachdem, was höher ist) |
| Verstöße gegen Transparenzpflichten | Bis zu 15 Mio. Euro oder 3 % des weltweiten Jahresumsatzes |
| Falsche Auskünfte gegenüber Behörden | Bis zu 7,5 Mio. Euro oder 1 % des weltweiten Jahresumsatzes |
Wichtige Schlussregeln für die Praxis
- Keine Rechtsberatung: Diese Übersicht stellt allgemeine Informationen bereit und ersetzt keine individuelle juristische Beratung.
- Dynamische Rechtslage: Da sich Fristen verändern und Feinheiten nachjustiert werden können, sollten Unternehmen die aktuellen gesetzlichen Entwicklungen kontinuierlich im Blick behalten.
Dieses Thumbnail und der Beitrag wurden teilweise mithilfe von Künstlicher Intelligenz (KI) erstellt, anschließend manuell kontrolliert und nachbearbeitet.
Quellen
- EU Kommission - Verhaltenskodex für die Transparenz von KI-generierten Inhalten
- Youtube - EU AI Act: Diese Pflichten und Bußgelder müssen Unternehmen kennen
- Die Evolution des Sysadmin: Zukunft und Relevanz des Linux Systemadministrator im Zeitalter von KI und Containern
Wichtiger Hinweis: Keine Rechtsberatung
Die Inhalte dieses Blog-Beitrags dienen ausschließlich der allgemeinen Information und wurden nach bestem Wissen und Gewissen auf Basis des verlinkten YouTube-Videos und weiteren Quellen erstellt. Trotz sorgfältiger Zusammenfassung kann keine Gewähr für die Richtigkeit, Vollständigkeit oder Aktualität der Informationen übernommen werden.
Dieser Beitrag stellt keine Rechtsberatung dar und kann eine solche auch nicht ersetzen. Die rechtliche Situation rund um den EU AI Act ist komplex, teilweise noch in der Entwicklung und hängt stark von den individuellen Umständen Ihres Unternehmens ab. Für eine rechtssichere Einschätzung Ihrer spezifischen Pflichten und zur Vermeidung von Bußgeldern kontaktieren Sie bitte unbedingt einen spezialisierten Rechtsanwalt
