EU macht KI-Kennzeichnung Pflicht

Wer in dieser Woche mit einem Kundenservice-Bot gesprochen hat und gleich zu Beginn den Hinweis bekam, dass es sich um künstliche Intelligenz handelt, sah keine freiwillige Höflichkeit des Anbieters. Seit dem 2. August ist diese Offenlegung europäische Pflicht. Artikel 50 des KI-Gesetzes der EU verlangt, dass KI-Systeme und synthetische Inhalte als solche erkennbar gemacht werden (EU AI Act, Commission summary). Verboten wird dadurch zunächst nichts. Die Regel soll vor allem sichtbar machen, wo im Netz eine künstlich erzeugte Schicht zwischen Nutzer und Inhalt liegt.

Was nun tatsächlich geschehen muss

Der Artikel unterscheidet drei Fälle. Ein Chatbot muss zu Beginn der Unterhaltung offenlegen, dass er KI ist. Ein realistisch wirkendes synthetisches Bild, Video oder Audiostück braucht eine sichtbare Kennzeichnung. Und KI-generierte Texte zu Fragen von öffentlichem Interesse, etwa Wahlerklärungen, Gesundheitshinweise oder politische Zusammenfassungen, müssen als maschinell erstellt ausgewiesen werden. Das gilt nicht für bloße Produktwerbung und entfällt, wenn ein menschlicher Redakteur den Text geprüft hat und die redaktionelle Verantwortung übernimmt (Article 50 guidance).

Das System arbeitet auf zwei Ebenen. Die sichtbare Ebene ist der Hinweis, den Nutzer wahrnehmen: ein Label auf einem Deepfake-Video oder ein Hinweis neben dem Chatfenster. Daneben gibt es eine technische Ebene, also Metadaten in der Datei selbst, die Herkunft und Bearbeitung maschinenlesbar machen sollen, auch wenn das menschliche Auge nichts Auffälliges erkennt (Code of Practice). Im Prinzip ähnelt das einer Lebensmittelkennzeichnung: Ein Teil informiert den Käufer, der andere erlaubt Behörden, den Inhalt zu prüfen.

Die Pflichten hängen davon ab, wo ein Unternehmen in der Kette steht. OpenAI oder ein anderer Anbieter eines Chatbots muss das System so gestalten, dass Nutzer erkennen, dass sie mit einer Maschine sprechen, und Herkunftsdaten in synthetische Ausgaben einbauen. Eine Bank, Redaktion oder politische Kampagne, die ein solches Werkzeug einsetzt, trägt eine andere Pflicht: Sie muss ihr Publikum informieren, wenn es mit Deepfakes oder KI-Texten zu öffentlichen Angelegenheiten zu tun hat (Stibbe). Ein versteckter Hinweis in den Geschäftsbedingungen reicht dafür nicht. Nach Auffassung der Kommission muss die Offenlegung klar, zugänglich und zu Beginn der ersten Interaktion erfolgen (AI Act FAQ).

Wer privat ein KI-Meme veröffentlicht, steht nicht im Zentrum der Regelung. Die Vorgaben gelten für berufliche und kommerzielle Nutzung, nicht für rein persönliche Tätigkeiten (EU AI Act).

Beschwerden haben nun eine Adresse

Die Regeln kommen aus Brüssel, durchgesetzt werden sie aber von nationalen Behörden. Deutschland zeigt bislang am klarsten, wie das praktisch aussehen soll: Die Bundesnetzagentur ist seit dem 2. August die zuständige Beschwerdestelle, Bürger können Verstöße kostenlos über ein Onlineformular melden (Bundesnetzagentur, German government). Irland hat zur Koordinierung ein nationales KI-Büro eingerichtet (Department of Enterprise Ireland). Andere Mitgliedstaaten bauen vergleichbare Strukturen auf.

Bei Verstößen gegen Transparenzpflichten drohen Geldbußen von bis zu 15 Mio. EUR oder 3 Prozent des weltweiten Jahresumsatzes. Das ist weniger als die in manchen Berichten genannten 35 Mio. EUR oder 7 Prozent. Diese höhere Stufe gilt für verbotene KI-Praktiken, nicht für Kennzeichnungsverstöße (EU AI Act, Commission enforcement note).

Das Label ist ein Anfang, keine Lösung

Akteure, die täuschen wollen, werden die Regeln wohl ignorieren. Für Inhalte, die vor dem Stichtag erzeugt wurden, gibt es keine rückwirkende Kennzeichnungspflicht. Und ein fehlendes Label beweist eben nicht, dass ein Inhalt echt ist, weil die technischen Standards für Herkunftsmetadaten noch nicht ausgereift sind (Two Birds). Offene Grenzfragen werden Gerichte klären müssen: Wann ist etwas „offensichtlich KI-generiert“? Wie deutlich muss ein Hinweis in einer konkreten App erscheinen?

Auch tritt damit nicht das gesamte KI-Gesetz auf einmal in Kraft. Generative KI-Systeme, die bereits am Markt sind, haben bis zum 2. Dezember 2026 Zeit, maschinenlesbare Kennzeichnungen nachzurüsten. Die breiteren Hochrisikoregeln für Bereiche wie Beschäftigung, Bildung und Kreditwürdigkeitsprüfung gelten für eigenständige Systeme ab Dezember 2027 und für Systeme, die in regulierte Produkte eingebettet sind, ab August 2028 (AI Omnibus, RegDossier).

Das neue System ist lückenhaft und manipulierbar. Es gibt Nutzern und Aufsichtsbehörden aber erstmals einen konkreten Maßstab, auf den sie sich berufen können. Ob Kennzeichnungen Verhalten ändern, Vertrauen schaffen oder zu einem weiteren Hinweis werden, den Menschen routiniert übersehen, ist nun der eigentliche Praxistest.