KI-Kennzeichnungspflicht: Was seit dem 2. August gilt

Am 2. August 2026 ist die nächste Stufe der KI-Verordnung wirksam geworden, der Verordnung (EU) 2024/1689, veröffentlicht im Amtsblatt vom 12. Juli 2024. Seither gelten die Transparenzpflichten aus Artikel 50. Offenzulegen ist seither, wann ein Gegenüber ein KI-System ist und wann ein Inhalt künstlich erzeugt oder verändert wurde. Der Bußgeldrahmen, den die Verordnung dafür vorgibt, reicht bis zu 15 Millionen Euro.

Eine allgemeine Pflicht, jeden mit KI erzeugten Inhalt zu kennzeichnen, folgt daraus nicht. Artikel 50 erfasst vier klar umrissene Fallgruppen. Wer außerhalb dieser Fallgruppen mit KI arbeitet, muss nichts kennzeichnen.

Anbieter oder Betreiber: Wer welche Pflicht trägt

Die Verordnung verteilt die Pflichten auf zwei Rollen.

Anbieter nach Art. 3 Nr. 3 entwickeln ein KI-System und bringen es unter eigenem Namen auf den Markt, etwa OpenAI, Anthropic, Google, Mistral oder Aleph Alpha. Anbieter mit Sitz außerhalb der EU fallen ebenfalls darunter, sobald die Ergebnisse ihrer Systeme in der EU genutzt werden.

Betreiber ist nach Art. 3 Nr. 4, wer ein KI-System in eigener Verantwortung verwendet, ausgenommen die Verwendung im Rahmen einer persönlichen und nicht beruflichen Tätigkeit. Verpflichtet ist damit die Organisation, die den Einsatz zu verantworten hat: das kann ein Unternehmen, eine Agentur, ein Onlineshop oder eine Redaktion sein. Angestellte, die im Auftrag ihres Arbeitgebers mit KI arbeiten, sind keine eigenständigen Betreiber. Die Verantwortung liegt bei ihrem Arbeitgeber.

Die private Nutzung ist damit schon durch die Begriffsbestimmung ausgenommen. Die Grenze verläuft dort, wo eine Tätigkeit gewerblich, beruflich oder freiberuflich erfolgt oder regelmäßig einen wirtschaftlichen Vorteil einbringt. Dass die KI-Verordnung die private Nutzung ausklammert, heißt allerdings nicht, dass privat alles erlaubt wäre. Persönlichkeitsrecht, Urheberrecht und Strafrecht gelten unabhängig davon.

Die vier Fallgruppen

1. Systeme, die mit Menschen interagieren (Art. 50 Abs. 1). Anbieter müssen Chatbots, Sprachassistenten und Avatare so gestalten, dass die betroffene Person spätestens zu Beginn der ersten Interaktion erfährt, dass ihr Gegenüber ein KI-System ist. Die Pflicht entfällt nur, wenn der Einsatz angesichts der Umstände und des Nutzungszusammenhangs offensichtlich ist. Maßstab ist dabei nicht die tatsächlich betroffene Person, sondern eine gedachte Vergleichsperson, die angemessen informiert, aufmerksam und verständig ist. Die Leitlinien der EU-Kommission verlangen, diese Ausnahme eng auszulegen.

2. Maschinenlesbare Markierung erzeugter Inhalte (Art. 50 Abs. 2). Anbieter generativer Systeme müssen dafür sorgen, dass erzeugte Bilder, Videos, Tonaufnahmen und Texte technisch als künstlich erkennbar sind, etwa durch Wasserzeichen oder signierte Herkunftsangaben in der Datei. Diese Pflicht trifft die Anbieter, nicht die Unternehmen, die mit den Systemen arbeiten.

3. Emotionserkennung und biometrische Kategorisierung (Art. 50 Abs. 3). Ein Emotionserkennungssystem stellt nach Art. 3 Nr. 39 Emotionen oder Absichten anhand biometrischer Daten fest oder leitet sie daraus ab. Betreiber müssen die betroffenen Personen über den Betrieb des Systems informieren, gleich ob in Echtzeit oder nachträglich ausgewertet wird. Die Informationspflicht sagt dabei nichts darüber aus, ob der Einsatz überhaupt zulässig ist. Das richtet sich nach Art. 5. Die Ableitung von Emotionen am Arbeitsplatz und in Bildungseinrichtungen ist dort nach Abs. 1 Buchstabe f grundsätzlich verboten, ausgenommen medizinische Gründe und Sicherheitsgründe. Untersagt sind ferner unter anderem Systeme, die Menschen unterschwellig beeinflussen, Systeme, die eine Schutzbedürftigkeit aufgrund von Alter, Behinderung oder sozialer Lage ausnutzen, die soziale Bewertung von Personen, die Vorhersage von Straftaten allein anhand von Profiling sowie das ungezielte Auslesen von Gesichtsbildern zum Aufbau von Gesichtserkennungsdatenbanken.

4. Deepfakes und Texte zu Themen von öffentlichem Interesse (Art. 50 Abs. 4). Für alle, die Inhalte veröffentlichen, ist das die praktisch bedeutsamste Fallgruppe. Betreiber müssen offenlegen, wenn ein Bild, ein Video oder eine Audioaufnahme ein Deepfake ist. Dieselbe Pflicht gilt für KI-erzeugte oder KI-veränderte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.

Art. 3 Nr. 60 enthält dafür eine eigene Begriffsbestimmung, die enger ausfällt als das, was üblicherweise Deepfake genannt wird. Drei Merkmale müssen zusammentreffen: eine hohe Ähnlichkeit zum Dargestellten, ein real existierendes oder zumindest plausibel existierendes Vorbild sowie eine Darstellung, die auf Betrachter wirken kann, als handle es sich um eine echte Aufnahme. Ein generiertes Fabelwesen erfüllt das nicht, ein fotorealistisches Porträt einer real existierenden Person in einer Anzeige schon. Entscheidend ist dabei das zweite Merkmal. Verlangt ist nicht, dass es das Vorbild tatsächlich gibt, sondern dass es existieren könnte. Ein fotorealistisches Porträt eines frei erfundenen Menschen ist deshalb ebenfalls ein Deepfake. Die Grenze verläuft zwischen physisch Möglichem und physisch Unmöglichem, nicht zwischen echten und erfundenen Personen.

Als Angelegenheiten von öffentlichem Interesse nennt die Kommission unter anderem Politik, Verwaltung, Justiz, Grundrechte, öffentliche Sicherheit, Gesundheit, Umweltschutz und Verbrauchersicherheit sowie wirtschaftliche, wissenschaftliche und kulturelle Entwicklungen, über die öffentlich gestritten wird.

Was von der Kennzeichnung ausgenommen ist

Standardbearbeitung und geringfügige Änderungen. Die Markierungspflicht entfällt, soweit ein KI-System nur eine unterstützende Funktion für die Standardbearbeitung ausführt oder die vom Betreiber bereitgestellten Eingabedaten und deren Bedeutung nicht wesentlich verändert. Bei Bildern zählen Zuschnitt, Farbkorrektur, Schärfen und Rauschunterdrückung dazu, denn die Aussage des Ausgangsbildes bleibt erhalten, bei Texten Rechtschreib- und Grammatikkorrekturen.

Was nicht als kennzeichnungsfähiger Inhalt gilt. Die Leitlinien nehmen kurze Zeichen- und Zahlenfolgen aus, ebenso Quellcode und Ergebnisse, die ausschließlich zwischen Maschinen ausgetauscht werden. Auch Zwischenergebnisse aus geschlossenen Entwicklungsumgebungen bleiben außen vor, solange sie nicht das veröffentlichte Endergebnis sind.

Geprüfte und verantwortete Texte. Ein KI-Text zu einem Thema von öffentlichem Interesse muss nicht gekennzeichnet werden, wenn zwei Bedingungen zugleich erfüllt sind: Der Text hat eine menschliche Überprüfung oder redaktionelle Kontrolle durchlaufen und eine natürliche oder juristische Person trägt die redaktionelle Verantwortung für die Veröffentlichung. Nach den Erläuterungen der Kommission reichen rein formale Kontrollen wie eine Rechtschreibprüfung dafür nicht. Verlangt ist eine inhaltliche Auseinandersetzung durch jemanden mit fachlichem Urteilsvermögen, einschließlich Prüfung von Fakten und Quellen.

Kunst, Satire und Fiktion. Bei offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werken bleibt die Offenlegungspflicht bestehen, ihre Form wird jedoch gelockert. Nach dem Wortlaut von Art. 50 Abs. 4 darf die Offenlegung die Darstellung oder den „Genuss des Werks“ nicht beeinträchtigen. Bei einem Film kann dafür der Abspann ausreichen, eine dauerhaft eingeblendete Kennzeichnung ist nicht erforderlich.

Inhalte von vor dem Stichtag. Für Inhalte, die vor dem 2. August 2026 erzeugt wurden, verlangt die Verordnung keine nachträgliche Kennzeichnung. Die Kommission empfiehlt sie, verbindlich ist sie nicht.

Wie eine Kennzeichnung aussehen muss

Nach Art. 50 Abs. 5 sind die Informationen spätestens zum Zeitpunkt der ersten Interaktion oder Wahrnehmung in klarer und eindeutiger Weise bereitzustellen, und sie müssen den geltenden Barrierefreiheitsanforderungen entsprechen. Eine Markierung, die nur in den Metadaten steckt, genügt dafür nach Auffassung der Kommission nicht, weil sie sich ohne technische Werkzeuge nicht auslesen lässt. In der Praxis heißt das: ein Hinweis im Bild oder in der Bildunterschrift, eine Einblendung zu Beginn eines Videos oder ein gesprochener Hinweis am Anfang einer Tonaufnahme.

Die EU stellt dafür drei Icons bereit.

	Basis-Icon: Für Fälle, in denen KI an der Entstehung eines Deepfakes oder eines veröffentlichten Textes beteiligt war. Es ist außerdem zu verwenden, wenn ein eigener Hinweistext ergänzt wird. Ein Beispiel der Kommission ist ein Video mit dem Hinweis „Stimmen erzeugt mit“ und dem Icon dahinter.
	Teilweise KI-verändert: Für von Menschen erstelltes Material, das mit KI so bearbeitet wurde, dass daraus ein Deepfake oder ein Text zu einem Thema von öffentlichem Interesse wird. Beispiele der Kommission: ein ausgetauschtes Gesicht in einer echten Fotografie oder ein leerer Raum, der per KI möbliert wird.
	Vollständig KI-generiert: Für Inhalte ohne jeden von Menschen erstellten Bestandteil, die über das Formulieren des Prompts hinaus keine redaktionelle Bearbeitung erfahren haben, etwa komplett generierte Videos oder automatisch erzeugte Nachrichtenzusammenfassungen.

Alle Icons gibt es in vier Varianten, schwarz und weiß sowie beide zusätzlich mit 50 Prozent Transparenz, jeweils als SVG und PNG. Verwenden darf sie jeder, ohne dass die Kommission als Urheberin genannt werden muss. Nutzertests der Kommission haben ergeben, dass ein Icon deutlich besser verstanden wird, wenn ein kurzer Text daneben steht. Platziert werden soll es gut sichtbar, nicht von anderen Elementen überlagert und so, dass es auch beim Herunterladen oder Weiterteilen erhalten bleibt.

Die Verwendung der Icons ist freiwillig, die Kennzeichnungspflicht selbst ist es nicht. Ein Icon begründet für sich genommen auch keine Rechtskonformität: Verantwortlich dafür, dass eine Kennzeichnung den Anforderungen von Artikel 50 genügt, bleibt der Betreiber.

Fristen, Aufsicht und Bußgelder

Artikel 50 der KI-Verordnung gilt seit dem 2. August 2026. Eine Übergangsfrist besteht an genau einer Stelle: Anbieter generativer KI-Systeme, die vor diesem Datum bereits auf dem Markt waren, müssen die maschinenlesbare Markierung bis zum 2. Dezember 2026 umsetzen. Für neu hinzukommende Systeme gilt sie sofort, ebenso wie alle übrigen Pflichten aus Artikel 50.

Zum Hintergrund: Die Änderungsverordnung (EU) 2026/1744 vom 8. Juli 2026, bekannt als Digital-Omnibus-Verordnung zur KI, wurde am 24. Juli 2026 im Amtsblatt der Europäischen Union veröffentlicht und ist am dritten Tag danach in Kraft getreten. Sie hat mehr als vierzig Artikel der KI-Verordnung geändert. Die verschobenen Fristen betreffen dabei ausschließlich Kapitel III, in dem die Hochrisiko-Systeme geregelt sind. Geändert wurde daneben Artikel 5: Die Liste der verbotenen Praktiken ist um Systeme erweitert worden, die nicht einvernehmlich erstelltes intimes Material oder Darstellungen sexuellen Missbrauchs von Kindern erzeugen. Diese beiden Verbote gelten ab dem 2. Dezember 2026. Artikel 50 steht in Kapitel IV und blieb inhaltlich unverändert.

Die Aufsicht liegt bei den nationalen Marktüberwachungsbehörden. In Deutschland ist das seit dem 29. Juli 2026 die Bundesnetzagentur, und zwar überall dort, wo keine andere Fachbehörde zuständig ist. Grundlage ist das Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz, kurz KI-MIG. Die Behörde überwacht in ihren Zuständigkeitsbereichen sowohl die Transparenzpflichten als auch die verbotenen Praktiken und ist zugleich Anlauf- und Beschwerdestelle. Damit hat Deutschland eine Vorgabe erfüllt, deren EU-Frist bereits im August 2025 abgelaufen war.

Verstöße gegen die Transparenzpflichten aus Artikel 50 erfasst Art. 99 Absatz 4 Buchstabe g. Die Vorschrift nennt keinen Bußgeldbetrag, sondern eine Obergrenze: 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen einschließlich Start-ups gilt nach Absatz 6 umgekehrt der niedrigere Betrag. Die tatsächliche Höhe bemisst sich nach Absatz 7, unter anderem nach Schwere und Dauer des Verstoßes und nach der Größe des Unternehmens.

Artikel 99 richtet sich dabei an die Mitgliedstaaten. Nach Absatz 1 erlassen sie die Sanktionsvorschriften selbst und berücksichtigen dabei die Interessen kleiner und mittlerer Unternehmen. In Deutschland übernimmt das KI-MIG diese Aufgabe. Es erklärt für Verstöße nach Artikel 99 Absatz 3 bis 5 die Vorschriften des Gesetzes über Ordnungswidrigkeiten für entsprechend anwendbar und nimmt dessen allgemeine Bußgeldobergrenze ausdrücklich aus, sodass die europäischen Beträge maßgeblich bleiben. Daneben schafft das Gesetz eigene Ordnungswidrigkeiten mit einem Rahmen von bis zu fünfzigtausend Euro, die andere Pflichten betreffen.

Rechtliche Grauzonen

Artikel 50 ist erst seit Anfang August anwendbar. Zu keiner der folgenden Fragen liegt bislang Rechtsprechung vor.

Wo endet die Standardbearbeitung? Eine Farbkorrektur ist unstrittig zulässig. Wird per generativer Füllung eine Person aus dem Bild entfernt oder ein leerer Raum möbliert, ändert sich die Aussage des Bildes. Das Möblieren führt die Kommission selbst als Beispiel für einen kennzeichnungspflichtigen Fall an. Zwischen diesen Polen liegt ein weites Feld. Die Leitlinien liefern Beispiele, aber keine trennscharfe Grenze.

Was ist eine Angelegenheit von öffentlichem Interesse? Ein automatisch erzeugter Bericht über Wahlergebnisse oder Luftmesswerte fällt eindeutig darunter. Eine Produktbeschreibung im Onlineshop dürfte nicht davon betroffen sein, weil sie den Absatz einer Ware unterstützen soll und nicht die Öffentlichkeit über ein Thema unterrichtet. Dazwischen liegen Fachbeiträge über regulierte Märkte oder Testberichte, die Kaufentscheidungen vieler Menschen beeinflussen. Dort entscheidet die Auslegung.

Wie tief muss die menschliche Prüfung reichen? An den Rändern ist die Lage klar. Eine Rechtschreibprüfung reicht nicht aus, eine fachliche Begutachtung erfüllt die Anforderung. Dazwischen liegen die praktisch häufigen Zwischenformen, etwa eine kurze inhaltliche Durchsicht oder eine Freigabe, bei der die Quellen ungeprüft bleiben. Wer sich auf die Ausnahme beruft, sollte belegen können, was tatsächlich geprüft wurde.

Grenzen der technischen Markierung. Art. 50 Abs. 2 verlangt Lösungen, die wirksam, interoperabel, belastbar und zuverlässig sind, soweit dies technisch möglich ist. Der verbreitetste Ansatz dafür sind die Content Credentials des C2PA-Standards: Herkunftsangaben werden kryptografisch signiert in der Datei verankert, jede spätere Veränderung bricht die Bindung.

Die Umsetzungshinweise des Standards benennen die Schwachstelle selbst. Metadaten einschließlich der Herkunftsangaben würden bei der Verbreitung routinemäßig entfernt oder beschädigt, insbesondere auf Plattformen, die hochgeladene Dateien in abweichender Auflösung, Größe oder Qualität ausspielen. Auch wenn das für Betrachter keinen sichtbaren Unterschied macht, verändert es die Binärdarstellung der Datei und löst die Herkunftsangabe vom Inhalt.

Dagegen steht eine ernst zu nehmende Gegenposition. Sie kommt von den Urhebern des Standards selbst. C2PA beantwortet das Problem mit den sogenannten Durable Content Credentials. Neben die feste Bindung an die Datei tritt eine zweite, weiche Bindung aus einem unsichtbaren Wasserzeichen und einem aus dem Inhalt berechneten Fingerabdruck. Geht die Angabe in der Datei verloren, lässt sich der zugehörige Herkunftsnachweis über diese weiche Bindung in einem Online-Verzeichnis wiederfinden. Eine eigene Schnittstelle, die Soft Binding Resolution API, standardisiert diese Abfrage.

Ob dieser Ansatz in der Praxis funktioniert, hängt an Bedingungen, die bislang nicht flächendeckend erfüllt sind. Die Ablagen für die Herkunftsnachweise, im Standard als manifest repository bezeichnet, müssen existieren und erreichbar bleiben. Die prüfende Anwendung muss das jeweilige Wasserzeichenverfahren unterstützen. Und die Plattform muss die Wiederherstellung überhaupt anbieten. Bis dahin gilt nach hiesiger Einschätzung: Die Kennzeichnungspflicht besteht auch dann, wenn sich die Herkunft eines Inhalts technisch nicht mehr nachvollziehen lässt.

Ein freiwilliger Kodex als faktischer Maßstab. Artikel 50 sieht vor, dass das Büro für Künstliche Intelligenz, eine Struktur innerhalb der EU-Kommission, die Ausarbeitung von Praxisleitfäden unterstützt. Auf dieser Grundlage haben unabhängige Fachleute den Code of Practice on Transparency of AI-generated Content erarbeitet, einen Praxisleitfaden zur Transparenz KI-generierter Inhalte. Er wurde am 10. Juni 2026 veröffentlicht, die Kommission und das Europäische Gremium für Künstliche Intelligenz haben ihn als geeignetes Instrument bewertet. Wer ihn über ein Formular der Kommission zeichnet, kann sich gegenüber den Behörden auf die dort beschriebenen Maßnahmen berufen. Wer darauf verzichtet, muss gleichwertige eigene Maßnahmen nachweisen und laut Kommission mit häufigeren Auskunftsersuchen rechnen. Bis Ende Juli 2026 haben rund 190 Organisationen unterzeichnet, darunter Anthropic, Google, Meta, Microsoft, Mistral, OpenAI, Aleph Alpha und Black Forest Labs. Formal freiwillig, wird der Kodex damit zum Maßstab, an dem die Aufsicht die Umsetzung messen dürfte.

Fazit

Artikel 50 verlangt weniger, als der Begriff Kennzeichnungspflicht vermuten lässt. Ein KI-geschriebener Beitrag über ein Thema von öffentlichem Interesse bleibt ohne Hinweis zulässig, solange ein Mensch ihn inhaltlich geprüft und die Verantwortung dafür übernommen hat. Eine Illustration, die als Illustration erkennbar ist, fällt gar nicht erst unter die Vorschrift, weil ihr das entscheidende Merkmal eines Deepfakes fehlt.

Die eigentliche Schwierigkeit liegt in der Nachweisbarkeit. Die Vorschrift setzt voraus, dass sich die Herkunft eines Inhalts technisch feststellen lässt, und das hält der alltäglichen Weiterverarbeitung nicht stand. Was bleibt, ist die eigene Dokumentation: wer einen Text geprüft hat und wo eine Kennzeichnung gesetzt wurde.

Wo die Einordnung unklar bleibt, spricht wenig gegen die Kennzeichnung auf den KI-Einsatz. Eine Zeile im Text ist schnell ergänzt. Ein Verfahren bei der Bundesnetzagentur, die zugleich als Beschwerdestelle fungiert, ist ungleich aufwendiger.