Ab 2. August gelten in der EU neue Transparenzregeln für Künstliche Intelligenz. Wer daraus eine allgemeine Kennzeichnungspflicht für jeden ChatGPT-Text ableitet, liegt allerdings falsch. Schärfer werden die Vorgaben vor allem bei Deepfakes, künstlich erzeugten Bildern, Stimmen und Videos sowie bei bestimmten automatisch veröffentlichten Texten.
Ab Sonntag greift ein weiterer Teil des europäischen AI Act. Im Mittelpunkt steht Artikel 50. Die Vorschrift soll dort Transparenz schaffen, wo Nutzer nicht ohne Weiteres erkennen können, dass sie mit einer Maschine sprechen oder ein künstlich erzeugtes Medium vor sich haben. Die Europäische Kommission hat die Regeln kurz vor dem Start noch einmal erläutert.
Die Details sind wichtiger als die Schlagzeilen. Es wird weder jeder KI-Inhalt verboten, der keinen sichtbaren Hinweis trägt, noch muss künftig unter jedem Satz stehen, dass ChatGPT beteiligt war. Entscheidend ist, um welche Art von Inhalt es geht, wer ihn veröffentlicht und ob ein Mensch ihn vor der Veröffentlichung geprüft hat.
Chatbots: Der Nutzer muss wissen, woran er ist
Artikel 50 verlangt, dass Menschen informiert werden, wenn sie unmittelbar mit einem KI-System interagieren. Das gilt aber nicht, wenn ohnehin offensichtlich ist, dass es sich um eine Maschine handelt. Wer bewusst ChatGPT öffnet, braucht daher nicht vor jeder einzelnen Antwort einen neuen Warnhinweis.
Relevant wird das vor allem bei Kundenservices und Assistenten, die bislang den Eindruck vermitteln konnten, am anderen Ende sitze ein Mensch. Die EU zielt damit auf Fälle, in denen die Rolle der KI für den Nutzer bisher verborgen blieb.
Bei KI-Bildern zählt die technische Spur
Für Anbieter generativer KI geht es weniger um einen auffälligen Stempel als um eine technische Herkunftsangabe. Texte, Bilder, Audio- oder Videodateien, die ein entsprechendes System erzeugt oder wesentlich verändert, sollen maschinenlesbar als künstlich erzeugt oder manipuliert erkennbar sein. Die EU-Kommission beschreibt dafür technische Markierungen, die von anderen Systemen ausgelesen werden können.
Das bedeutet nicht, dass künftig auf jedem KI-Bild in großen Buchstaben „KI“ stehen muss. Auch einfache Bearbeitungen fallen nicht automatisch darunter. Wer Helligkeit anpasst, Rechtschreibung korrigiert oder einen vorhandenen Inhalt nur technisch unterstützt, ist nicht mit einem System gleichzusetzen, das eine neue, täuschend echte Aufnahme erzeugt.
Deepfakes müssen offengelegt werden
Bei Deepfakes wird die Regel deutlich. Wer Bilder, Stimmen oder Videos so erzeugt oder verändert, dass reale Personen, Orte oder Ereignisse echt erscheinen, obwohl sie künstlich hergestellt oder manipuliert wurden, muss das offenlegen. Gemeint sind etwa Videos, in denen Politiker scheinbar Sätze sagen, die nie gefallen sind, oder Tonaufnahmen mit künstlich nachgebauten Stimmen.
Für Satire, Kunst und fiktionale Werke lässt das Gesetz mehr Spielraum bei der Form der Kennzeichnung. Die Information darf so angebracht werden, dass das Werk nicht unnötig beeinträchtigt wird. Ganz entfallen soll der Hinweis deshalb nicht.
Nein, nicht jeder ChatGPT-Text braucht ein Etikett
Das wohl häufigste Missverständnis betrifft Texte. Eine pauschale Pflicht, jeden mit ChatGPT, Gemini, Claude oder einem anderen Modell formulierten Beitrag sichtbar als KI-Text zu kennzeichnen, enthält der AI Act nicht.
Besondere Vorgaben gelten für KI-generierte oder manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Doch auch hier gibt es eine wichtige Ausnahme: Wird der Inhalt von einem Menschen geprüft oder redaktionell kontrolliert und übernimmt eine Person oder ein Unternehmen die Verantwortung für die Veröffentlichung, greift diese besondere Offenlegungspflicht nicht in derselben Weise. Darauf weist auch die Kommission in ihren aktuellen Erläuterungen hin.
Für Redaktionen und Verlage ist das der entscheidende Punkt. KI kann als Hilfsmittel bei Recherche, Übersetzung, Gliederung oder Formulierung eingesetzt werden, ohne dass deshalb automatisch ein Warnhinweis unter jedem Artikel stehen muss. Anders liegt der Fall, wenn Texte zu politischen oder gesellschaftlichen Fragen vollautomatisch erzeugt und ohne menschliche Prüfung veröffentlicht werden.
Ältere Systeme bekommen noch Zeit
Der 2. August ist außerdem kein Tag, an dem sämtliche bereits vorhandenen Systeme auf einen Schlag umgebaut sein müssen. Für bestimmte generative KI-Systeme, die schon vorher auf dem Markt waren, läuft bei der technischen Kennzeichnung eine Übergangsfrist bis 2. Dezember 2026. Bereits vor dem 2. August erzeugte Inhalte müssen grundsätzlich nicht nachträglich markiert werden. Das geht aus den Fragen und Antworten der EU-Kommission hervor.
Verstöße können teuer werden
Die Transparenzregeln sind verbindlich. Nach der Übersicht der EU-Kommission können Verstöße mit Geldbußen von bis zu 15 Millionen Euro oder bis zu drei Prozent des weltweiten Jahresumsatzes eines Unternehmens geahndet werden. Für kleinere Unternehmen gelten Vorgaben zur Verhältnismäßigkeit.
Ob die neuen Regeln die Flut täuschend echter KI-Fälschungen tatsächlich bremsen, wird sich erst zeigen. Für Nutzer und Redaktionen bleibt vor allem eine Einschränkung wichtig: Ein mit ChatGPT formulierter und anschließend redaktionell geprüfter Text braucht nicht allein deshalb einen sichtbaren KI-Stempel.
