In eine Ära, in der "AI-Produkt" nicht mehr verborgen werden kann: Neue EU-Regeln stellen japanische Unternehmen und Influencer vor Herausforderungen

Am 2. August 2026 trat in der Europäischen Union eine Regelung in Kraft, die das Erscheinungsbild von Informationen im Internet verändern könnte. Basierend auf dem umfassenden KI-Gesetz der EU, das die Regulierung von künstlicher Intelligenz umfasst, wurden Transparenzpflichten für Inhalte, die durch generative KI erstellt wurden, sowie für KI-Systeme, die anstelle von Menschen antworten, eingeführt.

Betroffen sind nicht nur sogenannte Deepfakes. Eine breite Palette von Inhalten und Diensten, die von generativer KI erstellt wurden und die Menschen als echt wahrnehmen könnten, wie Bilder, Videos, Audiodateien, Texte, Unternehmens-Chatbots, KI-Avatare und Sprachagenten, fällt unter diese Regelung.

Wenn man nur die Schlagzeilen der Nachrichten liest, könnte man meinen, dass "in der EU alles, was von KI erstellt wurde, mit einem auffälligen Label versehen werden muss". Tatsächlich ist das System jedoch etwas komplexer. Die Regeln unterscheiden sich wesentlich zwischen "Anbietern von KI-Systemen" und "Nutzern von KI-Systemen im beruflichen Kontext".

Es handelt sich nicht um ein System, bei dem alle Erzeugnisse mit demselben Label versehen werden

Zunächst müssen Unternehmen, die KI-Systeme wie ChatGPT, Gemini oder Bildgenerierungsdienste anbieten, sicherstellen, dass Maschinen erkennen können, dass die Erzeugnisse von KI erstellt oder bearbeitet wurden.

Konkret bedeutet dies, dass Metadaten, elektronische Signaturen und erkennbare Wasserzeichen kombiniert werden, um sicherzustellen, dass die künstliche Herkunft von Bildern oder Videos auch dann überprüft werden kann, wenn sie auf anderen Websites reproduziert werden. Es geht nicht nur darum, ständig große Warnhinweise für das menschliche Auge anzuzeigen, sondern darum, maschinenlesbare Zeichen in Dateien oder Inhalten zu hinterlassen.

Bei Chatbots oder KI-Agenten, die direkt mit Nutzern kommunizieren, muss das Design so gestaltet sein, dass klar ist, dass der Gesprächspartner eine KI und kein Mensch ist. Selbst wenn natürliche Sprache zurückgegeben wird, muss vermieden werden, dass Nutzer glauben, sie sprächen mit einem menschlichen Vertreter.

Unternehmen oder Geschäftsleute, die KI zur Erstellung und Veröffentlichung von Werbung, Artikeln, Videos usw. verwenden, sind verpflichtet, bestimmte Inhalte in einer für Menschen erkennbaren Form anzuzeigen.

Besonders wichtig sind Deepfakes, die reale Personen, Orte, Objekte, Organisationen oder Ereignisse echt erscheinen lassen. Wenn es möglich ist, dass von KI erstellte oder bearbeitete Videos oder Audiodateien mit real aufgenommenen Inhalten verwechselt werden, muss dies dem Betrachter in einer verständlichen Weise bei der ersten Begegnung angezeigt werden.

Texte, die gesellschaftliche Diskussionen beeinflussen, wie solche zu Politik, Verwaltung, Justiz, öffentlicher Sicherheit, Gesundheit, Umwelt, Wirtschaft, Finanzen, Wissenschaft und Kultur, können ebenfalls betroffen sein. Wenn Texte, die von KI generiert oder bearbeitet wurden, ohne ausreichende menschliche Überprüfung oder Bearbeitung veröffentlicht werden, muss dies deutlich gemacht werden.

Im Gegensatz dazu kann in Fällen, in denen Fachleute den Inhalt überprüfen, die Informationsquellen verifizieren und die Möglichkeit haben, Texte zu ändern oder deren Veröffentlichung zu stoppen, eine Ausnahme von der Anzeigepflicht für Texte von hoher öffentlicher Bedeutung gemacht werden. Allerdings wird die bloße Korrektur von Tippfehlern oder die Überprüfung der Grammatik nicht als wesentliche menschliche Überprüfung anerkannt.

Das bedeutet, dass es nicht nur darum geht, ob KI einmal verwendet wurde. Wichtig ist, in welchem Umfang KI den Inhalt erstellt hat, inwieweit Menschen die Verantwortung für die Überprüfung übernommen haben und ob die Möglichkeit besteht, dass Betrachter den Inhalt mit echtem Material verwechseln.

Influencer sind nicht unbedingt ausgenommen, nur weil sie Einzelpersonen sind

Nach den EU-Regeln sind Einzelpersonen, die KI für persönliche und nicht berufliche Zwecke nutzen, grundsätzlich von den Pflichten der Geschäftsleute ausgenommen.

Zum Beispiel wird das Posten von Bildern, die aus Hobbygründen erstellt wurden, auf einem persönlichen Konto normalerweise nicht als geschäftliche Tätigkeit angesehen. Wenn jedoch wirtschaftliche Vorteile durch Werbeeinnahmen, Unternehmensaufträge, Produktverkäufe, Mitgliederdienste oder kontinuierliche Spenden erzielt werden, kann diese Aktivität als beruflich oder kommerziell angesehen werden.

Es hängt nicht nur von der Anzahl der Follower ab. Influencer, Videoersteller, Affiliate-Marketer und freiberufliche Kreative, die kontinuierlich Einnahmen erzielen, könnten als "Nutzer" betrachtet werden, die KI im beruflichen Kontext einsetzen.

Wenn ein KI-Modell, das einer realen Person ähnelt, in einer Werbung auftritt oder wenn eine Produktbeschreibung von einer KI-Stimme gesprochen wird, obwohl die Person selbst nicht spricht, könnte eine klare Kennzeichnung erforderlich sein.

Andererseits müssen nicht immer große Warnhinweise angebracht werden, wenn es sich um Fantasy-Bilder handelt, die offensichtlich nicht real sind, oder um Werke, die die Zuschauer als Fiktion verstehen. Bei Kunst, Kreativität, Satire und Fiktion sind Anzeigemethoden erlaubt, die den Genuss des Werkes nicht beeinträchtigen.

Dies ist für japanische Werbe- und Content-Produktionsunternehmen wichtig. Bei der Erstellung von Kampagnen für die EU müssen sie nicht nur die Tatsache berücksichtigen, dass "AI-Bilder verwendet wurden", sondern auch die Realität, die Möglichkeit der Verwechslung, den Verwendungszweck und das Zielpublikum klären.

Warum hat die EU die Kennzeichnungspflicht eingeführt?

Der Hintergrund ist die Realität, dass es durch generative KI möglich geworden ist, kostengünstig und in großen Mengen "echt aussehende Fälschungen" zu erstellen.

Frühere synthetische Videos und Audiodateien erforderten fortschrittliche Bearbeitungstechniken und Ausrüstung. Heutzutage können jedoch auch normale Nutzer in kurzer Zeit Reden von Politikern erstellen, die sie tatsächlich nicht gehalten haben, fiktive Produktempfehlungen von Prominenten, Erklärungen nicht existierender Experten und gefälschte Katastrophenvideos.

Auch in Unternehmenswerbung ist es möglich geworden, nicht existierende Ärzte, Forscher, Verbraucher und Influencer auftreten zu lassen und die Wirkung oder Beliebtheit eines Produkts zu betonen. Wenn Betrachter nicht wissen, dass es sich um KI-generierte Inhalte handelt, könnten sie diese als echte Erfahrungsberichte oder Empfehlungen von Experten wahrnehmen.

Die EU versucht nicht nur, Urheberrechte und persönliche Informationen zu schützen. Ziel ist es, die Entscheidungsfindung der Verbraucher bei der Auswahl von Produkten, die Entscheidungen in Bezug auf Wahlen und Politik, das Vertrauen in Nachrichten und die Kommunikation zwischen Menschen zu schützen.

Das Grundprinzip der Transparenzregeln ist nicht, "Fälschungen zu verbieten", sondern "die Verbreitung von künstlich erstellten Inhalten als echt zu reduzieren".

Auf sozialen Medien treffen Zustimmung und Zweifel aufeinander

Rund um die neuen Regeln gibt es lebhafte Diskussionen in der europäischen Technologie-Community sowie auf Plattformen wie LinkedIn und Reddit. Beiträge in sozialen Medien sind zwar keine Meinungsumfragen und repräsentieren nicht die gesamte Gesellschaft, bieten jedoch Einblicke in die Fragen, die Nutzer und Praktiker beschäftigen.

Hervorzuheben ist die Zustimmung, dass "zumindest bekannt sein sollte, ob es sich um KI oder einen Menschen handelt".

Besonders im Kundenservice und bei Telefonhotlines ist die Unzufriedenheit darüber groß, dass man nicht weiß, ob man mit einer KI oder einem Menschen spricht. Es gibt Meinungen, dass nicht nur Bilder und Videos, sondern auch der Gesprächspartner als KI angezeigt werden sollte, und es gibt positive Reaktionen darauf, dass die neuen Regeln auch Chatbots und Sprachagenten umfassen.

Angesichts der Zunahme politischer Fake-Videos und gefälschter Werbung von Prominenten gibt es auch Beiträge, die fordern, dass ähnliche Systeme in anderen Regionen wie den USA eingeführt werden sollten. Viele Nutzer sehen die EU-Maßnahmen positiv als Versuch, mit den technologischen Veränderungen Schritt zu halten.

Auf der anderen Seite gibt es auch Bedenken hinsichtlich der Unklarheit der Anzeigemethoden.

Fragen wie "Wie groß muss das Label sein, um ausreichend zu sein?", "Reicht es aus, es klein in einer Ecke des Bildschirms anzuzeigen?" oder "Muss es auch für Personen sichtbar sein, die das Video erst später sehen?" werden gestellt. Die EU hat ein Icon für Labels bereitgestellt, aber dessen Verwendung ist nicht zwingend erforderlich, und Unternehmen können andere Methoden wählen.

Obwohl es Flexibilität gibt, ist es unklar, bis zu welchem Punkt eine "klare Anzeige" anerkannt wird. Für kleine Produktionsfirmen und Einzelkreative ist die Belastung, Gesetze, Design und Technik zu verstehen, nicht gering.

Ein weiteres auffälliges Anliegen ist die Befürchtung, dass es zu einer Wiederholung der Cookie-Banner kommen könnte.

Wenn AI-Labels wie die Cookie-Zustimmungsbildschirme, die bei jedem Öffnen einer Website angezeigt werden, überall angebracht werden, könnten Nutzer sie reflexartig ignorieren, ohne den Inhalt zu überprüfen. Wenn es zu viele Warnungen gibt und echte Deepfakes genauso behandelt werden wie einfache Hintergrundbilder, könnte der Unterschied in der Wichtigkeit verschwinden.

Selbst wenn nur "AI verwendet" angezeigt wird, ist nicht klar, ob das Gesicht einer Person vollständig synthetisch erstellt wurde oder ob lediglich die Helligkeit eines Fotos angepasst wurde. Die Existenz eines Labels bedeutet nicht, dass die Nutzer den Inhalt korrekt verstehen.

Es gibt auch anhaltende Zweifel an der Wirksamkeit der Durchsetzung. Die Frage ist, inwieweit Inhalte, die außerhalb der EU erstellt und über anonyme Konten verbreitet werden, verfolgt werden können. Metadaten können durch Bildkompression, Screenshots oder erneutes Posten verloren gehen, und böswillige Nutzer könnten sie absichtlich löschen.

Auf sozialen Medien gibt es Reaktionen wie "Wie soll man mit der großen Menge an Inhalten umgehen, die außerhalb der EU erstellt wurden?" und "Nur die Unternehmen, die sich an die Anzeige halten, tragen die Last, während böswillige Poster sie ignorieren".

Werden Menschen nicht mehr getäuscht, wenn es Labels gibt?

Die Anzeige von KI ist wichtig, aber sie allein löst das Problem der Fehlinformationen nicht.

Bisherige Studien haben gezeigt, dass Nutzer, die sehen, dass etwas von KI generiert wurde, diese Information tendenziell niedriger bewerten, während die Überzeugungskraft und das Teilen nicht unbedingt stark abnehmen.

Es besteht auch die Gefahr, dass Nutzer übermäßig darauf vertrauen, dass alles, was nicht als KI-generiert angezeigt wird, echt ist. Das Anbringen von falschen Beschreibungen an echten Bildern oder die Erstellung von Fehlinformationen durch Menschen kann nicht allein durch ein KI-Label verhindert werden.

Auch die Möglichkeit, dass falsche Labels angebracht werden, ist ein Problem. Wenn echte Fotos als KI-generiert eingestuft werden, könnte dies das Vertrauen in den Fotografen oder die Nachrichtenagentur untergraben. Umgekehrt könnte das Vertrauen in das Label-System selbst sinken, wenn raffinierte Erzeugnisse nicht erkannt werden.

Daher sollte das KI-Label eher als "zusätzliche Information zur Beurteilung des Herstellungsprozesses" betrachtet werden, nicht als "Garantie für die Echtheit". Die endgültige Zuverlässigkeit muss durch eine umfassende Beurteilung der Informationsquelle, der redaktionellen Verantwortung, der Verifizierungsmethoden und der Existenz des Absenders erfolgen.

Japan wählt einen anderen Weg als die EU

Auch in Japan wurde 2025 das erste auf KI spezialisierte Gesetz, das "Gesetz zur Förderung der Forschung und Entwicklung sowie der Nutzung von KI-Technologien", verabschiedet und im September desselben Jahres vollständig in Kraft gesetzt.

Das japanische KI-Gesetz betont ebenfalls die Notwendigkeit, Transparenz für eine angemessene Forschung, Entwicklung und Nutzung zu gewährleisten. Im Vergleich zur aktuellen Struktur des Systems unterscheidet es sich jedoch von den EU-Regelungen, die die Anzeigemethoden und -ziele für generierte Inhalte umfassend festlegen und bei Verstößen hohe Geldstrafen verhängen.

Japan verfolgt einen Ansatz, der die Förderung von Forschung und Entwicklung sowie die Nutzung von KI unterstützt, während es sich auf Richtlinien der Regierung, Informationssammlung, Untersuchungen, Anleitung und Beratung für Unternehmen sowie die Kombination bestehender Gesetze zur Risikobewältigung stützt.

Wenn die EU als "regulierend" betrachtet wird, indem sie Unternehmen spezifische Verpflichtungen auferlegt, dann ist Japan eher "fördernd und kooperativ", indem es die Zusammenarbeit zwischen Regierung und Privatwirtschaft sowie Leitlinien betont.

Dieser Unterschied ist keine einfache Frage von richtig oder falsch. Strenge Vorschriften können den Verbraucherschutz und das Vertrauen stärken, aber auch die Kosten für die Einhaltung erhöhen und die Aktivitäten von kleinen und neuen Unternehmen einschränken. Ein flexibles System erleichtert die technologische Entwicklung, kann jedoch dazu führen, dass die Reaktion auf böswillige Deepfakes und gefälschte Werbung den Unternehmen überlassen bleibt.

Für Japan ist es wichtig, nicht nur das nationale System zu betrachten. Wenn japanische Unternehmen Produkte an EU-Verbraucher verkaufen, Websites oder Werbung für die EU betreiben und KI-Dienste über lokale Niederlassungen oder Agenturen anbieten, können sie die EU-Regeln nicht ignorieren.

Fünf Maßnahmen, die japanische Unternehmen ergreifen müssen

Erstens müssen sie wissen, wo im Unternehmen generative KI eingesetzt wird.

Generative KI wird oft in mehreren Abteilungen individuell eingesetzt, z.B. für Werbebilder, Produktbeschreibungen, Social-Media-Posts, Rekrutierungsvideos, Kundenanfragen, Übersetzungen und Sprachaufnahmen. Wenn es "Nutzung vor Ort" gibt, die das Unternehmen nicht erkennt, kann es die Anzeigepflicht nicht beurteilen.

Zweitens müssen sie überprüfen, welche Zeichen der KI-Anbieter an die Erzeugnisse anbringt.

Auch wenn beim Erstellen Metadaten hinzugefügt werden, können sie durch Bildbearbeitungssoftware, Werbeverteilungssysteme, CMS oder das Hochladen auf soziale Netzwerke gelöscht werden. Es muss überprüft werden, ob die Informationen aus KI in den Prozessen von der Erstellung bis zur Veröffentlichung erhalten bleiben.

Drittens müssen sie die Bedeutung der menschlichen Überprüfung im Unternehmen definieren.

Es reicht möglicherweise nicht aus, wenn ein Verantwortlicher einen Text nur einmal liest und dies als "menschliche Überprüfung" betrachtet. Es ist wichtig, die Tatsachenüberprüfung, die Verifizierung der Informationsquellen, die rechtliche und werbliche Prüfung, die Änderungsbefugnisse und die Verantwortlichen für die Veröffentlichung klar zu definieren und festzuhalten, wer die endgültige Verantwortung trägt.

Viertens müssen sie die Verträge mit