Discord mit hoher Schadensersatzforderung konfrontiert, Brasilien verschärft Kinderschutz – Widerstand gegen Regulierung in sozialen Netzwerken

Wie weit sollte die Verantwortung von Online-Kommunikationsdiensten gehen, um die Sicherheit ihrer Nutzer zu gewährleisten? Diese langjährige Debatte hat in Brasilien eine neue Phase erreicht.

Im August 2026 reichte die brasilianische Regierung eine Zivilklage gegen die weltweit von Gamern genutzte Kommunikationsplattform „Discord“ beim Bundesgericht ein. Die Regierung fordert Schadensersatz in Höhe von 500 Millionen Reais, was zum Zeitpunkt der Berichterstattung etwa 97 Millionen US-Dollar entspricht. Die Regierung argumentiert, dass es erhebliche Mängel im Schutzmechanismus für schutzbedürftige Nutzer wie Kinder und Jugendliche gibt, was der Gesellschaft insgesamt psychischen Schaden zugefügt habe.

Auf den ersten Blick könnte die Höhe des Betrags wie eine Nachricht über Sanktionen gegen ein großes IT-Unternehmen erscheinen. Doch die wahre Bedeutung dieser Klage liegt woanders. Die grundlegende Frage ist, ob der herkömmliche Plattformbetrieb, der auf das Löschen von gemeldeten problematischen Beiträgen setzt, ausreicht, um Kinder zu schützen.

Der Tod eines 13-jährigen Mädchens und der Druck auf Discord

Ein wesentlicher Auslöser für diese Klage war der Tod eines 13-jährigen Mädchens im Juli 2026 im Süden Brasiliens. Die brasilianischen Behörden untersuchen den Verdacht, dass extreme Online-Gruppen, die Selbstverletzung und Suizid fördern, Kontakt zu dem Mädchen hatten, und führen Ermittlungen zu Aktivitäten auf digitalen Diensten, einschließlich Discord, durch.

Die brasilianische nationale Datenschutzbehörde ANPD leitete am 7. August ein formelles Überwachungsverfahren ein, da Discord möglicherweise gegen das im März 2026 in Kraft getretene „ECA Digital“, ein digitales Schutzsystem für Kinder und Jugendliche, verstoßen hat. Kritisiert wurden unter anderem der Schutz vor Inhalten, die Selbstverletzung und Suizid fördern, die effektive Altersverifizierung, das Löschen von Verstößen und die Meldung an die Behörden.

Am 12. August ordnete die ANPD zudem an, dass Discord Funktionen für Live-Streaming und Video-Sharing in Brasilien vorübergehend aussetzt. Discord kam dieser Anordnung nach und stellte Videoanrufe und Bildschirmfreigaben ein. Textnachrichten, Sprachanrufe und Serverfunktionen blieben weiterhin verfügbar.

In den darauffolgenden zwei Wochen fanden Verhandlungen zwischen der Regierung und Discord über Verbesserungsmaßnahmen statt, doch die Regierung entschied, dass die von Discord vorgeschlagenen Maßnahmen die Risiken nicht ausreichend beseitigen konnten. Schließlich wurde die Zivilklage eingereicht.

Brasilien fordert nicht „Löschung“, sondern „Prävention“

Das von der brasilianischen Regierung betonte Schlüsselwort ist „Protection by Design“, also die Einbindung von Sicherheitsmaßnahmen bereits in der Entwurfsphase eines Dienstes.

Bisher haben viele soziale Netzwerke und Kommunikationsdienste hauptsächlich auf ein System gesetzt, bei dem Beiträge oder Konten erst nach einer Meldung durch Nutzer untersucht und gegebenenfalls gelöscht werden.

Doch bei Fällen von Kindersuizid, Selbstverletzung, sexueller Ausbeutung oder Erpressung ist es „zu spät, wenn man erst nach dem Vorfall löscht“. Die brasilianische Regierung sieht hierin ein Problem.

In dieser Klage wird nicht nur die einfache Löschung von Inhalten gefordert, sondern auch eine zuverlässige Altersverifizierung, die nicht nur auf Selbstauskunft basiert, die Verknüpfung von Nutzerkonten unter 16 Jahren mit Elternkonten und die Voreinstellung von Minderjährigenkonten auf die sicherste Einstellung.

Darüber hinaus wird ein System gefordert, das in der Lage ist, in Echtzeit Übertragungen von Selbstverletzung, Suizid und extremer Gewalt zu erkennen und zu stoppen, ein System zur schnellen Meldung von Anzeichen krimineller Aktivitäten an die Behörden, die Bereitstellung von Trust & Safety-Mitarbeitern, die Portugiesisch sprechen können, und ein System, das verhindert, dass gesperrte gefährliche Server unter neuem Namen wiedereröffnet werden. Bei Nichteinhaltung der Anordnungen wird eine tägliche Geldstrafe von 500.000 Reais gefordert.

Das bedeutet, dass die brasilianische Regierung nicht nur fordert, „Verbrecher zu identifizieren und zu verbannen“.

„Erstellt einen Dienst, bei dem Verbrecher schwerer an Minderjährige herankommen können.“

„Erkennt gefährliche Gemeinschaften, bevor sie sich ausbreiten.“

Die Regierung fordert also eine Änderung der grundlegenden Designphilosophie des Dienstes.

Auch Discord hat nicht „nichts getan“

Es wäre jedoch ungenau, das Problem darauf zu reduzieren, dass „Discord keinerlei Sicherheitsmaßnahmen für Kinder getroffen hat“.

Um auf die Einführung von ECA Digital in Brasilien zu reagieren, hat Discord seit März 2026 ein Altersverifizierungssystem im Land eingeführt.

Für Nutzer, die auf Bereiche für Erwachsene zugreifen oder bestimmte Sicherheitseinstellungen ändern möchten, stehen Methoden zur Altersverifizierung zur Verfügung, die das Alter anhand des Gesichts schätzen oder Ausweisdokumente nutzen. Für Minderjährige sind standardmäßig Filter für sensible Bilder aktiviert und Einstellungen, die Direktnachrichten von unbekannten Nutzern trennen.

Discord kritisiert die Klage der brasilianischen Regierung als „unverhältnismäßig“.

Das Unternehmen betont, dass der Vorfall über mehrere Online-Dienste hinweg stattfand und erklärt, dass es mit den Ermittlungsbehörden zusammenarbeitet. Auch die Anordnung zur Einstellung der Videofunktionen wurde befolgt.

Hier zeigt sich die Schwierigkeit des aktuellen Streits.

Es geht nicht um die einfache Frage „Hat man Sicherheitsmaßnahmen ergriffen oder nicht?“.

Der eigentliche Streitpunkt ist, ob das Niveau der Maßnahmen rechtlich ausreichend war und inwieweit Plattformen zukünftige Gefahren vorhersehen und verhindern müssen.

Auf sozialen Netzwerken gibt es Stimmen, die sagen: „Kinderschutz ist notwendig, aber pauschale Regulierung ist etwas anderes“

Diese Maßnahmen haben auch unter brasilianischen Internetnutzern eine große Debatte ausgelöst.

In den Discord-bezogenen Communities auf Reddit und in brasilianischen Communities gibt es viele kritische Stimmen zur Einstellung der Video- und Bildschirmfreigabefunktionen.

Besonders häufig ist die Meinung, dass „obwohl es sich um einen ernsten Vorfall handelt, das Stoppen von Videoanrufen und Bildschirmfreigaben allein das grundlegende Problem nicht löst“.

Discord wird nicht nur für Spiele genutzt, sondern auch für den Austausch unter Freunden, Programmierung, Online-Lernen, Remote-Arbeit und den Betrieb kleinerer Communities. Daher gibt es viel Unmut darüber, dass auch unbeteiligte Nutzer von den Funktionen ausgeschlossen werden. Es gibt auch Diskussionen darüber, ob die Einschränkungen mit VPNs umgangen werden können, und Reaktionen, die die Wirksamkeit solcher technisch umgehbaren Regulierungen in Frage stellen.

In brasilianischen Communities gibt es zudem Zweifel, ob „es nicht nur dazu führt, dass Kriminelle auf andere Plattformen wechseln, wenn man sich nur auf Discord konzentriert“ und ob „die Regierung und die Regulierungsbehörden Discords System ausreichend verstehen, um fundierte Entscheidungen zu treffen“.

Es gibt jedoch nicht nur Stimmen gegen die Regulierung.

In der internationalen Discord-Community gibt es Beiträge, die besagen: „Es gibt Zweifel an der pauschalen Einstellung der Videofunktionen, aber wir unterstützen die Verschärfung der Altersverifizierung und Nutzungsbeschränkungen für Minderjährige.“ Das bedeutet, dass die Debatte auf sozialen Netzwerken eher darum geht, ob die Sicherheitsmaßnahmen angemessen sind, als dass sie grundsätzlich abgelehnt werden.

Natürlich sind Beiträge auf Reddit keine Meinungsumfragen und repräsentieren nicht die Meinung der gesamten brasilianischen Bevölkerung. Sie bieten jedoch Einblicke in die Probleme, die Nutzer wahrnehmen.

Der Vorfall ist kein einfacher Konflikt zwischen „Sicherheit oder Freiheit“.

Die Frage ist, ob ein System geschaffen werden kann, das gefährliche Nutzungen gezielt verhindert, ohne die Freiheit der Nutzer unnötig einzuschränken.

„Das Stoppen von Discord löst das Problem nicht“

Ein wichtiger Punkt, der aus den Maßnahmen Brasiliens hervorgeht, ist, dass zwischen dem „Ort“ des Verbrechens und der „Ursache“ des Verbrechens unterschieden werden muss.

Wenn es Online-Gruppen gibt, die Menschen in den Selbstmord treiben und Verbrechen begehen, bedeutet das Schließen von Discord nicht zwangsläufig, dass diese Gruppen verschwinden.

Es besteht die Möglichkeit, dass sie zu Telegram, WhatsApp, Instagram, Online-Spielen, anonymen Foren oder anderen Chat-Diensten wechseln.

Deshalb ist es langfristig wichtiger, ein System zu haben, das gefährliche Aktivitäten erkennt, auch wenn sie mehrere Dienste umfassen, und das den Informationsaustausch zwischen Ermittlungsbehörden und Plattformen ermöglicht, als einen einzelnen Dienst zu verbieten.

Tatsächlich beschränkt sich die Überwachung durch die brasilianischen Behörden nicht nur auf Discord. Im August 2026 wurde berichtet, dass auch zahlreiche andere digitale Dienste wie Instagram, WhatsApp, TikTok, YouTube und Telegram auf ihre Maßnahmen zur Sicherheit von Kindern und zur Bekämpfung illegaler Aktivitäten im digitalen Raum überprüft werden.

Der Vorfall mit Discord könnte als „Eingang“ zur Verschärfung der Regulierung des gesamten Internets in Brasilien gesehen werden.

Auch für Japan ist dies keine weit entfernte Angelegenheit

Wie sieht es in Japan aus?

Es gibt keinen Grund zur Annahme, dass das, was in Brasilien passiert, nur ein Problem eines anderen Landes ist.

Laut der japanischen Polizei wurden im Jahr 2025 1.566 Minderjährige Opfer von Verbrechen, die durch soziale Netzwerke ausgelöst wurden. Dies ist ein Anstieg von 5,4 % gegenüber den 1.486 Opfern im Vorjahr und bleibt auf einem hohen Niveau.

Darüber hinaus zeigt das Material der Polizei, dass etwa 90 % der Kinder, die Opfer von Verbrechen wurden, die durch soziale Netzwerke ausgelöst wurden, keine Filter nutzten, wenn die Nutzung von Filtern überprüft werden konnte. Es gibt auch schwer zu fassende Vorfälle, bei denen Personen, die über Online-Spiele kennengelernt wurden, sexuelle Bilder fordern.

Für japanische Kinder sind soziale Netzwerke und Online-Communities bereits fast eine Lebensgrundlage.

Laut den 2026 von der japanischen Kinder- und Familienagentur vorgelegten Untersuchungsergebnissen nutzen 80,8 % der Mittelschüler und 90,1 % der Oberschüler soziale Netzwerke.

Gleichzeitig wird in der Regierung diskutiert, ob das derzeitige Gesetz zur Verbesserung der Internetumgebung für Jugendliche den vielfältigen Risiken, die durch die Verbreitung von Smartphones, soziale Netzwerke, Video-Sharing, Spiele und Live-Streaming entstanden sind, ausreichend gerecht wird. Es wird sogar diskutiert, ob Plattformen ab einer bestimmten Größe zur Altersverifizierung durch KI verpflichtet werden sollten.

Diese Diskussion ähnelt der in Brasilien bemerkenswert.

Bisher waren die Maßnahmen Japans zum Schutz von Kindern im Internet hauptsächlich auf die Überwachung durch Eltern, Filter und Informationsmoralbildung ausgerichtet.

Daran hat sich nichts geändert.

Doch da Kriminelle anonyme Konten nutzen und sich zwischen mehreren sozialen Netzwerken und Spielen bewegen können, um mit Kindern in Kontakt zu treten, gibt es Grenzen, wenn man sich nur auf „Achten Sie zu Hause darauf“ verlässt.

Japan sollte über „sichere Anfangsgestaltung“ statt über „vollständige Verbote“ nachdenken

Was Japan aus dem Discord-Problem in Brasilien lernen sollte, ist nicht, bestimmte soziale Netzwerke sofort zu verbieten.

Vielmehr ist der Gedanke wichtig, „Dienste von Anfang an so zu gestalten, dass sie auch bei Nutzung durch Kinder nicht gefährlich werden“.

Zum Beispiel sollten bei Minderjährigenkonten standardmäßig Einstellungen aktiviert sein, die verhindern, dass Direktnachrichten von unbekannten Erwachsenen empfangen werden. Gefährliche Inhalte sollten standardmäßig ausgeblendet sein. Nur bei der Freigabe von Funktionen für Erwachsene sollte eine datenschutzfreundliche Altersverifizierung durchgeführt werden. Wenn verdächtige Kontakte oder Verhaltensmuster, die zu sexueller Erpressung oder Selbstverletzung führen, erkannt werden, sollte dies schnell von Sicherheitsbeauftragten überprüft werden.

Diese Denkweise, „Sicherheit nicht nachträglich hinzuzufügen“, sondern „Sicherheit von Anfang an zu gewährleisten“, ist auch in Japan wert, in Betracht gezogen zu werden.

Gleichzeitig birgt eine zu strenge Altersverifizierung das Risiko, dass neue persönliche Informationen wie Gesichtsbilder oder Ausweisdokumente an große Plattformen übermittelt werden.

Auch bei der Altersabschätzung durch KI sind Fehlentscheidungen möglich.

Wenn die Überwachung zu stark verschärft wird, um die Sicherheit zu gewährleisten, könnte dies die Privatsphäre und die Meinungsfreiheit der Kinder beeinträchtigen.

Auch in den Untersuchungsergebnissen der Kinder- und Familienagentur wird das Gleichgewicht zwischen dem Schutz der Kinder vor Risiken und dem Recht auf Zugang zu Informationen und Meinungsfreiheit im Internet als Diskussionspunkt hervorgehoben.

Es ist gefährlich, zu glauben, dass „die Verpflichtung zur Altersverifizierung Sicherheit bringt“, ohne diesen Aspekt zu berücksichtigen.

Die Frage ist, „wer trägt die Verantwortung?“

Wenn Kinder im Internet Opfer werden, wer trägt die Verantwortung?

Es versteht sich von selbst, dass die größte Verantwortung bei der Person liegt, die die Straftat begangen hat.

Doch damit ist das Problem nicht gelöst.

Die Familie hat die Aufgabe, die Nutzung durch die Kinder zu überwachen.

Die Schule hat die Aufgabe, über die Gefahren im Internet und die Möglichkeiten der Beratung zu informieren.

Die Polizei und die Verwaltung haben die Verantwortung, Verbrechen zu untersuchen und die Gesetze an die realen Dienste anzupassen.

Und auch die Plattformen haben die Verantwortung, nicht untätig zu bleiben, wenn sie feststellen, dass ihre Dienste für kriminelle Zwecke missbraucht werden.

Genau dieser letzte Punkt wird von der brasilianischen Regierung gegenüber Discord angesprochen.