In Ungarn will die Regierung von Ministerpräsident Viktor Orban die Menschen glauben machen, dass es ein Verbrechen sei, Asylsuchenden, Flüchtlingen und Migranten humanitäre Hilfe zu leisten. In Polen will Premierminister Mateusz Morawiecki die Menschen glauben machen, dass LGBTI-Rechte „eine Ideologie” sind - und eine verbotene noch dazu. Dies sind die jüngsten beunruhigenden Beispiele für Orwells „Ministerium für Wahrheit“, eine dystopische Darstellung der Regierung, die die Wahrheit im Dienste der eigennützigen Propaganda verzerrt.
In der Zwischenzeit hat die Europäische Union einen Gesetzesentwurf vorgelegt, der von einigen als „neues Grundgesetz“ für das Internet bezeichnet wird: der Digital Services Act. Dieses ehrgeizige neue Gesetz soll eine dringend benötigte Regulierung in die digitale Welt bringen.
Auf der einen Seite bietet es die einmalige Gelegenheit, undurchsichtige Algorithmen und Empfehlungssysteme von Online-Plattformen zu bekämpfen - Phänomene, die auf eine Art und Weise funktionieren, die sich unverhältnismäßig stark auf anfällige und gefährdete Gruppen auswirken kann, ebenso wie auf diejenigen, die daran arbeiten, sie zu schützen.
Andererseits birgt der aktuelle Entwurf das Risiko, repressiven Regierungen die Möglichkeit zu geben, „Wahrheitsministerien“ zu digitalisieren, indem sie ermächtigt werden, Äußerungen zu unterdrücken, einschließlich der Möglichkeit, die wichtige Arbeit der Zivilgesellschaft zum Schweigen zu bringen und zu untergraben. Die Datenschutzgrundverordnung (DSGVO) demonstriert die normative Kraft der EU und ihre internationale Reichweite. Die Datenschutzgesetzgebung der EU wurde von vielen anderen Ländern auf der ganzen Welt kopiert. Wenn wir das richtig oder falsch machen, hat das nicht nur Auswirkungen auf Europa, sondern auf den gesamten globalen zivilgesellschaftlichen Online-Raum.
Eine lebendige und kritische Zivilgesellschaft ist eine Voraussetzung für eine starke und widerstandsfähige Demokratie. Die Pandemie hat die Digitalisierung beschleunigt, was bedeutet, dass sich nun weltweit Hunderttausende von Menschen online organisieren, um Rassismus zu bekämpfen und den Planeten zu schützen. Es hat jedoch auch eine Gegenreaktion gegen diese Forderungen nach gesellschaftlicher Veränderung und gegen die Macht der Online-Organisation gegeben. Zivilgesellschaftliche Akteure in ganz Europa haben Online-Schmierkampagnen und die Stigmatisierung ihrer Organisationen und Mitarbeiter sowie persönliche Angriffe auf diejenigen erlebt, die an vorderster Front für den Schutz der Rechte anderer eintreten. Bereits 2019 stellte der Bericht der EU-Grundrechtagentur zum zivilgesellschaftlichen Raum in der EU fest, dass drei der vier häufigsten Bedrohungen und Angriffe auf zivilgesellschaftliche Akteure online stattfanden.
Eine lebendige und kritische Zivilgesellschaft ist eine Voraussetzung für eine starke und widerstandsfähige Demokratie.
Forschungen des Centre for Democracy & Technology haben gezeigt, dass Desinformationskampagnen häufig absichtlich als Mittel zur Förderung rassistischer und frauenfeindlicher Inhalte eingesetzt werden. In Europa sind seit Jahren Online-Desinformationskampagnen zum Thema Migration im Umlauf. Schockierenderweise sind einige dieser Kampagnen staatlich unterstützt und verbreiten die gefährliche Lüge, dass humanitäre Hilfe für gefährdete Menschen eine kriminelle Aktivität sei. Der Zusammenhang zwischen dem Schrumpfen des zivilgesellschaftlichen Raums und Angriffen auf Minderheitenrechte ist unbestreitbar - auch Nichtregierungsorganisationen und Freiwillige, die den gefährdeten Gruppen helfen, sind zur Zielscheibe geworden.
Angriffe auf Minderheiten oder Menschenrechtsverteidiger sind nichts Neues, aber das Ausmaß dieser Angriffe in Europa ist neu, ebenso wie die brutale Effizienz, mit der sie auf Online-Plattformen ausgeführt werden können, indem die persönlichen Daten der Nutzer profiliert und ihre Vorurteile ausgenutzt werden. Aber die EU kann in ihrer Antwort nicht „klein beigeben“. Die Rolle des Schiedsrichters der Wahrheit anzunehmen - oder private Unternehmen zu bitten, dies zu tun - ist ein schlüpfriger Orwellscher Abhang.
Der Digital Services Act bietet Lösungen an. Er schlägt die Einführung einer verpflichtenden Transparenz über die Algorithmen und Empfehlungssysteme von Social Media-Unternehmen vor. Dies könnte es ermöglichen, solche Algorithmen einer Prüfung zu unterziehen. Wenn es richtig gemacht wird, könnte es helfen, die Datenschutzregeln der EU besser durchzusetzen und damit die Verstärkung von Kampagnen zu reduzieren, die sich gegen gefährdete Gruppen und zivilgesellschaftliche Organisationen richten, die sich für deren Schutz einsetzen.
Abgesehen von den Faktoren, die die Verstärkung von Inhalten vorantreiben, zielt der Digital Services Act auch darauf ab, mehr Transparenz und Verantwortlichkeit in die Verwaltung von nutzergenerierten Inhalten zu bringen. Sie schlägt begrüßenswerte Ideen für die Transparenz für alle Nutzer vor, warum ihre Inhalte entfernt wurden, sowie Möglichkeiten zur Abhilfe und zum Einspruch bei irrtümlichen Löschungen.
Der EU-Gesetzgeber wird jedoch umfassender darüber nachdenken müssen, wie er rechtsstaatliche Garantien rund um die Rechtmäßigkeit der Meinungsäußerung einbauen kann, um die Schaffung eines digitalen Wahrheitsministeriums zu vermeiden. Weltweit sehen wir den bedauerlichen Trend, dass Regierungen die Macht der Online-Räume erkennen und versuchen, sie durch die Verabschiedung von Richtlinien und Gesetzen zu unterdrücken, die Online-Dissens und Meinungsäußerung kriminalisieren, wie zum Beispiel in Thailand. Die EU sollte sich dieser Realität bewusst sein und sicherstellen, dass ihr neu vorgeschlagenes Gesetz nicht zum Arsenal der Regierungen in der EU beiträgt oder jene außerhalb der EU dazu inspiriert, die lebenswichtige Arbeit von Journalisten und Menschenrechtsverteidigern zum Schweigen zu bringen, um Demokratien zu schützen.
Die Menschenrechtsgesetzgebung kann bei diesen Überlegungen helfen, insbesondere, da sie dazu aufruft, Entscheidungen über die Rechtmäßigkeit von Äußerungen weder an Regierungsbehörden noch an Unternehmen zu delegieren. Allein die Justizbehörden sollten die Schiedsrichter der rechtmäßigen Meinungsäußerung bleiben.
Der DSA verfehlt dieses Ziel in einer Weise, die schwerwiegende Auswirkungen auf den zivilen Raum in der Region und darüber hinaus haben könnte. Zum Beispiel schreibt der Verordnungsentwurf den Einsatz sogenannter „Trusted Flaggers“ vor, die ein Social Media-Unternehmen über illegale Online-Inhalte informieren sollen. Ein vertrauenswürdiger Flagger könnte die Strafverfolgungsbehörde oder eine andere Regierungsbehörde sein, und ihre Benachrichtigungen wären gleichbedeutend mit einer Anweisung, den Inhalt zu entfernen oder ein erhebliches rechtliches Risiko einzugehen.
Das Gesetz in seiner jetzigen Form würde auch die Rolle eines Koordinators für digitale Dienste schaffen, eine weitere Art von staatlicher Behörde, die ebenfalls die Befugnis hätte, die Entfernung von „illegalen Inhalten“ anzuordnen. Wir können uns vorstellen, wie sich dies in Staaten auswirken könnte, in denen der zivile Raum und die Rechtsstaatlichkeit bereits unter Druck stehen. Wie würde eine Regierungsbehörde in Polen die Online-Inhalte eines LGBTI-Aktivisten behandeln? Oder wie würde der Online-Auftritt derjenigen, die sich für die Rechte von Flüchtlingen einsetzen, in Ungarn behandelt werden?
Vielleicht am umstrittensten ist, dass der Gesetzesentwurf die Verantwortung für die Entscheidung, ob ein Inhalt illegal ist oder nicht, den Social Media-Unternehmen überträgt. Dies eröffnet den Staaten eine weitere Möglichkeit, die üblichen Schutzmaßnahmen zu umgehen, indem sie Unternehmen unter Druck setzen, Inhalte zu entfernen. Der Druck, schlecht definierte, illegale Inhalte zu entfernen, schafft auch einen Anreiz für Unternehmen, zu überreagieren und sich auf die Seite der Entfernung zu schlagen, um Regierungen zufrieden zu stellen. Es verrät auch das Ziel des Gesetzgebers, die Macht der Unternehmen über den öffentlichen Diskurs einzuschränken, indem es den Unternehmen formell eine Rolle bei der Entscheidung über die Rechtmäßigkeit unserer Äußerungen zuweist.
Regierungen schaffen effektiv Orwellsche Wahrheitsministerien, wenn sie Desinformationen verbreiten oder, schlimmer noch, Gesetze verabschieden, die die legitime Menschenrechtsarbeit von Akteuren der Zivilgesellschaft kriminalisieren und einschränken. Dieser Ansatz, die Versammlungs- und Meinungsfreiheit zu ersticken, hat ernsthafte negative Folgen für den zivilen Raum und die Demokratie. Auch Online-Plattformen können diese Rolle spielen, wenn sie Modelle verwenden, die Desinformation verstärken, oder Nichtregierungsorganisationen die Möglichkeit zur Teilnahme an Online-Auftritt und -Organisation gewähren oder verweigern.
Es steht viel auf dem Spiel und die Entscheidungen, die die EU über die Richtung dieses neuen Gesetzes trifft, werden globale Auswirkungen haben. Während der Gesetzesentwurf viele begrüßenswerte Ideen zu Transparenz und Abhilfe einführt, besteht seine größte Schwäche darin, dass er nicht sicherstellt, dass Entscheidungen über die Rechtmäßigkeit von Äußerungen allein in der Hand unabhängiger und unparteiischer Justizbehörden bleiben. Die Aneignung dieser Rolle durch private Unternehmen und staatliche Behörden könnte verheerende Auswirkungen auf den ohnehin schon angespannten zivilgesellschaftlichen Raum haben. Ein robuster partizipatorischer Prozess und eine Diskussion im Vorfeld der Gesetzesanpassung werden entscheidend sein, um sicherzustellen, dass die Gerichte von Ministerien für „Gerechtigkeit“ und nicht für „Wahrheit“ ermächtigt und beauftragt werden.