Bitte löschen
Brüssels neues Digitalgesetz und die Automatisierung der Zensur
von Clément Pérarnaud
Während die Medien mit Schaudern zur Kenntnis nahmen, dass Twitter womöglich von einem libertären Milliardär aufgekauft wird, richtete EU-Binnenmarktkommissar Thierry Breton am 26. April über besagten Kurznachrichtendienst vorsorglich warnende Worte an Elon Musk: „In Europa müssen sich alle Unternehmen an unsere Regeln halten.“ Dass Breton eine Selbstverständlichkeit verkündet, als wäre es eine Kampfansage, sagt viel über die seit Jahren zu beobachtende Ohnmacht europäischer Institutionen, „Big Tech“ zu regulieren.
Einer der neuesten Regulierungsversuche unter der Ägide von EU-Kommissionspräsidentin Ursula von der Leyen ist der Entwurf für ein Gesetz über digitale Dienste, auf das sich Kommission, Parlament und Rat der Europäischen Union am 23. April vorläufig geeinigt haben. Dieses ist vor allem unter dem englischsprachigen Kürzel DSA (Digital Services Act) bekannt. Zeitgleich wurde ein Gesetz über digitale Märkte vorgelegt, mit dem das wettbewerbspolitische Regelwerk der EU gestärkt werden soll.
Mit beiden Entwürfen will die EU zeigen, dass sie entschlossen ist, die Allmacht der großen US-Plattformen einzuschränken. Dass das Ringen um den Wortlaut der Gesetzestexte anderthalb Jahre lang von intensiver Lobbyarbeit begleitet war, überrascht da wenig. Ihre Beeinflussungsversuche in Brüssel lässt sich die Digitalwirtschaft im Jahr rund 100 Millionen Euro kosten.1 Ein Indiz dafür, dass die Branche die Umsetzung der europäischen Absichtserklärungen zu hintertreiben versuchte, sind auch die zahllosen Treffen zwischen Interessenvertretern des Silicon Valley und hohen Beamten und Parlamentariern der EU.2
Es stand auch einiges auf dem Spiel. Nachdem die Datenschutz-Grundverordnung (DSGVO) 2016 ein 20 Jahre altes Vorgängergesetz abgelöst hat, überarbeitet nun das Gesetz über digitale Dienste die Europäische Richtlinie über den elektronischen Geschäftsverkehr (E-Commerce-Richtlinie) von 2001. Vor allem ändern sich die Haftungsregelungen für digitale Vermittler, also beispielsweise Onlineplattformen, sowie deren Pflichten bei der „Moderation“ von Inhalten.
Die EU erlässt seit einigen Jahren vermehrt Vorschriften in diesem Bereich, um etwa die Verbreitung terroristischer Inhalte zu bekämpfen3 oder das Urheberrecht besser zu schützen.4 Mit dem neuen Gesetz über digitale Dienste soll das europäische Recht harmonisiert werden, insbesondere mittels strengerer Vorgaben für die Löschung als illegal eingestufter Inhalte. Zudem drohen hohe Geldstrafen bei Verstößen (bis zu 6 Prozent des weltweiten Umsatzes des zuwiderhandelnden Unternehmens).
Die Fortschritte vor allem bei der Offenlegung der Algorithmen und im Kampf gegen die kommerzielle Nutzung sensibler Daten bleiben allerdings hinter den ursprünglichen Ambitionen zurück. Französische Medien lobten zwar, dass der Digital Services Act „eine bessere Bekämpfung der Auswüchse des Internets wie Hassreden, Falschinformationen und Produktpiraterie“ ermögliche (Le Monde, 23. April) und die „Wildwest-Zustände bei den Onlineplattformen“ beenden könne (Francetvinfo, 23. April). Tatsächlich aber bedroht das Gesetz die Meinungsfreiheit und den ungehinderten Zugang zu Online-Informationen.
Zuvörderst bleibt der Grundsatz, dass die Digitalriesen sich selbst regulieren, weitgehend unangetastet: Nach wie vor sind die Privatunternehmen die einzige Instanz, die über die Löschung von Online-Inhalten entscheidet. Dass die EU den öffentlichen Raum durch ein neues Gesetz schützen will, dessen Umsetzung sie dann an die Privatwirtschaft auslagert, ist ausgesprochen paradox. Diese Privatisierung der Kontrolle über die Meinungsfreiheit lehnt sich an den „Europäischen Verhaltenskodex zur Bekämpfung illegaler Hassreden im Internet“ an.
In dieser von der EU-Kommission unterstützten „privaten“ Vereinbarung verpflichteten sich Twitter, YouTube und Konsorten 2016, ihren Augiasstall selbst auszumisten. Diese Privatzensur ist gleichzeitig willkürlich und undemokratisch: Die Plattformen übernehmen im behördlichen Namen die Überwachung von Meinungsäußerungen – meist auf der Basis ihrer eigenen Nutzungsbedingungen, die wiederum oft die Grundrechte der europäischen Bürgerinnen und Bürger verletzen.
Weniger Chancen für alternative Dienste
Das Gesetz über digitale Dienste bringt aber auch Neuerungen mit sich: So wird etwa der Status der „vertrauenswürdigen Hinweisgeber“ (Trusted Flaggers) eingeführt, die rechtswidrige Inhalte melden sollen. Einen solchen Status dürfen zum Beispiel zivilgesellschaftliche Gruppen beanspruchen, die sich auf die Bekämpfung von Desinformation spezialisiert haben, aber auch staatliche Stellen, deren Löschungsanordnungen die Plattformen unverzüglich nachkommen müssen.
Für oppositionelle Gruppen sind solche Regelungen in einer Zeit, in der sowohl liberale als auch autoritäre Regierungen unliebsame Aussagen rasch als „Fake News“ einstufen, reichlich beunruhigend. Künftig muss jeder Anbieter digitaler Dienste einen gesetzlichen Vertreter innerhalb der EU benennen, der für Verstöße haftet.
Doch welche Inhalte sind überhaupt betroffen? Nach zähen Verhandlungen hat der Gesetzgeber beschlossen, eine Nachricht dann als unerlaubt einzustufen, wenn sie nach nationalem oder europäischem Recht illegal ist. Hier gibt es innerhalb der EU allerdings große Unterschiede: Das ungarische Recht etwa untersagt bestimmte „kommunistische“ oder auf die LGBTQI-Bewegung bezogene Wörter und Symbole, die im Rest der Union unproblematisch sind. Indirekt erkennt das Gesetz damit solche Vorschriften an.5 Manche wären gern noch weitergegangen und hätten nicht nur illegale, sondern auch Fake News oder gar „radikale Formulierungen“ in das Gesetz aufgenommen, wie aus einem Vorschlag der französischen Regierung hervorgeht.6
Die Frage der Medienfreiheit stellt sich mit besonderer Dringlichkeit. Gerät die Presse unter die Räder einer Verordnung, die auf Plattformen wie Facebook zugeschnitten ist? Verleger und einige Parlamentarier wollten die digitalen Medien von dem neuen Gesetz ausnehmen, damit nicht Teile des Journalismus der Kontrolle durch die Plattformen unterworfen werden. Dieses Ansinnen wurde jedoch von der Europäischen Kommission und der französischen Regierung torpediert – mit der Begründung, es müsse möglich sein, bestimmte ausländische Medien zu sperren. Damit liefert das Gesetz eine Legitimationsgrundlage für eine Art außergerichtlicher Internetzensur, die von europäischen und nationalen Behörden durchgeführt wird.
Unter dem Eindruck der russischen Invasion in die Ukraine haben die Gesetzgeber einen neuen Krisenreaktionsmechanismus eingeführt. Zur Bekämpfung von Desinformation im Internet erlaubt das neue Gesetz in „Ausnahmesituationen“ Einschränkungen der Meinungsfreiheit. Damit soll die Rechtslücke geschlossen werden, mit der die EU sich beim juristisch umstrittenen Verbot7 der Ausstrahlung von RT und Sputnik übers Internet konfrontiert sah.
Insgesamt krankt das Gesetz an einem fundamentalen Widerspruch. Einerseits hält es am grundsätzlichen Verbot einer generalisierten Überwachung von Inhalten durch die Plattformen fest, was 2001 mit der E-Commerce-Richtlinie eingeführt wurde. Andererseits befördert es die Einrichtung automatischer Filtersysteme auf allen Plattformen oder schreibt diese sogar vor.
In diesem Sinne ist der DSA-Gesetzentwurf den großen Technologieunternehmen auf den Leib geschneidert. Man orientierte sich stets an den größten Plattformen wie Facebook oder YouTube. Und weil nach den neuen Regelungen alle Dienste verhindern müssen, dass sich auf ihren Servern illegale Inhalte befinden, begünstigt das Gesetz die Branchenriesen: Diese verfügen bereits über die technischen Möglichkeiten zur automatischen Inhaltserkennung. Die Umsetzung der neuen Vorschriften dürfte also das ohnehin schon große Gefälle zwischen großen und kleinen Akteuren vergrößern, obwohl die Verordnung gegen dieses ja gerade vorgehen sollte.
Während das Gesetz die „Zensur“ noch stärker automatisiert, stellt es das Geschäftsmodell der großen Plattformen nicht infrage. „Das DSA setzt den Zeiten ein Ende, in denen die großen Onlineplattformen sich ‚too big to worry‘ fühlen und sich entsprechend unbekümmert verhalten konnten“, tönte EU-Kommissar Thierry Breton im April auf Twitter. In Wahrheit beschränkt sich die Kommission aber auf bloße Symptombekämpfung. Statt dezentralisierte Plattformen wie Matrix oder Mastodon zu fördern, erteilt das Gesetz der von den US-Technologieriesen entwickelten „Governance by Algorithms“ ihren Segen und zwingt dieses Modell nach und nach allen anderen auf.
Dass die EU ihre Aktivitäten in der Digitalpolitik seit 2016 forciert hat, deutet auf die Herausbildung eines neuen europäischen Regulierungsmodells hin. Während die Vorschriften der EU sich vorgeblich vom US-amerikanischen und chinesischen Vorgehen abgrenzen, beruhen sie faktisch auf denselben Fundamenten: etwa der Faszination für Gigantismus und dem Streben nach digitaler Wettbewerbsfähigkeit.
Seit Verabschiedung der Datenschutz-Grundverordnung (DSGVO) 2016 wurde mit verschiedenen Vorschlägen ein harmonisierter Regelungsrahmen abgesteckt – dazu gehören etwa das Daten-Governance-Gesetz, das vom EU-Parlament am 6. April verabschiedet wurde und das den Unternehmen den Datenzugang erleichtern soll, oder der im April 2021 vorgelegte Entwurf für ein Gesetz über künstliche Intelligenz.
Mit all diesen Initiativen will die Kommission weltweit wirken. Sie setzt dabei auf den berühmten „Brüssel-Effekt“. Der Begriff beschreibt die normative Kraft der EU: Deren Regelungen werden oft anderswo übernommen, was sich etwa daran zeigt, dass viele Länder sich bei ihren datenschutzrechtlichen Regelungen an der DSGVO orientieren. Das deutsche Netzwerkdurchsetzungsgesetz (NetzDG) von 2017, das sich gegen Hassrede im Netz richtet, wurde schon von einem Dutzend Staaten in aller Welt adaptiert, darunter Honduras, Vietnam und Belarus.8
Ob dies auch bei dem neuen Gesetz über digitale Dienste der Fall sein wird, wenn nun Großmächte wie China, Indien und die USA die Reform ihres Digitalrechts auf ihre Prioritätenliste gesetzt haben? Falls nicht, wird sich anstelle des „Brüssel-Effekts“ wohl eher ein Bumerangeffekt einstellen: In dem Maße, in dem andere bedeutende Staaten den Digitalsektor regulieren, werden die ursprünglich auf die US-Giganten zugeschnittenen Verpflichtungen vor allem die europäischen Akteure treffen.
3 Siehe Verordnung (EU) 2021/784 vom 29. April 2021.
4 Siehe Richtlinie (EU) 2019/790 des Europäischen Parlaments und des Rats vom 17. April 2019.
Aus dem Französischen von Andreas Bredenfeld
Clément Perarnaud ist Senior Associate Researcher an der Brussels School of Governance – Vrije Universiteit Brussel (Belgien).