Hintergrund & FAQ zu DSA, Trusted Flagger & Co

Die jüngste Berichterstattung in diversen Medien (Nius, Welt, NZZ, Bild) zum Thema Digital Services Coordinator, Trusted Flagger und der BNetzA als “Zensurbehörde der Grünen”, hat eine regelrechte Empörungs- wenn nicht Hetzwelle in Gang getreten. Gemeinsam mit meinem Kollegen Tobias Bacherle habe ich mich bemüht, einige Punkte klarzustellen. Die Meinungsfreiheit ist ein hohes Gut, zu dessen Schutz wir unbedingt stehen. Wir nehmen jedoch die Plattformen in die Pflicht, ihrer Verantwortung zur Moderation ihrer Plattformen gemäß Recht, Gesetz und ihrer Community Guidelines nachzukommen.

Der DSA hat dabei die Rechtslage für Nutzer:innen und Verbraucher:innen gerade verbessert, indem:

• er darauf abzielt, ein sicheres Online-Umfeld zu schaffen, weil digitale Plattformen stärker in die Verantwortung genommen werden, gegen illegale Inhalte und Produkte vorzugehen.
• er Plattformen verpflichtet, aktiv Maßnahmen zu ergreifen, um illegale Inhalte oder gefälschte Waren im digitalen Raum zu entfernen und sicherstellt, dass Nutzer:innen und Verbraucher:innen online besser geschützt sind. Dies betrifft sowohl den Umgang mit gemeldeten Inhalten als auch den Vertrieb von Produkten, die über die Plattformen angeboten werden.
• er gerade die Transparenz und Rechenschaftspflicht digitaler Plattformen im Vergleich zu früheren Regelungen erheblich erhöht. Plattformen müssen nun regelmäßige Berichte darüber vorlegen, wie sie mit illegalen Inhalten umgehen, welche Maßnahmen sie ergreifen und wie ihre Algorithmen arbeiten. Außerdem sind sie verpflichtet, detaillierte Informationen darüber zu geben, wie sie Entscheidungen über das Entfernen von Inhalten treffen. Zudem werden Nutzerrechte gestärkt, indem Plattformen Nutzer:innen die Möglichkeit bieten müssen, Entscheidungen anzufechten und Beschwerdemechanismen zu nutzen. Dadurch wird das Vorgehen der Plattformen nachvollziehbarer und verantwortungsvoller gestaltet.

Klarstellung zur Berichterstattung: 

BNetzA ist eine Zensurbehörde (Behauptung der WELT & Reichelt)

• Antwort: Nein, der Digital Services Coordinator (DSC), der bei der BNetzA angesiedelt ist, hat keine Befugnis, die Entfernung von Inhalten anzuordnen. Er entscheidet auch nicht über einzelne Inhalte. Er überprüft, ob die Plattformen ihre Moderationspflichten angemessen nachkommen. Der DSC ist zudem im Vergleich zum Rest der BNetzA in seiner Unabhängigkeit gestärkt.

Können BMWK und Robert Habeck auf den Digital Services Coordinator bei der BNetzAEinfluss nehmen? (Behauptung der WELT & Reichelt)

• Antwort: Nein, der DSC ist ein unabhängiger Entscheidungsstrang innerhalb der BNetzA. Er darf keine Weisung von Behörden oder anderen Akteuren entgegennehmen. Das würde gegen europäisches und nationales Recht verstoßen (Vgl. u.a. Digitale-Dienste-Gesetz §15). Anders als an die BNetzA gibt es also keine Weisungsbefugnis aus dem BMWK an den DSC. Auch Klaus Müller kann in seiner Funktion als kommissarischer DSC keine Weisungen empfangen. Die Personalunion von BNetzA-Präsidentschaft und DSC wird enden, sobald die entsprechende Planstelle im Haushalt hinterlegt ist und der DSC besetzt werden kann. Die Unabhängigkeit ist für uns Bündnisgrüne von hoher Bedeutung.

Trusted Flagger sollen als Denunzianten Bürger*innen überwachen und an die BNetzA melden (Behauptung u.a. von Joana Cotar)

• Antwort: Nein, Trusted Flagger melden mutmaßlich rechtswidrige Inhalte nach dem bewährten Verfahren Notice & Action an die Plattformen, nicht an den DSC oder die Bundesnetzagentur. Nach einer Meldung von Trusted Flaggern sind Plattformen verpflichtet, diese mit hoher Priorität zu behandeln und bei Bedarf Maßnahmen zu ergreifen. Das kann – muss aber nicht – eine Löschung sein, denn das entscheiden die Plattformen. Bei dieser Entscheidung dürfen die Plattformen nicht willkürlich handeln und müssen die Meinungsfreiheit beachten.

„Was gemeldet wird, wird gelöscht“ (Reichelt) bzw. “die vom grünen Bundesnetzagentur-Chef Klaus Müller angekündigte ‚schnelle Löschung von Fake News‘ bedeutet, dass Inhalte, egal ob legal oder illegal, ohne rechtsstaatlichen Mechanismus entfernt werden können“ (Behauptung  AfD BaWü:)

• Antwort: Nein, der DSA verpflichtet Plattformen, illegale und rechtswidrige Inhalte zu löschen. Plattformen löschen bereits heute eigenständig tagtäglich etliche Inhalte, die sie als rechtswidrig einstufen, oder die gegen ihre Geschäftsbedingungen verstoßen. Oft sind die Geschäftsbedingungen sogar restriktiver. Plattformen müssen Löschungen begründen, dagegen können Nutzende dann Einspruch einlegen.

Es gibt keine Möglichkeit zur “Widerrede, keine Möglichkeit zum Einspruch” (Reichelt)

• Antwort: Doch, eine Benachrichtigung mit Begründung und Darlegung der ergriffenen Maßnahme ist für die Plattformen genauso verpflichtend, wie die Möglichkeit zum Widerspruch. Darauf zu achten, dass dies auch wirklich angeboten und Widerspruch ernsthaft geprüft wird, ist Aufgabe des DSC.

Will Lisa Paus auch Inhalte löschen lassen, die unter die Meinungsfreiheit fallen 

• Antwort: Nein, der von Julian Reichelt gezeigte Ausschnitt von Lisa Paus ist irreführend eingeordnet. Lisa Paus spricht zwar von Hass unterhalb der Schwelle der Strafbarkeit, jedoch nicht davon, dass solche Meinungsäußerungen gelöscht werden müssen. Dies kann eine ganze Palette an Ansätzen sein, um Nutzer:innen zu stärken und ein gutes digitales und respektvolles Umfeld für Meinungsaustausch zu schaffen, wie etwa mehr Initiativen für demokratischen Austausch, Medienkompetenz usw. Sie fügt jedoch hinzu, dass sie entsprechende Gesetze prüfen möchte. Dies sollte vor dem Hintergrund von Online-Radikalisierung eingeordnet werden. Insbesondere so genannte „Dog Whistle“, also Äußerungen, die ein Code für strafrechtlich relevante Äußerungen oder Aufrufe zu Straftaten genutzt werden können, könnten hier gemeint sein. Wo illegale Inhalte beginnen und legale Inhalte aufhören, entscheiden allein die Gerichte und keine Plattformen oder Trusted Flagger. Das Recht auf freie Meinungsäußerung gilt es unbedingt zu schützen – dafür setzen wir uns als Bündisgrüne seit Jahrzehnten ein.

Weitergehende Sprechpunkte

• Plattformen in die Pflicht: Wer andere öffentlich beschimpft oder ihnen droht und dabei gegen geltendes Recht verstößt, muss mit Konsequenzen rechnen. Das gilt in den sozialen Netzen genau wie auf dem Marktplatz oder am Gartenzaun. Wir nehmen mit einem ausgewogenen Rechtsrahmen die Plattformbetreiber in die Pflicht, sich ihrer Verantwortung zu stellen.
• Gerichte entscheiden über illegale Inhalte: Die Bewertung der Rechtsmäßigkeit einzelner Inhalte liegt weiterhin allein bei den Gerichten. Sie entscheiden u.a. nach dem Strafgesetzbuch, ob bestimmte Aussagen rechtswidrig sind und beispielsweise den Tatbestand der Volksverhetzung erfüllen.
• Unabhängigkeit des Digital Service Coordinators: Der Digital Service Coordinator stellt sicher, dass die Plattformen die Regeln des DSA einhalten und beispielsweise Melde- und Abhilfeverfahren für Nutzende und eine neutrale Inhaltemoderation anbieten. Die Koordination bewertet in keiner Weise Inhalte selbst, sondern prüft, ob die Plattformen genug Ressourcen vorhalten und etwa zügig auf die Beschwerden von Nutzenden reagieren. Die Koordinationsstelle agiert komplett unabhängig von der Politik und ist nicht weisungsgebunden.
• Rechte der Nutzenden: Die Rechte von Nutzenden werden durch Digital Services Act und Digitale Dienste Gesetz gestärkt: Sie können gegen Beschränkungen ihrer Inhalte durch Plattformen Widerspruch einlegen. Neu ist auch, dass Plattformen Beschränkungen begründen müssen. Das schränkt willkürliche Löschungen ein, der Rechtsweg ist weiterhin in jedem Fall möglich.
• Trusted Flagger: Trusted Flagger gibt es schon seit Jahren, viele Plattformen arbeiten mit spezialisierten Organisationen und Expert*innen zusammen. Sie spielen laut DSA eine unterstützende Rolle, denn sie tragen ihre Expertise bei, indem sie ihrer Einschätzung nach rechtswidrige Inhalte identifizieren und an die Plattformen melden. Trusted Flagger haben keinen Einfluss darauf, ob Inhalte gelöscht werden oder andere Maßnahmen ergriffen werden. Der DSA formalisiert diese Zusammenarbeit, macht für Plattformen die Behandlung der Meldungen verpflichtend und sorgt für mehr Transparenz , in dem er Trusted Flagger etwa dazu verpflichtet über ihre Meldungen öffentlich zu berichten.

FAQ

Was ist der Digital Services Coordinator und warum gibt es ihn?

Die Aufgaben der Koordinierungsstelle für Digitale Dienste (engl. Digital Services Coordinator) sind im Digital Services Act und im nationalen Durchführungsgesetz, dem Digitale Dienste Gesetz geregelt. 

Der Digital Services Act reguliert u.a. Online-Plattformen und etabliert Prozesse für die Entfernung von illegalen Inhalten. Vorbild war u.a. das deutsche Netzwerkdurchsetzungsgesetz. Schon im Zuge der Verhandlungen wurde mögliches „Overblocking“ kontrovers diskutiert. Evaluierungen des NetzDG haben die Befürchtungen allerdings nicht bestätigt (BMJV zum NetzDG: ‚Gesetz gegen Hass im Netz wirkt‘ (lto.de).

Auch während der Verhandlungen des Digital Services Act auf EU-Ebene wurden Gefahren für die Meinungsfreiheit und den öffentlichen Diskurs stets mitbedacht und berücksichtigt. Deshalb setzt der Digital Services Act auf etablierte Verfahren wie Notice & Action. Er gibt den Nutzer:innen zudem neue Rechte gegenüber den Plattformen, um etwa willkürliche Löschungen und Sperrungen überprüfen zu lassen.

Aus diesem Grund wurden im Digital Services Act und im Digitale Dienste Gesetz auch hohe Anforderungen an die Unabhängigkeit des DSC gestellt. Dieser ist gegenüber der Bundesregierung und insbesondere dem Bundeswirtschaftsministerium nicht weisungsgebunden.  Im Gegenteil: Nähme der DSC im Zuge der Durchsetzung des Digital Services Act Weisungen an, dann würde er gegen europäisches und nationales Recht verstoßen! Digital Services Act und Digitale Dienste Gesetz erhöhen darüber hinaus die Transparenz der Plattformregulierung, u.a. durch Regelungen zum Datenzugang für Forschende. Darüber hinaus berichtet der DSC gegenüber einem plural besetzen Beirat über seine Arbeit und er veröffentlicht auch regelmäßig Berichte für die Öffentlichkeit. Darin macht er u.a. auch öffentlich, mit welchen Stakeholder und Organisationen er sich im Rahmen der Erfüllung seiner Aufgaben austauscht.

Was macht der DSC nicht?

Der DSC

• darf keine einzelnen Inhalte auf Online-Plattformen bewerten. Er hat dementsprechend auch keine Befugnis, um gegenüber Plattformen die Entfernung von bestimmten Inhalten anzuordnen. Diese Entscheidung liegt weiterhin bei den Gerichten, die in Deutschland nach dem Strafgesetzbuch (u.a. zu Straftaten wie etwa Volksverhetzung) entscheiden, welche Äußerungen rechtswidrig sind.
• darf keine Weisungen aus der Politik oder aus der Bundesregierung entgegennehmen. Der Rechtsrahmen stellt im Gegenteil hohe Anforderungen an die Unabhängigkeit des Digital Services Coordinators. Diese Anforderungen haben wir im nationalen Gesetzgebungsverfahren zum Digitale Dienste Gesetz noch gestärkt. 

Was macht der DSC?

Der DSC

• ist für die Durchsetzung der Regeln des DSA auf Plattformen mit Sitz in Deutschland verantwortlich. Dabei konzentriert er sich auf systemische Fragen, zum Beispiel ob Plattformen wie vom DSA gefordert ausreichende Melde- und Abhilfeverfahren eingerichtet haben, um auf die Beschwerden von Nutzer:innen zu reagieren. 
• koordiniert die Zusammenarbeit mit weiteren nach dem Digitale Dienste Gesetz zuständigen Behörden (u.a. Bundeszentrale für Kinder- und Jugendschutz, Bundesdatenschutzbeauftragter), um eine einheitliche Anwendung des DSA sicherzustellen
• bringt sich in die Abstimmungen und die Zusammenarbeit auf EU-Ebene im Gremium für Digitale Dienste (engl. Board for Digital Services) ein und vertritt darin auch die weiteren zuständigen Behörden
• arbeitet nach §21 DDG in einem Beirat mit Wissenschaft, Zivilgesellschaft und Verbänden zusammen, der den DSC in der Ausübung seiner Aufgaben berät
• nimmt als zentrale Beschwerdestelle nach § 20 DDG Eingaben von Bürgerinnen und Bürgern entgegen und überprüft ggf. ob diese auf systemische Probleme mit der Einhaltung des DSA hindeuten
• kann Ermittlungs- und Bußgeldverfahren gegen Online-Plattformen einleiten, wenn es Anhaltspunkte für systemische Probleme mit der Einhaltung des DSA auf einer Plattform gibt

Auf Antrag kann der DSC:

• außergerichtliche Streitbeilegungsstellen nach Artikel 21 DSA zertifizieren
• Trusted Flagger (vertrauenswürdige Hinweisgeber) nach Artikel 22 DSA zulassen
• Forscherinnen und Forschern für den Zugang zu Daten der sehr großen Onlineplattformen und -suchmaschinen nach Artikel 40 DSA zulassen.

→ Bei diesen Anträgen prüft der DSC ausdrücklich keine inhaltlichen Aspekte, sondern er stellt sicher, dass die Organisationen formale Anforderungen (u.a. an Sachkenntnis, Unabhängigkeit und Transparenz auch in Bezug auf die Finanzierung) erfüllen. 

Wie unabhängig ist der DSC?

Der Digital Services Act stellt in Artikel 50 hohe Anforderungen an die Unabhängigkeit der Digital Services Coordinators:

DSCs müssen

• bei der Wahrnehmung ihrer Aufgaben völlig unabhängig agieren. Sie arbeiten frei von äußeren Einflusses und dürfen weder direkt noch indirekt Weisungen von anderen Behörden oder privaten Stellen einholen oder entgegennehmen
• ihre Aufgaben unparteiisch, transparent und zeitnah erfüllen
• ausreichend technisch, finanziell und personell ausgestattet sein
• ihren Haushalt ausreichend autonom verwalten können

Im Digitale Dienste Gesetz wurde daher die Koordinierungsstelle für Digitale Dienste als unabhängiger Entscheidungsstrang innerhalb der Bundesnetzagentur etabliert. 

→ Der DSC darf also keine Weisungen von Ministerien oder anderen Stellen entgegennehmen, damit würde er gegen Gesetze verstoßen.

Warum nimmt Klaus Müller geschäftsführend die Aufgaben als Leiter des DSC wahr?

Auch an die Leitung des DSC werden hohe Anforderungen gestellt, die auch im Digitale Dienste Gesetz geregelt sind. 

Im parlamentarischen Verfahren haben wir die Unabhängigkeit der Leitung des DSC noch in §16 DDG noch erhöht: 

• die Leitung der Koordinierungsstelle arbeitet frei und ohne Weisungen und sie wird transparent im Wege einer öffentlichen Ausschreibung ausgewählt
• bei der Auswahl der Leitung der KDD handelt der Präsident der Bundesnetzagentur unabhängig, insbesondere handelt er nicht im Einvernehmen mit Ministerien
• wir haben im Gesetz verankert, dass die Leitung der KDD sowohl die Geschäftsmodelle als auch den Rechtsrahmen digitaler Dienste gut kennen muss
• auch wirtschaftlicher Einflussnahme beugt das DDG vor: Die Leitung darf nicht zugleich ein Unternehmen der Digitalwirtschaft führen oder innehaben

Aktuell werden die Vorbereitung für die Besetzung der Leitungsposition noch geschaffen. Dafür muss im Haushalt eine geeignete Stelle geschaffen werden, die dann öffentlich ausgeschrieben werden muss. 

Der DSC wurde erst mit Abschluss des Digitale Dienste Gesetzes im Frühjahr 2024 offiziell eingerichtet. Daher wurde die Leitungsstelle noch nicht besetzt. Für die Übergangszeit regelt das Digitale Dienste Gesetz, dass bis zur Ernennung des Leiters oder der Leiterin des DSC der Präsident der BNetzA geschäftsführend die Aufgaben der Leitung wahrnimmt.

→ Sobald eine Leitung nach dem gesetzlich vorgeschriebenen Verfahren ernannt wird, nimmt der Präsident der BNetzA auch keine Aufgaben als Leiter des DSC mehr wahr.

Was sind sog. vertrauenswürdige Hinweisgeber (engl. Trusted Flaggers) und was nicht)?

Das Konzept der „Trusted Flaggers“ entstand schon vor Jahren. Es entwickelte sich aus dem Bedürfnis der Plattformen, mit dem Anstieg von Inhalten, die gegen Gesetze verstoßen können, effektiv umzugehen. Große Plattformen wie YouTube haben schon seit vielen Jahren eine Zusammenarbeit mit externen Organisationen, die beim „Flagging“ von möglicherweise problematischen Inhalten helfen können (vgl. Das YouTube Priority Flagger Program – YouTube-Hilfe (google.com). Die Organisationen zeichnen sich oft durch eine hohe sektorale Expertise aus.

„Trusted Flagger“ sind somit kein neues Phänomen, sondern schon länger ein etabliertes Element der Plattformregulierung. Der Digital Services Act hat dieses Konzept als ein Instrument unter vielen weiteren (vor allem den Melde- und Abhilfeverfahren für Nutzerinnen und Nutzer, engl. Notice & Action) aufgegriffen. Es handelt sich damit um eine „Verrechtlichung“ eines Instruments, das aus der Selbstregulierung der Plattformen kommt. 

Artikel 22 DSA verpflichtet die Plattformen dazu, dass Meldungen von Trusted Flaggern „vorrangig behandelt, unverzüglich bearbeitet und einer Entscheidung zugeführt werden“.

Damit trifft der DSA allerdings keine Aussage darüber, welche Entscheidung aus einer Meldung eines Trusted Flaggers folgt! Trusted Flagger können auch keine Anordnungen gegenüber Plattformen erlassen. Sie können eine Plattform lediglich auf mutmaßlich illegale Inhalte hinweisen.

In Artikel 22 stellt der DSA Anforderungen an Trusted Flagger. Diese müssen: 

• besondere Sachkenntnis in Bezug auf die Erkennung, Feststellung und Meldung rechtswidriger Inhalte haben
• unabhängig von jeglichen Anbietern von Online-Plattformen sein
• ihre Tätigkeit zur Übermittlung von Meldungen sorgfältig, genau und objektiv ausüben

Darüber hinaus müssen Trusted Flagger besondere Transparenzvorgaben einhalten, darunter etwa einmal jährlich Berichte veröffentlichen, in dem die Anzahl der Meldungen u.a. nach der Art der mutmaßlich illegalen Inhalte und der vom Anbieter ergriffenen Maßnahme enthalten ist.

→ Dadurch macht der DSA das System der bereits bestehenden Zusammenarbeit zwischen Plattformen und Trusted Flaggern deutlich transparenter und nachvollziehbar für die Öffentlichkeit. 

Wie prüft der DSC einen Antrag auf Zulassung als „Trusted Flagger“?

Der DSC kann auf Antrag sog. vertrauenswürdige Hinweisgeber (engl. Trusted Flagger) zulassen. Dafür hat der deutsche DSC einen Leitfaden entwickelt (siehe leitfaden.pdf (bund.de)).

Im Leitfaden wird weiter ausdifferenziert, wie ein Antragsteller die geforderte Unabhängigkeit und Transparenz nachweisen kann. In Bezug auf die finanzielle Unabhängigkeit muss der Antragssteller Dokumente einreichen zu diesen Aspekten:

• Honorare für erbrachte Dienstleistungen,
• Finanzierung durch Industriezweige,
• Öffentliche Finanzierung (durch den deutschen Staat, die EU oder andere),
• Nichtöffentliche Zuschusseinnahmen,
• Aktienkapital und Investoren,
• Andere Quellen

→ Der DSC prüft also keine inhaltlichen Fragen oder eine politische Ausrichtung, sondern bearbeitet den Antrag anhand von objektiven Informationen u.a. zur Sachkenntnis und zur Unabhängigkeit eines Antragstellers.

Warum wird die finanzielle Unabhängigkeit von REspect bejaht, wenn die Organisation Förderung von der Bundesregierung bekommen soll?

Der DSA schreibt nicht vor, dass Trusted Flagger finanziell vollständig unabhängig von öffentlicher Finanzierung sein müssen. Das ist im Übrigen auch für den DSC nicht gefordert, auch er wird aus dem öffentlichen Haushalt finanziert, ist aber dennoch organisatorisch unabhängig.

Eine Anforderung, keine öffentliche Finanzierung zu erhalten, würde viele Organisationen von vorneherein ausschließen. Ein Fokus des DSA liegt auch darauf, dass Trusted Flagger nicht von den Plattformen abhängig sind, auf denen sie Meldungen bearbeiten.

Eine öffentliche Finanzierung einer Organisation muss laut Leitfaden des DSC aber transparent gemacht werden. Die Entscheidung über die Zulassung liegt beim unabhängig gestellten DSC.

Dieser analysiert die Informationen über die finanzielle Situation als ein Faktor unter vielen weiteren, darunter Sachkenntnis, die ein Trusted Flagger gegenüber dem DSC nachweisen muss, um eine Zulassung zu erhalten.