Überwachung der Beschwerde- verfahren sozialer Netzwerke nach §3 Netz-DG BERICHT ZUM 1. TESTZYKLUS VOM 01.01.2019 – 30.06.2019

INHALTSVERZEICHNIS 1.    PROJEKTZIEL UND VORGABEN .................................................................................... 1 2.    NETZDG ..................................................................................................................... 1 3.    ÜBERPRÜFUNG DER MELDEWEGE .............................................................................. 3 3.1.      FACEBOOK ................................................................................................................................................ 3 3.1.1.           „Melden“-Link ............................................................................................................................... 4 Desktop & Browser ...................................................................................................................................................... 4 Smartphone & Browser ............................................................................................................................................... 7 Smartphone & App ...................................................................................................................................................... 7 3.1.2.           NetzDG-Meldeformular ................................................................................................................ 7 Desktop & Browser ...................................................................................................................................................... 9 Smartphone & Browser ............................................................................................................................................. 11 Smartphone & App .................................................................................................................................................... 13 3.1.3.           Besondere Beobachtungen ......................................................................................................... 16 3.2.      INSTAGRAM ............................................................................................................................................. 18 3.2.1.           „Melden“-Link ............................................................................................................................. 18 Desktop & Browser .................................................................................................................................................... 19 Smartphone & Browser ............................................................................................................................................. 20 Smartphone & App .................................................................................................................................................... 21 3.2.2.           NetzDG-Meldeformular .............................................................................................................. 22 Desktop & Browser .................................................................................................................................................... 23 Smartphone & Browser ............................................................................................................................................. 23 Smartphone & App .................................................................................................................................................... 24 3.2.3.           Community Guidelines-Formular ................................................................................................ 26 Desktop & Browser .................................................................................................................................................... 27 Smartphone & Browser ............................................................................................................................................. 29 Smartphone & App .................................................................................................................................................... 30 3.3.      TWITTER ................................................................................................................................................. 30 3.3.1.           „Melden“-Link ............................................................................................................................. 31 Desktop & Browser .................................................................................................................................................... 31 Smartphone & Browser ............................................................................................................................................. 31 Smartphone & App .................................................................................................................................................... 31 3.3.2.           NetzDG-Meldeformular .............................................................................................................. 34 Desktop & Browser .................................................................................................................................................... 34 Smartphone & Browser ............................................................................................................................................. 35 ................................................................................................................................................................................... 36 Smartphone & App .................................................................................................................................................... 36 Twitter NetzDG-Meldeformular: .................................................................................................................. 37 3.4.      YOUTUBE ................................................................................................................................................ 41 3.4.1.           „Melden“-Link ............................................................................................................................. 41 Desktop & Browser .................................................................................................................................................... 41 Smartphone & Browser ............................................................................................................................................. 43 Smartphone & App .................................................................................................................................................... 45 3.4.2.           NetzDG-Meldeformular .............................................................................................................. 45 Desktop & Browser .................................................................................................................................................... 46 Smartphone & Browser ............................................................................................................................................. 47 Smartphone & App .................................................................................................................................................... 48 1

4.    MONITORING DER MELDUNGEN .............................................................................. 49 4.1.     STATISTISCHE AUSWERTUNG....................................................................................................................... 53 4.1.1.      Facebook ..................................................................................................................................... 54 4.1.2.      Instagram .................................................................................................................................... 57 4.1.3.      Twitter ......................................................................................................................................... 60 4.1.4.      YouTube ...................................................................................................................................... 62 4.1.5.      Zusammenfassung ...................................................................................................................... 64 5.    FAZIT ....................................................................................................................... 66 6.    ABBILDUNGSVERZEICHNIS........................................................................................ 69 2

1. Projektziel und Vorgaben Die im Sinne des §3 Abs. 5 NetzDG beauftragte Stelle überwacht die Funktionalität der Mel- dewege und den Umgang sozialer Netzwerke mit Beschwerden über rechtswidrige Inhalte. Diese Überwachung soll in Form eines Monitorings durch Beobachtung und systematische Er- fassung des Umgangs sozialer Netzwerke mit dort eingereichten Beschwerden erfolgen. Die ausgewählten sozialen Netzwerke sind dabei gezielt auf rechtswidrige Inhalte hin zu durchsu- chen. Festgestellte Verstöße gegen das NetzDG sind dem sozialen Netzwerk zu melden und die daraufhin erfolgte Reaktion der Netzwerke ist zu überprüfen. Bieten Netzwerke mehrere Beschwerdewege an, so ist die Überwachung der verschiedenen Meldewege mittels unter- schiedlicher Endgeräte und unter Verwendung unterschiedlicher Software durchzuführen. Diese Überwachung soll in halbjährlichen Testzyklen erfolgen. Nach jedem Testzyklus wird ein Bericht über die Erkenntnisse des vergangenen Testzyklus verfasst. Die Fokussierung während dieses ersten Testzyklus, der sich über den Zeitraum vom 01.01.2019 bis 30.06.2019 erstreckt, lag auf den Netzwerken Facebook, Instagram, Twitter und YouTube. Gemeldet werden sollten Verstöße gegen die Paragrafen §131 Gewaltdarstel- lung, §140 Belohnung und Billigung von Straftaten, §185 Beleidigung und §186 Üble Nachrede. 2. NetzDG Gesetz zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken (Netzwerkdurchset- zungsgesetz – NetzDG) - §3 Umgang mit Beschwerden über rechtswidrige Inhalte (1) Der Anbieter eines sozialen Netzwerks muss ein wirksames und transparentes Verfahren nach Absatz 2 und 3 für den Umgang mit Beschwerden über rechtswidrige Inhalte vorhalten. Der Anbieter muss Nutzern ein leicht erkennbares, unmittelbar erreichbares und ständig ver- fügbares Verfahren zur Übermittlung von Beschwerden über rechtswidrige Inhalte zur Verfü- gung stellen (2) Das Verfahren muss gewährleisten, dass der Anbieter des sozialen Netzwerks 1. unverzüglich von der Beschwere Kenntnis nimmt und prüft, ob der in der Beschwere gemel- dete Inhalt rechtswidrig und zu entfernen oder der Zugang zu ihm zu sperren ist, 2. einen offensichtlich rechtswidrigen Inhalt innerhalb von 24 Stunden nach Eingang der Be- schwerde entfernt oder den Zugang zu ihm sperrt; dies gilt nicht, wenn das soziale Netzwerk mit der zuständigen Strafverfolgungsbehörde einen längeren Zeitraum für die Löschung oder Sperrung des offensichtlich rechtswidrigen Inhalts vereinbart hat, 3. jeden rechtswidrigen Inhalt unverzüglich, in der Regel innerhalb von sieben Tagen nach Ein- gang der Beschwerde entfernt oder den Zugang zu ihm sperrt; die Frist von sieben Tagen kann überschritten werden, wenn 1

a) die Entscheidung über die Rechtswidrigkeit des Inhalts von der Unwahrheit einer Tatsachenbehauptung oder erkennbar von anderen tatsächlichen Umständen ab- hängt; das soziale Netzwerk kann in diesen Fällen dem Nutzer vor der Entscheidung Gelegenheit       zur     Stellungnahme       zu     der      Beschwerde      geben, b) das soziale Netzwerk die Entscheidung über die Rechtswidrigkeit innerhalb von sie- ben Tagen nach Eingang der Beschwerde einer nach den Absätzen 6 bis 8 anerkannten Einrichtung der Regulierten Selbstregulierung überträgt und sich deren Entscheidung unterwirft, 4. im Falle der Entfernung den Inhalt zu Beweiszwecken sichert und zu diesem Zweck für die Dauer von zehn Wochen innerhalb des Geltungsbereichs der Richtlinien 2000/31/EG und 2010/13/EU speichert, 5. den Beschwerdeführer und den Nutzer über jede Entscheidung unverzüglich informiert und seine Entscheidung ihnen gegenüber begründet. (3) Das Verfahren muss vorsehen, dass jede Beschwerde und die zu ihrer Abhilfe getroffene Maßnahme innerhalb des Geltungsbereichs der Richtlinien 2000/31/EG und 2010/13/EU do- kumentiert wird. (4) Der Umgang mit Beschwerden muss von der Leitung des sozialen Netzwerks durch monat- liche Kontrollen überwacht werden. Organisatorische Unzulänglichkeiten im Umgang mit ein- gegangenen Beschwerden müssen unverzüglich beseitigt werden. Den mit der Bearbeitung von Beschwerden beauftragten Personen müssen von der Leitung des sozialen Netzwerks re- gelmäßig, mindestens aber halbjährlich deutschsprachige Schulungs- und Betreuungsange- bote gemacht werden. (5) Die Verfahren nach Absatz 1 können durch eine von der in § 4 genannten Verwaltungsbe- hörde beauftragten Stelle überwacht werden. (6) Eine Einrichtung ist als Einrichtung der Regulierten Selbstregulierung im Sinne dieses Ge- setzes anzuerkennen, wenn 1. die Unabhängigkeit und Sachkunde ihrer Prüfer gewährleistet ist, 2. eine sachgerechte Ausstattung und zügige Prüfung innerhalb von sieben Tagen sicherge- stellt sind, 3. eine Verfahrensordnung besteht, die den Umfang und Ablauf der Prüfung sowie Vorlage- pflichten der angeschlossenen sozialen Netzwerke regelt und die Möglichkeit der Überprü- fung von Entscheidungen vorsieht, 4. eine Beschwerdestelle eingerichtet ist und 5. die Einrichtung von mehreren Anbietern sozialer Netzwerke oder Institutionen getragen wird, die eine sachgerechte Ausstattung sicherstellen. Außerdem muss sie für den Beitritt wei- terer Anbieter insbesondere sozialer Netzwerke offenstehen. 2

(7) Die Entscheidung über die Anerkennung einer Einrichtung der Regulierten Selbstregulie- rung trifft die in § 4 genannte Verwaltungsbehörde. (8) Die Anerkennung kann ganz oder teilweise widerrufen oder mit Nebenbestimmungen ver- sehen werden, wenn Voraussetzungen für die Anerkennung nachträglich entfallen sind. (9) Die Verwaltungsbehörde nach § 4 kann auch bestimmen, dass für einen Anbieter von so- zialen Netzwerken die Möglichkeit zur Übertragung von Entscheidungen nach Absatz 2 Num- mer 3 Buchstabe b für einen zeitlich befristeten Zeitraum entfällt, wenn zu erwarten ist, dass bei diesem Anbieter die Erfüllung der Pflichten des Absatzes 2 Nummer 3 durch einen An- schluss an die Regulierte Selbstregulierung nicht gewährleistet wird. 3. Überprüfung der Meldewege Anbieter sozialer Netzwerke sind laut Netzwerkdurchsetzungsgesetz (NetzDG) dazu verpflich- tet, ein Beschwerdemanagement für Meldungen rechtswidriger Inhalte für jeden Nutzer an- zubieten. Beschwerdemanagement meint ein wirksames und transparentes Verfahren für den Umgang mit Beschwerden über rechtswidrige Inhalte, das den Vorgaben des §3 Absatz 2 und 3 des NetzDG entspricht. Zusätzlich muss für jeden registrierten und nicht registrierten Nutzer ein leicht erkennbares, unmittelbar erreichbares und ständig verfügbares Verfahren zur Über- mittlung rechtwidriger Inhalte bereitstehen (vgl. §3 Absatz 1 i.V.m. Absatz 2 und 3 sowie §3 Absatz 1 Satz 2 NetzDG). Die Funktionsweisen und Meldewege der einzelnen Netzwerke sind anhand unterschiedlicher Endgeräte überprüft und dokumentiert worden und werden im Folgenden dargestellt. 3.1. Facebook Facebook stellt zwei unterschiedliche Meldewege zur Verfügung, um rechtswidrige Inhalte zu melden. Über den „Melden“-Link können Inhalte gemeldet werden, die nach Ansicht der mel- denden Person gegen die Gemeinschaftsstandards des Netzwerks verstoßen. Über das NetzDG-Meldeformular können Inhalte gemeldet werden, die gegen das Netzwerk- durchsetzungsgesetz verstoßen. Im Hilfe-Center gibt Facebook Auskunft darüber, wie miss- bräuchliches Verhalten im Sinne der Gemeinschaftsstandards gemeldet werden kann. Dabei stellt Facebook eine Anleitung zur Verfügung wie missbräuchliche Fotos, eine Gruppe mit missbräuchlichen Inhalten oder andere missbräuchliche Inhalte gemeldet werden können. 3

Facebook weist an dieser Stelle zusätzlich darauf hin, dass der Status einer abgeschlossenen Meldung per „Melden“-Link im eigenen Support-Postfach überprüft werden kann. Abbildung 1 – Facebook-Anleitung zur Meldung von Inhalten 3.1.1.        „Melden“-Link Der „Melden“-Link ist der für die Benutzer bekanntere Weg, um rechtswidrige Inhalte zu mel- den. Er ist direkt in die Website und App integriert und von den zu meldenden Inhalten aus erreichbar. Grundsätzlich können Profile anderer Nutzer, Posts und einzelne Kommentare ge- meldet werden. Voraussetzung um einen rechtswidrigen Inhalt per „Melden“-Link melden zu können ist, dass man zunächst Feedback zu dem jeweiligen Inhalt geben muss. Erst wenn man das Feedback an die Plattform abgesendet hat, lässt sich der Inhalt melden, wenn der entspre- chende „Melde-Button“ erscheint. Dies ist abhängig von den im Feedback angegebenen Infor- mationen. Angemeldeter Nutzer             Nicht angemeldeter Nutzer Device         Software Profil     Post      Kommentar  Profil        Post      Kommentar Desktop        Browser    „Melden“-Link                   Nicht möglich Hat    nicht Nicht      Nicht mög- Smartphone     Browser    „Melden“-Link funktioniert möglich lich Smartphone App            „Melden“-Link                   Nicht nutzbar Tabelle 1: Zusammenfassung „Melden“-Link (Facebook) Desktop & Browser Als nicht angemeldeter Nutzer ist das Melden eines Profils nicht möglich. Auch Posts und Kom- mentare lassen sich aufgrund der fehlenden Meldefunktion als nicht angemeldeter Nutzer per „Melden“-Link nicht melden. Als angemeldeter Nutzer lassen sich per „Melden“-Link Profile, Posts und einzelne Kommentare wie nachfolgend dargestellt melden: 4

Abbildung 2 – Meldung von Facebook-Inhalten als angemeldeter Nutzer (Desktop & Browser) Anschließend müssen folgende Schritte durchlaufen werden, um eine Meldung erfolgreich abschließen zu können: Abbildung 3 – Auswahlmöglichkeit nach Meldung (Desktop & Browser) 5

Klickt man auf „Etwas anderes“ wird man auf das folgende Fenster weitergeleitet: Abbildung 4 – Schritt nach Auswahl der Meldemöglichkeit "etwas anderes" (Desktop & Browser) Hat man das Feedback erfolgreich abgesendet, kann man nun bei den weiteren Optionen auf „Beitrag melden“ klicken: Ob dieser Button erscheint ist allerdings abhängig von den zuvor ausgewählten Angaben. Abbildung 5 – Beitrag melden Button (Desktop & Browser Hat man den Button „Beitrag melden“ auswählen können, erscheint folgendes Fenster: Abbildung 6 – Schritt nach der Meldung (Desktop & Browser) 6

Um die Meldung an Facebook übermitteln zu können, muss anschließend das Feld „Zur Über- prüfung an Facebook senden“ ausgewählt werden. Jedoch ist auch dieses Feld nicht immer wählbar und abhängig von den zuvor ausgewählten Optionen. Abbildung 7 – abschließender Schritt „zur Überprüfung an Facebook senden“ Smartphone & Browser Als nicht angemeldeter Benutzer lassen sich Posts und Kommentare über den Smartphone- browser per „Melden“-Link nicht melden. Profile lassen sich rein technisch gesehen möglich- erweise melden, der Versuch war bei der Überprüfung des Meldeweges jedoch erfolglos, da der entsprechende Button ausgegraut blieb und sich eine Meldung demnach nicht abschlie- ßen ließ, oder das Meldeformular endlos lud und sich nicht aufbaute. Als angemeldeter Nutzer erfolgt die Meldung per „Melden“-Link eines Profils, eines Beitrags oder eines Kommentars genau wie im Desktopbrowser. Smartphone & App Als nicht angemeldeter Nutzer ist die App nicht verwendbar und somit eine Meldung rechts- widrigen Inhalts nicht möglich. Als angemeldeter Nutzer lässt sich eine Meldung auf dem glei- chen Weg wie im Browser durchführen. Zunächst muss Feedback zu dem rechtswidrigen In- halt gegeben werden, ehe der Inhalt an Facebook gemeldet werden kann. 3.1.2.        NetzDG-Meldeformular Das NetzDG-Meldeformular ist speziell für Inhalte, die gemäß dem NetzDG gemeldet werden sollen. Es ist im Hilfebereich von Facebook zu finden und über einen Link im Impressum auf- rufbar. Alle Inhalte auf Facebook können über ihre jeweilige URL gemeldet werden. Steht diese bei der Meldung nicht zur Verfügung, kann man versuchen den entsprechenden Inhalt über Screenshots und eine Beschreibung zu melden. Allerdings kommt es dann gelegentlich zu ei- ner Rückmeldung des Netzwerks, dass die Meldung nicht bearbeitet werden kann, da der ge- meldete Inhalt zur Überprüfung nicht gefunden werden kann. 7