SDRUC00000821020410510
Dieses Dokument ist Teil der Anfrage „Berichte des Monitorings der Beschwerdeverfahren sozialer Netzwerke nach § 3 Abs. 5 NetzDG“
Überwachungder Beschwerdeverfahren sozialer Netzwerke nach §3 Netz-DG BERICHT ZUM 2. TESTZYKLUS VOM 01. 07. 2019 - 31. 12. 2019
INHALTSVERZEICHNIS l. PROJEKTZIELUNDVORGABEN ........................................................................................4 2. NETZDG...........................................................................................................................5 3. ÜBERPRÜFUNGDER MELDEWEGE ..................................................................................7 3. 1. FACEBOOK ......................................................................................................................................... 7 3. 1. 1. "Metöen^/nfc......................................................................................................................... S Desktop &Browser............................................................................................................................................... 8 Smartphone&Browser....................................................................................................................................... 11 Smartphone& App............................................................................................................................................. 11 3. 1. 2. NetzDG-Meldeformular.......................................................................................................... 11 Desktop &Browser............................................................................................................................... ;............. 13 Smartphone& Browser....................................................................................................................................... 15 Smartphone& App.............................................................................................................................................. 17 3. 1. 3. Besondere Beobachtungen..................................................................................................... 20 3. 2. INSTAGRAM....................................................................................................................................... 20 3. 2. 1. "Metöen^mfe........................................................................................................................ 20 Desktop &Browser............................................................................................................................................. 20 Smartphone&Browser....................................................................................................................................... 22 Smartphone& App............................................................................................................................................. 23 3. 2. 2. NetzDG-Meldeformular.......................................................................................................... 24 Desktop&Browser............................................................................................................................................. 25 Smartphone&Browser....................................................................................................................................... 25 Smartphone&App............................................................................................................................................. 26 3. 2. 3. CommunityGuidelines-Formular............................................................................................ 27 Desktop &Browser..................................................................................................... -.................... -.............. 28 Smartphone SiBrowser....................................................................................................................................... 30 Smartphone& App............................................................................................................................................. 30 3. 2. 4. Besondere Beobachtungen...................................................................................................... 31 Rückmeldungen.................................................................................................................................................. 31 Meldestörungen................................................................................................................................................. 32 3. 3. TWITTER............................................................................................................................................ 33 3. 3. 1. ,, Melden"-Unk............................................................ "...... ""......................................,......... 33 Desktop & Browser............................................................................................................................................. 34 Smartphone&Browser........................................................................................................................................ 34 . SmartphoneSiApp.............................................................................................................................................. 34 3. 3. 2. /VeteDG-Me/afe/ormu/or.......................................................................................................... 35 Desktop &Browser............................................................................................................................................. 38 Smartphone&Browser....................................................................................................................................... 39 SmartphoneSiApp............................................................................................................................................. 40 3. 3. 3. Besondere Beobachtungen........................"...,....................................................................... 44 ÄnderungderSichtbarkeitvon Inhalten ............................................................................................................. 45 3. 4. YouTuBE ......................................................................................................................................... 45 3. 4. 1. "Me/cten^mfr........................................................................................................................ 45 Desktop&Browser............................................................................................................................................. 46 Smartphone&Browser.......................................;....................................................................... -.....................47 SmartphoneSi App............................................................................................................................................. 50 3. 4. 2. NetzDG-Meldeformular.......................................................................................................... 50 DesktopSiBrowser.................:........................................................................................................................... 50 Smartphone&Browser........................................................................................................... ;...........................51 2
Smartphone& App............................................................................................................................................. 53 3. 4. 3. Besondere Beobachtungen................................................................................................. 54 Rückmeldungen.................................................................................................................................................. 55 Berechtigungsfeedback..................,.........................:.......................................................................................... 56 Änderungen der Sichtbarkeit von Inhalten .......................................................................................................... 57 Meldestörungen................................................................................................................................................. 58 4. MONITORINGDERMELDUNGEN .................................................................................60 4. 1. MONITORINGPROZESS ........................................................................................................................ 60 4. 2. STATISTISCHE AUSWERTUNG.................................................................................................................. 64 4. 2..!. Focaboo^............................................................................................................................... 65 4. 2. 2. /nstogrom.............................................................................................................................. 68 4. 2. 3. Tw/ter................................................................................................................................... 72 4. 2. 4. YouTube.............................................................................................................................. 75 4. 2. 5. Zuscfmmen/ossung........................................................................... i..................................... 78 5. FAZIT................................................................................................... ""."""............... 83 6. STATISTIKVERZEICHNIS...............................................................................................85 7. DIAGRAMMVERZEICHNIS.............................................................................................86 8. TABELLENVERZEICHNIS.................................................................................................87 9. ABBILDUNGSVERZEICHNIS............................................................................................88
l. Projektziel und Vorgaben Die im Sinne des §3 Abs. 5 NetzDG beauftragte Stelle überwacht die Funktionalität der Meldewege und den Umgang sozialer Netzwerke mit Beschwerden über rechtswidrige Inhalte. Diese Überwachung soll in Form eines Monitorings durch Beobachtung und systematische Erfassungdes Umgangssozialer Netzwerke mit dort eingereichten Beschwerdenerfolgen. Die ausgewählten sozialen Netzwerke sind dabei gezielt auf rechtswidrige Inhalte hin zu durchsuchen. Festgestellte Verstöße gegen das NetzDG sind dem sozialen Netzwerk zu melden und die daraufhin erfolgte Reaktion der Netzwerke ist zu überprüfen. Bieten Netzwerke mehrere Beschwerdewege an, so ist die Überwachung der verschiedenen Meldewege mittels unterschiedlicher Endgeräte und unter Verwendung unterschiedlicher Software durchzuführen. Diese Überwachungsoll in halbjährlichenTestzyklen erfolgen. Nachjedem Testzyklus wird ein Bericht über die Erkenntnisse des vergangenen Testzyklus verfasst. Die Fokussierung während dieses ersten Testzyklus, der sich über den Zeitraum vom 01.07.2019 bis 31. 12. 2019 erstreckt, lag auf den Netzwerken Facebook, Instagram, Twitter und YouTube. Gemeldet werden sollten Verstöße gegen Paragrafen, welche drei verschiedenen Deliktsgruppen zugeordnet werden können. l. Verbreiten von Propagandamitteln und das Verwenden von Kennzeichen verfassungswidrigerOrganisationen(§86 StGB, §86a StGB) 2. Volksverhetzung, Gewaltdarstellung, Belohnung und Billigung von Straftaten (§130 StGB, §131StGB, §140StGB) 3. Beleidigungsdelikte(§185StGB, §186StGB, §187StGB)
2. NetzDG Gesetz zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken (Netzwerkdurchsetzungsgesetz - NetzDG) - §3 Umgang mit Beschwerden über rechtswidrige Inhalte: (l) Der Anbieter eines sozialen Netzwerks muss ein wirksames und transparentes Verfahren nach Absatz 2 und 3 für den Umgang mit Beschwerden über rechtswidrige Inhalte vorhalten. Der Anbieter muss Nutzern ein leicht erkennbares, unmittelbar erreichbares und ständig verfügbares Verfahren zur Übermittlung von Beschwerden über rechtswidrige Inhalte zurVerfügungstellen (2) DasVerfahren muss gewährleisten,dass der Anbieter des sozialen Netzwerks l. unverzüglichvon der Beschwere Kenntnis nimmt und prüft, ob der in der Beschwere gemeldete Inhalt rechtswidrig und zu entfernen oder der Zugang zu ihm zu sperren ist, 2. einen offensichtlich rechtswidrigen Inhalt innerhalb von 24 Stunden nach Eingang der Beschwerde entfernt oder den Zugangzu ihm sperrt; dies gilt nicht, wenn das soziale Netzwerk mit der zuständigen Strafverfolgungsbehörde einen längeren Zeitraum für die Löschung oder Sperrung des offensichtlich rechtswidrigen Inhalts vereinbart hat, 3. jeden rechtswidrigen Inhalt unverzüglich, in der Regel innerhalb von sieben Tagen nach Eingang der Beschwerde entfernt oder den Zugang zu ihm sperrt; die Frist von sieben Tagen kann überschritten werden, wenn a) die Entscheidung über.die Rechtswidrigkeit des Inhalts von der Unwahrheit einer Tatsachenbehauptung oder erkennbar von anderen tatsächlichen Umständen abhängt; das soziale Netzwerk kann in diesen Fällen dem Nutzer vor der Entscheidung Gelegenheit zur Stellungnahme zu der Beschwerde geben, b) das sozialeNefzwerk die Entscheidung über'die Rechtswidrigkeit innerhalb von sieben Tagen nach Eingang der Beschwerde einer nach den Absätzen 6 bis 8 anerkannten Einrichtung der Regulierten Selbstregulierung überträgt und sich deren Entscheidungunterwirft, 4. im Falle der Entfernung den Inhalt zu Beweiszwecken sichert und zu diesem Zweck für die Dauer von zehn Wochen innerhalb des Geltungsbereichs der Richtlinien 2000/31/EG und 2010/13/EU speichert, 5. den Beschwerdeführer und den Nutzer über jede Entscheidung unverzüglich informiert und seine Entscheidungihnen gegenüberbegründet. (3) DasVerfahren muss vorsehen, dassjede Beschwerde und die zu ihrerAbhilfe getroffene Maßnahme innerhalb des Geltungsbereichs der Richtlinien 2000/31/EG und 2010/13/EU dokumentiert wird.
(4) Der Umgang mit Beschwerden muss von der Leitung des sozialen Netzwerks durch monatliche Kontrollen überwacht werden. Organisatorische Unzulänglichkeiten im Umgang miteingegangenenBeschwerdenmüssenunverzüglichbeseitigtwerden. Den mit der Bearbeitung von Beschwerden beauftragten Personen müssen von der Leitung des sozialen Netzwerks regelmäßig, mindestens aber halbjährlich deutschsprachige Schulungs-und Betreuungsangebotegemachtwerden. (5) Die Verfahren nach Absatz l können durch eine von der in § 4 genannten Verwaltungsbehördebeauftragten Stelle überwachtwerden. (6) Eine Einrichtung ist als Einrichtung der Regulierten Selbstregulierung im Sinne dieses Gesetzes anzuerkennen, wenn l. die Unabhängigkeit und Sachkunde ihrer Prüfer gewährleistet ist, 2. eine sachgerechte Ausstattung und zügige Prüfung innerhalb von sieben Tagen sichergestellt sind, 3. eine Verfahrensordnung besteht, die den Umfang und Ablauf der Prüfung sowie Vorlagepflichten der angeschlossenen sozialen Netzwerke regelt und die Möglichkeit der Überprüfungvon Entscheidungenvorsieht, 4. eine Beschwerdestelle eingerichtet ist und 5. die Einrichtung von mehreren Anbietern sozialer Netzwerke oder Institutionen getragen wird, die einesachgerechte Ausstattung sicherstellen. Außerdem muss sie für den Beitritt weiterer Anbieter insbesondere sozialer Netzwerke offenstehen. (7) Die Entscheidung über die Anerkennung einer Einrichtung der Regulierten Selbstregulierungtrifft die in § 4 genannte Verwaltungsbehörde. (8) Die Anerkennung kann ganz oder teilweise widerrufen oder mit Nebenbestimmungen versehen werden, wenn Voraussetzungen für die Anerkennung nachträglich entfallen sind. (9) Die Verwaltungsbehörde nach § 4 kann auch bestimmen, dass für einen Anbieter von sozialen Netzwerken die Möglichkeitzur Übertragungvon EntscheidungennachAbsatz 2 Nummer 3 Buchstabe b für einen zeitlich befristeten Zeitraum entfällt, wenn zu erwarten ist, dass bei diesem Anbieter die Erfüllungder Pflichten des Absatzes 2 Nummer 3 durch einen Anschluss an die Regulierte Selbstregulierung nicht gewährleistetwird.
3. Überprüfung der Meldewege Anbieter sozialer Netzwerke sind laut Netzwerkdurchsetzungsgesetz (NetzDG) dazu verpflichtet, ein Beschwerdemanagement für Meldungen rechtswidriger Inhalte für jeden Nutzer anzubieten. Beschwerdemanagement meint ein wirksames und transparentes Verfahren für den Umgang mit Beschwerden über rechtswidrige Inhalte, das den Vorgaben des §3Absatz2 und 3 des NetzDGentspricht. Zusätzlichmussfürjeden registrierten und nicht registrierten Nutzerein leicht erkennbares, unmittelbar erreichbares und ständigverfügbares Verfahrenzur ÜbermittlungrechtwidrigerInhalte bereitstehen (vgl. §3 Absatz l i.V. m. Absatz 2 und 3 sowie §3 Absatz l Satz 2 NetzDG). Die Funktionsweisen und Meldewege der einzelnen Netzwerke sind anhand unterschiedlicher Endgeräte überprüft und dokumentiert worden und werden im Folgenden dargestellt. 3. 1. Facebook Facebookstellt zwei unterschiedliche MeldewegezurVerfügung, um rechtswidrigeInhaltezu melden. Überden "Melden"-Link können Inhalte gemeldet werden, die nach Ansicht der meldenden Person gegen die Gemeinschaftsstandards des Netzwerks verstoßen. Über das NetzDG-Meldeformular können Inhalte gemeldet werden, die gegen das Netzwerkdurchsetzungsgesetz verstoßen. Im Hilfe-Center gibt Facebook Auskunft darüber, wie missbräuchlichesVerhaltenim SinnederGemeinschaftsstandardsgemeldetwerden kann. Dabei stellt Facebook eine Anleitung zur Verfügung wie missbräuchliche Fotos, eine Gruppe mit missbräuchlichen Inhalten oder andere missbräuchliche Inhalte gemeldet werden können. Facebookweist an dieserStelle zusätzlichdaraufhin, dass der Status einer abgeschlossenen Meldung per "Melden"-Link im eigenen Support-Postfach überprüft werden kann. ^;yu ;*'^^s^s?; Abbildung l - Facebook-Anleitung zur Meldung von Inhalten
3. 1. 1. , Melden"-Link Der "Melden"-Link ist der für die Benutzer bekanntere Weg, um rechtswidrige Inhalte zu melden. Er ist direkt in die Website und App integriert und von den zu meldenden Inhalten aus erreichbar. Grundsätzlich können Profile anderer Nutzer, Posts und einzelne Kommentare gemeldet werden. Voraussetzungum einen rechtswidrigen Inhalt per "Melden"-Linkmelden zu können ist, dass man zunächstFeedbackzu dem jeweiligen Inhaltgibt. Erst wenn man das Feedback an die Plattform abgesendet hat, lässt sich der Inhalt melden, wenn der entsprechende "Melde-Button" erscheint. Dies ist abhängig von den im Feedback angegebenen Informationen. Links können auf Facebook allerdings nicht per "Melden"-Link gemeldet werden, da kein entsprechender Meldebutton hierfür vorhanden ist. So ist es nicht möglich über diesen MeldewegLinkszu melden, die beispielsweiseaufrechtsradikale MusikinYouTubeverweisen. Facebook Videos können hingegen zwar gemeldet werden, jedoch scheint der Meldeweg hierfür instabil zu sein und der Meldevorgang kann öfters nicht abgeschlossen werden. Angemeldeter Nutzer Nicht angemeldeter Nutzer Device Software Profil Post Kommentar Profil Post Kommentar Desktop Browser "Melden"-Link Nicht möglich Hat nicht Nicht Nicht Smartphone Browser "Melden"-Link funktioniert möglich möglich Smartphone App "Melden"-Link Nicht nutzbar Tabelle l - Zusammenfassung"Melden"-Link(Facebook) Desktop & Browser Als nicht angemeldeter Nutzer ist das Melden eines Profils nicht möglich. Auch Posts und Kommentare lassen sich aufgrund der fehlenden Meldefunktion als nicht angemeldeter Nutzer per "Melden"-Linknicht melden. Als angemeldeter Nutzer lassen sich per "Melden"- Link Profile, Posts und einzelne Kommentare wie nachfolgend dargestellt melden: 8
rf aa »wW IPfl»t!ft8 XinwxaiWB^i 6as«aS«d}fe*<te?^ -^ £rtr; K;0fflmertt3ii', Abbildung2 - Meldungvon Facebook-lnhältenalsangemeldeterNutzer(Desktop& Browser) Anschließend müssen folgende Schritte durchlaufen werden, um eine Meldung erfolgreich abschließen zu können: GibFetdbackzu diesemBeitrag M!"tteineTi föeriß^E:?'WR.jcften. -fflf7.il Wfs^hefl, «asn:d>!i.]OKn!ir'i«. KuMieit Gmrii BeUslW"« Sufzid oder selhsivertetzun^ Faisdvnddimg ; Spsm Unzulässige\ter<aute tefröfisfnus ^ Etwas anderes . ^i;c . :->;j. - . w;i::j"- . t-/:-i'erCt<'';^hf e .' ^. '. ri/^?1' n/^.;f:riiW-<itf"'.A-1, "... :?(; 'dii . Abbildung3 -Auswahlmöglichkeitenfür Feedback(Desktop & Browser) Klickt man auf"Etwasanderes"wird man aufdasfolgende Fensterweitergeleitet:
(, Betrug VsiungjifTyhjngvon Opfern Bifflyiiig lünöesmissbrauch Tiennissbrauch " MactafteitodersexuelleAkBtftEät Abbildung 4 - Schritt nach Auswahl des Feedbacks "etwas anderes" (Desktop & Browser) Hat man das Feedbackerfolgreich abgesendet, kann man nun bei den weiteren Optionen auf "Beitrag melden" klicken. Ob dieser Button erscheint ist allerdings abhängig von den zuvor ausgewählten Angaben. Danke, dass du uns das rrwtteilst. Vour f»sdt>»ck twlps our aysfm lawn.wiian iBämtfrifng tan't righ*. tt you thjnk »DmatMne gtMts ag^nM our Comn-unlty StandanäspEaaffiaal&a t»Kn Ihn timc to Was du sonst noch tun Kai ^*. btocktwn &. oder konttAtnraft. Abbildung5 - Beitragmelden Button (Desktop & Browser) Hat man den Button "Beitrag melden" auswählen können, erscheint folgendes Fenster: wur un» au wmtohitn, w.*« paMWrtlat Hilfunszuwstehtn, waspasslenis! WN»lut mit f«MWnF<»tt>ntchi tn OntnungT B» untfrtlt Hacictdiirewflunncnoder Wasisttos? F&'wenIstdiesesFttoteschtond? Üiett i»l »bi Foto w>n nur o ., Esisinifvlgoderuninleressml nimllt», dw toh nicht .ui I m&cWn Fiirnich dcht FürEsePerson,dieichkenne EssolltemeinerMtlnungnachnichtauf a-htc.if X-T -v ^<!> ,. F5reineanderePemn FaceboAseln tffWfW»i'W «n, »t&fwwfw)v.f nlch* EshandeltstehumSpam .. -Das l<t «h» F^aichmckliiHg SWMMV^W»* Iwä, Abbildung 6 - Schritt nach der Meldung (Desktop & Browser) Um die Meldung an Facebook übermitteln zu können, muss anschließend das Feld "Zur Überprüfung an Facebook senden" ausgewählt werden. Jedoch ist auch dieses Feld nicht immer wählbarund abhängigvon den zuvor ausgewähltenOptionen. 10
