Deutscher Bundestag                                                                         Drucksache   19/6078 19. Wahlperiode                                                                                            28.11.2018 Vorabfassung - wird durch die lektorierte Version ersetzt. Antwort der Bundesregierung auf die Kleine Anfrage der Abgeordneten Dr. Petra Sitte, Simone Barrientos, Anke Domscheit-Berg, weiterer Abgeordneter und der Fraktion DIE LINKE. – Drucksache 19/5740 – „Zukunftsdialog Soziale Netzwerke“ des Bundesministeriums der Justiz und für Verbraucherschutz Vorbemerkung der Fragesteller Das Bundesministerium der Justiz und für Verbraucherschutz (BMJV) hat in diesem Jahr einen „Zukunftsdialog Soziale Netzwerke“ gestartet, dessen Auftakt- sitzung am 28. September 2018 stattgefunden hat. Laut einer auf der Webseite des BMJV veröffentlichten Einladungserinnerung (www.bmjv.de/SharedDocs/ Newsletter/Event/DE/2018-07-26-Zukunftsdialog-Soziale-Netzwerke- Erinnerung.html) soll es dabei um Umsetzung, Auswirkung und mögliche Fort- entwicklungen des Netzwerkdurchsetzungsgesetzes (NetzDG), unter anderem mit Hinblick auf die darin vorgesehene regulierte Selbstregulierung, sowie Stra- tegien und Engagement gegen Hate Speech im Internet gehen. 1.   Welche weiteren Sitzungen und Veranstaltungen haben im Rahmen des „Zu- kunftsdialogs Soziale Netzwerke“ stattgefunden oder sind geplant, wann, und mit welchen Themen? Der Zukunftsdialog Soziale Netzwerke stellt ein neues Gesprächsformat dar, das dem Austausch mit den beteiligten Kreisen zum Netzwerkdurchsetzungsgesetz zum Inhalt hat, aber auch weitere Themen der zivilgesellschaftlichen Debatte rund um das Thema „Hate Speech“ in den sozialen Netzwerken aufnimmt. Die konkreten Einzelthemen sind noch nicht festgelegt. Seit der Auftaktveranstaltung am 28. September 2018 haben bisher keine weite- ren Sitzungen oder Veranstaltungen des Zukunftsdialoges Soziale Netzwerke stattgefunden. Weitere Veranstaltungen sind für das Jahr 2019 in Planung. 2.   Mit welchen weiteren Themen, die nicht in der Einladungserinnerung oder der Antwort zu Frage 1 aufgeführt werden, soll sich der Zukunftsdialog be- fassen? Siehe Antwort zu Frage 1. Die Antwort wurde namens der Bundesregierung mit Schreiben des Bundesministeriums der Justiz und für Verbraucher- schutz vom 26. November 2018 übermittelt. Die Drucksache enthält zusätzlich – in kleinerer Schrifttype – den Fragetext.

Drucksache 19/6078                                      –2–                  Deutscher Bundestag – 19. Wahlperiode Vorabfassung - wird durch die lektorierte Version ersetzt. 3.   Wer wurde zur Auftaktsitzung und ggf. weiteren seitdem stattgefundenen Sitzungen des Zukunftsdialogs eingeladen, und wer nahm daran teil? 4.   Welche in der Antwort zu Frage 2 nicht aufgeführten Akteure bzw. Einzel- personen sollen zukünftig in den Zukunftsdialog mit einbezogen werden? Die Fragen 3 und 4 werden wegen des Sachzusammenhangs gemeinsam beant- wortet. Zur Auftaktveranstaltung des Zukunftsdialoges wurden Vertreter und Vertrete- rinnen aus folgenden Organisationen, Instituten, Unternehmen, Ressorts und Ex- perten eingeladen: Amnesty International Deutschland e. V. Bitkom e. V. Eco – Verband der Internetwirtschaft e. V. Fearless Democracy e. V. Freiwillige Selbstkontrolle Multimedia-Diensteanbieter e. V. Gesicht Zeigen! Für ein weltoffenes Deutschland e. V. Lehrstuhl für Öffentliches Recht, insbesondere Verwaltungsrecht, Humboldt- Universität zu Berlin Neue deutsche Medienmacher e. V. Institut für Geistiges Eigentum, Wettbewerbs- und Medienrecht – Technische Universität Dresden Jugendschutz.net Campact e. V. Ichbinhier e. V. Facebook Germany GmbH Twitter Google Germany GmbH Amadeu Antonio Stiftung Bundesministerium für Wirtschaft und Energie Bundesministerium des Innern, für Bau und Heimat Bundesamt für Justiz Bundesministerium für Familie, Senioren, Frauen und Jugend Staatsanwaltschaft Köln, Zentral- und Ansprechstelle Cybercrime Nordrhein- Westfalen Landesvertretung Rheinland-Pfalz Bundesministerium der Justiz und für Verbraucherschutz Die Beauftragte der Bundesregierung für Kultur und Medien Spiegel Online Lehrstuhl Prof. Dr. Gerald Spindler, Georg-August-Universität Göttingen No Hate Speech Movement Deutschland

Deutscher Bundestag – 19. Wahlperiode                   –3–                                 Drucksache 19/6078 Vorabfassung - wird durch die lektorierte Version ersetzt. Abgesehen von den drei zuletzt Genannten haben alle Eingeladenen an der Auf- taktsitzung teilgenommen. Von einer weiteren Expertin, die zu der Sitzung ein- geladen wurde, aber nicht teilgenommen hat, konnte innerhalb der Frist zur Be- antwortung der Kleinen Anfrage keine Zustimmung zur namentlichen Nennung erlangt werden. Das Bundesministerium der Justiz und für Verbraucherschutz wird den Teilneh- merkreis an der Themensetzung der jeweiligen Veranstaltung ausrichten. 5.   Welche Ansätze zur Fortentwicklung des NetzDG verfolgt, prüft oder erwägt das BMJV derzeit? Es handelt sich um einen noch nicht abgeschlossenen internen Prüfungs- und Ent- scheidungsprozess des Bundesministeriums der Justiz und für Verbraucher- schutz. 6.   Welche weiteren Ansätze zur Fortentwicklung des NetzDG werden im Rah- men des Zukunftsdialogs diskutiert? Siehe Antwort zu Frage 1. 7.   Welche Strategien gegen Hate Speech werden im Rahmen des Zukunftsdia- logs diskutiert? Im Sinne einer pluralistischen Zusammensetzung werden im Zukunftsdialog So- ziale Netzwerke unterschiedliche Strategien gegen Hate Speech diskutiert. 8.   Welche „Maßnahmen zur Stärkung der Rechte von Nutzerinnen und Nutzern im Falle versehentlicher, unberechtigter Löschung von Inhalten“ werden im Rahmen des Zukunftsdialogs diskutiert? Das Thema Stärkung von Nutzerrechten konnte in der Auftaktveranstaltung aus zeitlichen Gründen nur kurz angerissen werden. Eine weitere Diskussion im Rah- men einer späteren Veranstaltung des Zukunftsdialoges ist beabsichtigt. 9.   Welche Erwägungen liegen der Feststellung in der Einladungserinnerung zu- grunde, die „Compliance sozialer Netzwerke im Bereich automatisierter Löschentscheidungen“ sei „weiterzuentwickeln“? 10.   Auf die Compliance mit welchen Regelwerken bezieht sich das BMJV in der in Frage 9 zitierten Feststellung, und welche Compliancedefizite sieht sie im Einzelnen (bitte nach Regelwerk und Netzwerk aufschlüsseln)? Die Fragen 9 und 10 werden aufgrund des Sachzusammenhangs gemeinsam be- antwortet. In der jüngsten Vergangenheit wurde von verschiedenen Seiten über technische Fortschritte beim automatisierten oder technikgestützten Erkennen von bestimm- ten unzulässigen Inhalten berichtet. Dies gilt etwa für die berichtete Möglichkeit, dass Netzwerke – jedenfalls für bestimmte Inhaltekategorien – in größerem Um- fang über das (reaktive) „notice and take-down“-Prinzip hinausgehen und proak- tiv automatisiert bestimmte Inhalte aufspüren und entfernen könnten. Im Zusam- menhang mit entsprechend automatisch erkannten Inhalten können sich rechtli- che Fragestellungen ergeben.

Drucksache 19/6078                                                     –4–                           Deutscher Bundestag – 19. Wahlperiode Vorabfassung - wird durch die lektorierte Version ersetzt. Der gesetzlich nicht definierte Begriff der Compliance wurde in dem Einladungs- schreiben untechnisch verwendet. Nach der ebenfalls mitversandten Agenda sollte es bei dem TOP um die Darstellung aus Sicht der sozialen Netzwerke gehen sowie um eine Eröffnung der Diskussion. Eine Feststellung konkreter Defizite war mit der Themenankündigung nicht verbunden. 11.    In welcher Form werden die Beiträge, Diskussionsstände und Ergebnisse des Zukunftsdialogs öffentlich gemacht? Der Zukunftsdialog Soziale Netzwerke befindet sich derzeit im Stadium des in- ternen Meinungsaustauschs, bei dem eine offene Aussprache gewünscht ist. Dies setzt eine vertrauliche Behandlung der Meinungsäußerungen voraus. Satz: Satzweiss.com Print, Web, Software GmbH, Mainzer Straße 116, 66121 Saarbrücken, www.satzweiss.com Druck: Printsystem GmbH, Schafwäsche 1-3, 71296 Heimsheim, www.printsystem.de Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln, Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.betrifft-gesetze.de ISSN 0722-8333