HTTP 200 OK
Allow: GET, PUT, PATCH, HEAD, OPTIONS
Content-Type: application/json
Vary: Accept
{
"resource_uri": "https://fragdenstaat.de/api/v1/document/198034/",
"id": 198034,
"site_url": "https://fragdenstaat.de/dokumente/198034-kunstliche-intelligenz-im-geschaftsbereich-der-bundesregierung-nachfrage-zur-antwort-der-bundesregierung-auf-die-kleine-anfrage-auf-bundestagsdrucksache-20430/",
"title": "Künstliche Intelligenz im Geschäftsbereich der Bundesregierung\n(Nachfrage zur Antwort der Bundesregierung auf die Kleine Anfrage auf Bundestagsdrucksache 20/430)",
"slug": "kunstliche-intelligenz-im-geschaftsbereich-der-bundesregierung-nachfrage-zur-antwort-der-bundesregierung-auf-die-kleine-anfrage-auf-bundestagsdrucksache-20430",
"description": "",
"published_at": "2022-07-07T00:00:00+02:00",
"num_pages": 8,
"public": true,
"listed": true,
"allow_annotation": true,
"pending": false,
"file_url": "https://media.frag-den-staat.de/files/docs/fd/16/6d/fd166d2850a541979c3440c1c9309f31/ef67a173dd1706a7ca7d158219df55986ede98c1.pdf",
"file_size": 248847,
"cover_image": "https://media.frag-den-staat.de/files/docs/fd/16/6d/fd166d2850a541979c3440c1c9309f31/page-p1-small.png",
"page_template": "https://media.frag-den-staat.de/files/docs/fd/16/6d/fd166d2850a541979c3440c1c9309f31/page-p{page}-{size}.png",
"outline": "",
"properties": {
"url": "https://dserver.bundestag.de/btd/20/026/2002693.pdf",
"title": "Drucksache 20/2693",
"author": "Deutscher Bundestag",
"_tables": [],
"creator": "AH XSL Formatter V6.5 MR3 for Linux64 : 6.5.6.31956 (2018/02/02 12:52JST)",
"subject": "Kleine Anfrage der Abgeordneten Anke Domscheit-Berg, Dr. Petra Sitte, Nicole Gohlke, Gökay Akbulut, Clara Bünger, Dr. André Hahn, Ina Latendorf, Cornelia Möhring, Petra Pau, Sören Pellmann, Martina Renner, Kathrin Vogler und der Fraktion DIE LINKE.",
"producer": "Antenna House PDF Output Library 6.5.1216 (Linux64)",
"publisher": "Deutscher Bundestag",
"reference": "20/2693",
"foreign_id": null,
"_format_webp": true,
"publisher_url": "https://dip.bundestag.de/"
},
"uid": "fd166d28-50a5-4197-9c34-40c1c9309f31",
"data": {
"category": null,
"publisher": "de",
"document_type": "minor_interpellation",
"legislative_term": "20"
},
"pages_uri": "/api/v1/page/?document=198034",
"original": null,
"foirequest": null,
"publicbody": null,
"last_modified_at": "2022-09-21 17:11:32.234351+00:00",
"pages": [
{
"document": "https://fragdenstaat.de/api/v1/document/198034/",
"number": 1,
"content": "Deutscher Bundestag Drucksache 20/2693 20. Wahlperiode 07.07.2022 Vorabfassung - wird durch die lektorierte Version ersetzt. Kleine Anfrage der Abgeordneten Anke Domscheit-Berg, Dr. Petra Sitte, Nicole Gohlke, Gökay Akbulut, Clara Bünger, Dr. André Hahn, Ina Latendorf, Cornelia Möhring, Petra Pau, Sören Pellmann, Martina Renner, Kathrin Vogler und der Fraktion DIE LINKE. Künstliche Intelligenz im Geschäftsbereich der Bundesregierung (Nachfrage zur Antwort der Bundesregierung auf die Kleine Anfrage auf Bundestagsdrucksache 20/430) Am 14. Januar 2022 hat die Bundesregierung die Kleine Anfrage der Fraktion DIE LINKE. zum Themenkomplex „Künstliche Intelligenz im Geschäftsbe- reich der Bundesregierung“ (Bundestagesdrucksache 20/317) beantwortet (Bundestagesdrucksache 20/430). Aus diesen Antworten ergeben sich für die Fragestellenden folgende Nachfragen und neue Fragen. Insbesondere zur Risi- koklassifizierung von KI-Systemen durch Behörden bleiben aufgrund lücken- hafter und thematisch unpassender Antworten Unklarheiten. Wir fragen die Bundesregierung: 1. Wie lautet die Begründung dafür, dass die Bundesregierung, wie in der Vorbemerkung der Antwort erläutert, eine trennscharfe Abgrenzung der Vorhaben und die Ermittlung der erfragten Angaben nicht vollumfänglich ermöglichen kann? 2. Zählt die Bundesregierung jedes software-basierte, automatisierte System, das einen Einfluss aufgrundrechte, Gesundheit oder Sicherheit Einzelner oder von Gesellschaften haben kann, zum betrachteten Anwendungsbe- reich? 3. Wie erläutert die Bundesregierung ihre Antwort auf die Fragen 1 bis 1d) der o. g. Kleinen Anfrage, in der sie sich auf „Anwendungsfälle, in denen KI gezielt und explizit für automatisierte Entscheidungen oder Musterer- kennungen eingesetzt wird“ bezieht? a) Sind der Bundesregierung Anwendungsfälle bekannt, in denen KI nicht gezielt eingesetzt wird (falls ja, welche)? b) Sind der Bundesregierung Anwendungsfälle bekannt, in denen KI nicht explizit eingesetzt wird (falls ja, welche)? c) Sind der Bundesregierung Anwendungsfälle bekannt, in denen KI nicht für automatisierte Entscheidungen oder Mustererkennungen eingesetzt wird? Für welche Zwecke wird sie in diesen Fällen sonst eingesetzt? 4. Wie wurden die Entscheiderinnen und Entscheider geschult, um die in der Antwort genannten Systeme auswählen und bewerten zu können (Antwort",
"width": 2481,
"height": 3508,
"image": "https://media.frag-den-staat.de/files/docs/fd/16/6d/fd166d2850a541979c3440c1c9309f31/page-p1-{size}.png"
},
{
"document": "https://fragdenstaat.de/api/v1/document/198034/",
"number": 2,
"content": "Drucksache 20/2693 –2– Deutscher Bundestag – 20. Wahlperiode Vorabfassung - wird durch die lektorierte Version ersetzt. bitte tabellarisch je Anwendung aufführen, wie in Bundestagesdrucksa- che 20/430)? 5. Wie wurden die Nutzerinnen und Nutzer geschult, um die in der Antwort genannten Systeme anwenden zu können (Antwort bitte tabellarisch je An- wendung aufführen, wie in Bundestagesdrucksache 20/430)? 6. Welche Kompetenzen plant die Bundesregierung jeweils für Entscheiden- de und Nutzende aufzubauen, wann und wie soll der Aufbau dieser Kom- petenzen erfolgen? 7. Wie und in welchen Anwendungen finden Evaluierungen der in der Ant- wort genannten Algorithmen-basierten Entscheidungen, automatisierten Mustererkennungen und künstlichen Intelligenz (KI) statt und beschäftigen sich die Bundesministerien (inkl. Bundeskanzleramt und nachgeordneten Behörden) wissenschaftlich mit dem Einsatz der Evaluation (bitte tabella- risch aufschlüsseln nach Ministerien und nachgelagerten Behörden, wie in Bundestagesdrucksache 20/430)? 8. Falls ja, welche Studien (bitte tabellarisch aufschlüsseln nach Autor*in- nen, Veröffentlichungsjahr, Titel der Studie, Institution und Auftraggeber) wurden von der Bundesregierung (inkl. nachgeordneter Behörden) zu die- ser Thematik (v. a. Auswahl, Bewertung und Evaluation algorithmischer Systeme unter besonderer Berücksichtigung von Einsätzen im öffentlichen Dienst) in Auftrag gegeben und/ oder mitfinanziert oder sollen zukünftig in Auftrag gegeben werden? 9. Wie erklärt die Bundesregierung ihre Antwort auf die Fragen 2 bis 2b), dass in fast keinem Fall ein Risikoklassenmodell zur Anwendung kam? 10. Warum haben weder die Bundesregierung noch ihr nachgeordnete Ministe- rien bzw. Behörden die Empfehlungen der Datenethik-Kommission, der Enquete-Kommission KI des Bundestages noch der Plattform Lernende Systeme zur Entwicklung und Anwendung eines Risikoklassenmodells oder anderer Kritikalitätsbewertungen berücksichtigt? 11. In welcher Form plant die Bundesregierung zukünftig, ein Risikoklassen- modell für die Bewertung algorithmischer Systeme zu entwickeln und/ oder anzuwenden? 12. Orientiert sich die Bundesregierung bei der Entwicklung und Anwendung eines Risikoklassenmodells für die Bewertung algorithmischer Systeme am Entwurf der KI-Verordnung der Europäischen Kommission oder plant die Bundesregierung, über diese Vorschläge hinaus zu gehen? Falls ja, in welchem Umfang und bis wann wird ein solches Risikoklassen- modell für den Geschäftsbereich der Bundesregierung zur Verfügung ste- hen? 13. Wie erklärt und wie bewertet die Bundesregierung, dass in der Antwort auf die Fragen 2 bis 2b) deutlich wird, dass den Antwortenden sowohl die De- finition also auch die Bedeutung eines Risikoklassenmodells für KI- Anwendungen offensichtlich nicht bekannt war? 14. Wie begründet die Bundesregierung die Entscheidung, dass die gesamte Antwort auf die Kleine Anfrage zunächst der VS-NfD-Einstufung unterlag und nur aufgrund Rückfragen seitens der fragestellenden Fraktion gekürzt veröffentlicht werden konnte? 15. Wie oft hat die Bundesregierung die zuständigen parlamentarischen Gre- mien über KI-Anwendungen der Sicherheitsbehörden bereits unterrichtet (bitte aufschlüsseln nach kontaktierten Gremien und Häufigkeit seit 2017)?",
"width": 2481,
"height": 3508,
"image": "https://media.frag-den-staat.de/files/docs/fd/16/6d/fd166d2850a541979c3440c1c9309f31/page-p2-{size}.png"
},
{
"document": "https://fragdenstaat.de/api/v1/document/198034/",
"number": 3,
"content": "Deutscher Bundestag – 20. Wahlperiode –3– Drucksache 20/2693 Vorabfassung - wird durch die lektorierte Version ersetzt. 16. Welche weiteren Anwendungen der teil- oder voll-automatisierten Ent- scheidungsprozesse und Mustererkennungen mit und ohne Methoden der Künstlichen Intelligenz sind der Bundesregierung bekannt, die in der (Teil-)Verantwortung oder im Einsatzgebiet ausschließlich der Bundeslän- der, einiger Länder oder eines Landes liegen (bitte aufschlüsseln nach An- wendung, zuständiges Ministerium oder nachgelagerte Behörde und Land)? 17. Welche Bund-Länder-Gremien gibt es, in denen sich Bund und Länder über die Planung, den Einsatz, die Evaluierung und mögliche Risiken, Fehler oder Optimierungsbedarfe beim Einsatz von KI-Anwendungen ab- stimmen? 18. Bis wann und mit welchen Formen der zivilgesellschaftlichen Beteiligung plant die Bundesregierung die KI-Strategie des Bundes weiterzuentwi- ckeln oder fortzuschreiben und welche Rolle wird dabei die vom BMBF geförderte „NAIBTF – National AI Breakthrough Task Force“ der Univer- sität Tübingen spielen? 19. Zur eingesetzten Anwendung lfd. Nr. 10 Bilderkennung in der General- zolldirektion (siehe Bundestagesdrucksache 20/430, Anlage 1): a) Für welche Zwecke soll die genannte Bilderkennung eingesetzt wer- den? b) Welche Bilder sollen zu den in Frage 18a) genannten Zwecken den Zollbeamt:innen zugänglich gemacht werden? c) Welcher Art von Entscheidung soll die Empfehlung dienen? d) Wann ist mit der Fertigstellung und wann der Einsatz dieser Anwen- dung geplant? e) Wird vor dem Einsatz noch eine Risikobewertung stattfinden und wenn ja, nach welchem Modell (bitte auch für die Anwendungen in Frage 19 bis 23 beantworten)? 20. Was ist der jeweilige Einsatzzweck der Anwendung lfd. Nr. 48 Musterer- kennung und lfd. Nr. 51 Modellierung beim Thünen-Institut (siehe Bun- destagesdrucksache 20/430, Anlage 1), welche Muster sollen wofür er- kannt werden und welche Modelle sollen wofür modelliert werden? 21. Welche Systeme von welchen Herstellern kommen zum Einsatz bei den eingesetzten Anwendungen lfd. Nr. 57 „zivile Anwendungen zur Unter- stützung und Beratung des medizinischen Personals der Bundeswehr in Analytik, Diagnostik, Therapie“ (siehe Bundestagesdrucksache 20/430, Anlage 1)? a) Welche Risikoklassenmodelle wurden jeweils angewendet? b) Ist dem BMVg für die lfd. Nr. 57 die jeweilige Datenbasis der ver- schiedenen Hersteller bekannt (falls nicht, bitte begründen)? 22. Welche Chat-Bots sind bei den Anwendungen lfd. Nr. 66 „Entwicklung von Chat-Bots, sowie Formular- und Voicebots“ (siehe Bundestagesdruck- sache 20/430, Anlage 1) konkret bereits im Einsatz, und zu welchem ge- nauen Zweck (bitte möglichst detaillierte Beschreibung, gern auch Links zu Chat-Bots, sofern extern nutzbar)? a) In welchen Sprachen werden die jeweiligen Chat-Bots bereitgestellt? b) Wurden und/oder werden die Chat-Bots evaluiert? Wenn ja, durch wen, wann und mit jeweils welchem Ergebnis bei be- reits abgeschlossenen Evaluationen?",
"width": 2481,
"height": 3508,
"image": "https://media.frag-den-staat.de/files/docs/fd/16/6d/fd166d2850a541979c3440c1c9309f31/page-p3-{size}.png"
},
{
"document": "https://fragdenstaat.de/api/v1/document/198034/",
"number": 4,
"content": "Drucksache 20/2693 –4– Deutscher Bundestag – 20. Wahlperiode Vorabfassung - wird durch die lektorierte Version ersetzt. c) Welchen Stellen wurden die Evaluationen zugänglich gemacht? d) Wie werden die bisherigen Evaluationsergebnisse für zukünftige Ent- wicklungen berücksichtigt? e) Welche Formular- und Voicebots sind konkret in Entwicklung und für welchen konkreten Zweck sollen sie von wem eingesetzt werden (bitte möglichst detaillierte Beschreibung)? f) Für den Fall, dass derartige Formular-Bots für die Nutzung durch Bür- ger:innen vorgesehen sind, die mögliche Rechtsansprüche von Bür- ger:innen berühren: Inwiefern sollen Vertreter:innen der Zivilgesell- schaft im Entwicklungsprozess und darüber hinaus einbezogen werden und sollen Organisationen sowie Initiativen einen Zugang zu den Algo- rithmen bekommen und unabhängig überprüfen können, ob die Interes- sen der Bürger:innen angemessen gewahrt werden? 23. Welche Systeme sind bei den Anwendungen aus lfd. Nr. 67 „Entwicklung softwarebasierter Detektionsalgorithmen zum Einsatz bei der Kontrolle von Passagieren und Gepäck gemäß Luftsicherheitsausrüstungsverord- nung“ (siehe Bundestagesdrucksache 20/430, Anlage 1) genau gemeint und welchem konkreten Zweck dienen sie (Identifikation gefährlicher Stoffe und/oder verdächtiger Personen)? a) Welche Daten fließen ein in eine Bewertung als potentiell gefährliche:r Passagier:in/ gefährliches Gepäck? b) Welche Risiken flossen in die risikobasierten Prüfmethoden ein? c) Orientieren sich die risikobasierten Prüfmethoden an einem Risikoklas- senmodell (Wenn ja, an welchem)? d) Wie begründet die Bundesregierung den Umstand, dass die Datenbasis für die Anwendung unbekannt ist und welche Schlussfolgerungen zieht die Bundesregierung hieraus für die Zuverlässigkeit des Systems? 24. Werden bei der Anwendung ldf. Nr. 68 des BAMF (siehe Bundestagesd- rucksache 20/430, Anlage 1) auch ausgelesene Handy-Daten Geflüchteter ausgewertet oder fließen tatsächlich ausschließlich Anhörungsprotokolle als Datenbasis ein (wenn ja, welche Daten werden ausgelesen und wie)? a) Werden auch Audio-Aufzeichnungen von Anhörungen von algorithmi- schen Systemen ausgewertet und wenn ja, nach welchen Kriterien be- wertet der Algorithmus, ob bestimmte Inhalte sicherheitsrelevante In- formationen enthalten? b) Wie häufig wurden in den letzten 12 Monaten aufgrund von Hinweisen des angewendeten algorithmischen Systems sicherheitsrelevante Infor- mationen an den Verfassungsschutz, das BKA, den BND oder andere mit Sicherheitsaufgaben befassten Behörden weitergeleitet? c) Welche Stelle ist bei dieser Anwendung für das Feedback des „über- wachten Maschinenlernens“ zuständig (z. B. das BAMF oder eine ex- terne Stelle)? d) Wurde eine Evaluation durchgeführt oder ist eine solche geplant, um mögliche Bias/Fehlinterpretationen der algorithmischen Systeme zu entdecken, zu korrigieren und ihre Folgen zu bewerten?",
"width": 2481,
"height": 3508,
"image": "https://media.frag-den-staat.de/files/docs/fd/16/6d/fd166d2850a541979c3440c1c9309f31/page-p4-{size}.png"
},
{
"document": "https://fragdenstaat.de/api/v1/document/198034/",
"number": 5,
"content": "Deutscher Bundestag – 20. Wahlperiode –5– Drucksache 20/2693 Vorabfassung - wird durch die lektorierte Version ersetzt. e) Wie soll mit Anwendungen im Geschäftsbereich des BAMF verfahren werden, die jetzt schon pilotiert oder eingesetzt werden, wenn sie nach in Kraft treten des AI Act der EU als Hochrisiko-Anwendung gelten? Berlin, den 30. Juni 2022 Amira Mohamed Ali, Dr. Dietmar Bartsch und Fraktion",
"width": 2481,
"height": 3508,
"image": "https://media.frag-den-staat.de/files/docs/fd/16/6d/fd166d2850a541979c3440c1c9309f31/page-p5-{size}.png"
},
{
"document": "https://fragdenstaat.de/api/v1/document/198034/",
"number": 6,
"content": "Vorabfassung - wird durch die lektorierte Version ersetzt.",
"width": 2481,
"height": 3508,
"image": "https://media.frag-den-staat.de/files/docs/fd/16/6d/fd166d2850a541979c3440c1c9309f31/page-p6-{size}.png"
},
{
"document": "https://fragdenstaat.de/api/v1/document/198034/",
"number": 7,
"content": "Vorabfassung - wird durch die lektorierte Version ersetzt.",
"width": 2481,
"height": 3508,
"image": "https://media.frag-den-staat.de/files/docs/fd/16/6d/fd166d2850a541979c3440c1c9309f31/page-p7-{size}.png"
},
{
"document": "https://fragdenstaat.de/api/v1/document/198034/",
"number": 8,
"content": "Vorabfassung - wird durch die lektorierte Version ersetzt. Gesamtherstellung: H. Heenemann GmbH & Co. KG, Buch- und Offsetdruckerei, Bessemerstraße 83–91, 12103 Berlin, www.heenemann-druck.de Vertrieb: Bundesanzeiger Verlag GmbH, Postfach 10 05 34, 50445 Köln, Telefon (02 21) 97 66 83 40, Fax (02 21) 97 66 83 44, www.betrifft-gesetze.de ISSN 0722-8333",
"width": 2481,
"height": 3508,
"image": "https://media.frag-den-staat.de/files/docs/fd/16/6d/fd166d2850a541979c3440c1c9309f31/page-p8-{size}.png"
}
]
}
