BERLIN | Mehr als ein Dutzend Fachstellen, darunter auch der RAV, kritisieren die Pläne der Bundesregierung, KI-Systeme wie PimEyes und Palantir für die Polizeiarbeit zu erlauben, weil damit erhebliche verfassungs- und menschenrechtliche Gefahren verbunden sind. Die zivilgesellschaftlichen Organisationen haben dem Bundesinnen- und dem Bundesjustizministerium am Mittwoch eine umfassende Stellungnahme übersandt. Laut der namhaften Jurist*innen und Datenschützer*innen fehlen in den Gesetzentwürfen zentrale rechtsstaatliche Elemente – vom Richtervorbehalt über effektiven Rechtsschutz bis zur menschlichen Überprüfung der automatisierten Analysen.
“Alle Videos, Fotos und andere biometrische Daten im Netz zu durchsuchen, nur um einige wenige Personen zu finden, die nicht einmal einer Straftat verdächtig sein müssen, ist ein unverhältnismäßiger Eingriff in das Recht auf Privatsphäre”, erklärt RAV-Geschäftsführer und Rechtsanwalt Lukas Theune. Der Strafverteidiger warnt zudem: “Mit dieser KI können Profile unzähliger Menschen erstellt werden. Recherchen zum Einsatz von KI in Behörden zeigen, dass ohnehin marginalisierte Gruppen dadurch besonders diskriminiert werden.”
„Mit biometrischen Massenabgleichen und umfassenden Datenanalysen mittels Künstlicher Intelligenz würde die Bundesregierung eine rote Linie überschreiten: Sie schafft die Infrastruktur zur flächendeckenden Überwachung ihrer eigenen Bevölkerung – und gefährdet damit Grundrechte, die sie eigentlich schützen muss”, kritisiert Lena Rohrbach, Fachreferentin für Menschenrechte im digitalen Zeitalter bei Amnesty International. Weil kaum absehbar ist, was „Datenspuren“ hinterlassen kann, die die KI verdächtig findet, führt das Vorhaben auch zu sogenannten „Chilling Effects“. Das heißt, es kann Menschen einschüchtern und davon abhalten, ihre Rechte wahrzunehmen, etwa an Versammlungen teilzunehmen oder eine Anzeige aufzugeben”, so die Expertin weiter.
Hintergrund des aktuellen Gesetzentwurfs ist, dass die Regelungen zur automatisierten Datenanalyse, die bis dato in Hessen und Hamburg galten, vom Bundesverfassungsgericht 2023 bereits für verfassungswidrig erklärt wurden (Urteil des Ersten Senats vom 16. Februar 2023, 1 BvR 1547/19 & 1 BvR 2634/20 – Automatisierte Datenanalyse). Die vorherige Bundesregierung hatte sich nicht einigen können.
Unterzeichnet haben die angehängte Stellungnahme folgende Organisationen: Algorithm Watch, Amnesty International, Chaos Computer Club, D64, Digitale Gesellschaft, Humanistische Union, LOAD e.V., Komitee für Grundrechte und Demokratie, Neue Richter*innenvereinigung, Pro Asyl, Republikanischer Anwältinnen- und Anwälteverein, Seebrücke, Vereinigung demokratischer Jurist*innen.
Diese Pressemitteilung und die gemeinsame Stellungnahme finden Sie auf der Webseite des RAV.