Wie die Bundesregierung KI in der Strafverfolgung einschränken kann
Das Bundesamt für Haushalt und Verwaltung hat Beschränkungen für den Einsatz von künstlicher Intelligenz durch Bundesbehörden, einschließlich der Strafverfolgung, vorgeschlagen. Allerdings gibt es Mängel in der vorgeschlagenen Leitlinie, wie zum Beispiel die Möglichkeit für leitende Beamte, Ausnahmen zu beantragen, die die Strafverfolgung behindern könnten. Wissenschaftler haben die Schäden erlebt, die durch den unverantwortlichen Einsatz KI-gesteuerter Technologien durch die Strafverfolgung entstehen, einschließlich Fehlverhaftungen und polizeilichen Beschlagnahmungen. Die vorgeschlagene Leitlinie legt Kriterien für KI-Technologien fest, die die Sicherheit oder das Wohlergehen der Menschen gefährden könnten, aber es sollten stärkere Maßnahmen ergriffen werden, um Schlupflöcher zu verhindern.
Schäden durch den Einsatz von KI in der Strafverfolgung
Der Einsatz neuartiger KI-Technologien durch die Strafverfolgung hat zu Fehlverhaftungen und polizeilichen Beschlagnahmungen geführt und unschuldige Personen geschädigt. Die Gesichtserkennungstechnologie hat mehrere Personen falsch identifiziert, was zu Verhaftungen geführt hat. Diese Fehler treten oft aufgrund fehlender Transparenz, fehlender Zustimmung der Gemeinschaft und unzureichender Schulung in Strafverfolgungsbehörden auf.
Eine Studie aus dem Jahr 2018 ergab, dass kommerzielle Gesichtsanalyseprogramme Vorurteile bei Hauttyp und Geschlecht aufweisen, wobei dunklere Haut zu mehr Fehlern führt. Der Einsatz solcher Technologien wirft Fragen der Fairness und Voreingenommenheit auf. Die Strafverfolgung muss die Konsequenzen berücksichtigen und sicherstellen, dass die Datensätze, die diese Technologien antreiben, keine Fehler oder rassistischen Vorurteile enthalten.
Die vorgeschlagene Leitlinie des Bundesamtes für Haushalt und Verwaltung umfasst verschiedene Technologien der Strafverfolgung, darunter Gesichtserkennung, Kennzeichenerkennung, prädiktive Polizeiarbeit und Überwachung sozialer Medien. Sie betont Transparenz, Bewertung der Kosten und Vorteile sowie die Verringerung von Risiken für Einzelpersonen, insbesondere in benachteiligten Gemeinschaften. Es sind jedoch strengere Maßnahmen erforderlich, um die Einhaltung zu gewährleisten und Diskriminierung bei der Nutzung dieser Technologien zu verhindern.
Schlupflöcher in der vorgeschlagenen Leitlinie
Obwohl die vorgeschlagene Leitlinie lobenswert ist, lässt sie Spielraum für Schlupflöcher, die ihren beabsichtigten Zweck untergraben könnten. Die Möglichkeit für leitende Beamte, Ausnahmen aufgrund von Behinderungen der Strafverfolgungsmaßnahmen zu beantragen, ist bedenklich. Für jede Ausnahme sollte klarer Nachweis erforderlich sein und es sollte eine strenge Überprüfung erfolgen, um Missbrauch dieser Regelung zu verhindern.
Die vage Ausnahme für “nationale Sicherheit” ist ein weiteres Problem, da sie bequem herangezogen werden kann, um rechtlichen Schutz und Kontrolle zu umgehen. Eine präzisere Definition ist erforderlich, um sicherzustellen, dass die Ausnahme nur bei Vorliegen eines gültigen Grundes verwendet wird. Darüber hinaus gilt die vorgeschlagene Leitlinie nur für Bundesbehörden und lässt staatliche und lokale Behörden außer Acht, die ebenfalls neuartige Technologien nutzen. Bundesmittel sollten genutzt werden, um die Einhaltung auf allen Ebenen der Strafverfolgung zu fördern.
Um die potenziellen Schäden von KI in der Strafverfolgung wirklich anzugehen, müssen strengere Standards und Maßnahmen eingeführt werden, begleitet von einer sorgfältigen Überwachung und Durchsetzung. Der in der vorgeschlagenen Leitlinie angestrebte Fortschritt darf nicht durch Schlupflöcher und fehlende Einhaltung auf verschiedenen Regierungsebenen untergraben werden.
Fazit
Die vorgeschlagene Leitlinie des Bundesamtes für Haushalt und Verwaltung zum Einsatz von KI in der Strafverfolgung ist ein Schritt in die richtige Richtung, aber sie reicht nicht aus, um Rechenschaftspflicht zu gewährleisten und Diskriminierung zu verhindern. Es sollten stärkere Maßnahmen umgesetzt werden, einschließlich einer strengeren Überprüfung von Ausnahmen, einer klareren Definition von Ausnahmen für nationale Sicherheit und einer Erweiterung der Leitlinien auf staatliche und lokale Behörden. Indem der Bund höhere Standards setzt, kann die Regierung den verantwortungsvollen und ethischen Einsatz von KI-Technologien vorantreiben.
Joy Buolamwini und Barry Friedman, beide Experten für algorithmische Gerechtigkeit und Recht, betonen die Bedeutung der Verhinderung des Missbrauchs von KI in der Strafverfolgung. Sie treten für strengere Maßnahmen ein und weisen auf die potenziellen Folgen für benachteiligte Gemeinschaften hin, wenn diese Technologien weiterhin ohne angemessene Sicherheitsvorkehrungen eingesetzt werden. Es ist wichtig, dass das Bundesamt für Haushalt und Verwaltung bei der endgültigen Festlegung der Leitlinie die Rechenschaftspflicht und Einhaltung priorisiert.
