Hochschwangere Frau festgenommen, Digitalcourage fordert Schutz vor fehleranfälliger „KI“

Künstliche Intelligenz (KI): Wer sie programmiert bestimmt welche Ethik diese verfolgen. Wenn Politiker verantwortlich sind für die Programmierung dann... (Symbolbild)

Bild: Eigenes Werk /OTT

Medienberichten zufolge ist in den USA erneut eine unschuldige Person aufgrund des Einsatzes von sogenannter „künstlicher Intelligenz“ festgenommen worden. [1][2] Digitalcourage fordert daher ein konsequentes Verbot biometrischer Überwachung im öffentlichen Raum. Verhandlungen für das entsprechende „KI-Gesetz“ sind gerade auf der Zielgeraden. Dies berichtet der Verein "Digitalcourage" in seiner Pressemitteilung.

Weiter heißt es darin: "Dieses Mal traf die fehleranfällige „KI“-Überwachung eine hochschwangere Frau aus Detroit, die durch ein von der Polizei verwendetes System zur Auswertung von Beweismitteln mit automatisierter Gesichtserkennung unschuldig verdächtigt wurde.

„Der Einsatz von biometrischer Überwachung ist eine Gefahr für alle rechtschaffenen Bürger.innen. Hier hat eine „KI“ eine hochschwangere Frau einer Straftat verdächtigt, die sie offensichtlich nichts begangen hatte. So etwas könnte jede.n treffen.“ – Konstantin Macher von Digitalcourage e.V.

Insbesondere Menschen, deren Aussehen nicht einem weißen und männlichen Bild entspricht, werden regelmäßig falsch erkannt und zu Unrecht verdächtigt. So auch in diesem Fall. Sogenannte „künstliche Intelligenz“ ist vereinfacht gesagt ein statistisches Modell, welches basierend auf vielen Daten Wahrscheinlichkeitsvorhersagen macht. „KI“-Systeme werden häufig als rassistisch bezeichnet, weil die Trainingsdaten von „KI“ fast immer durch gesellschaftliche Ungleichheiten verzerrt sind und so diskriminierende Stereotype reproduzieren.

Aktuell laufen Verhandlungen für eine europaweite Regelung von „KI“ und biometrischer Überwachung. Digitalcourage engagiert sich seit Jahren für ein Gesetz zum Schutz der Bevölkerung vor automatisierter Gesichtserkennung. Das sogenannte „KI-Gesetz“ (AI Act) der Europäischen Union befindet sich gerade auf der Zielgerade.
Die Ampelkoalition hat im Koalitionsvertrag versprochen, sich für ein Verbot biometrischer Massenüberwachung ohne Ausnahmen zu engagieren. Im Januar hatte Digitalcourage aber nachgewiesen, dass sich die deutsche Bundesregierung bei den Verhandlungen für Ausnahmen stark macht und so den Koalitionsvertrag gebrochen hat. Die Ampel möchte genau diese Form der zeitlich nachgelagerten Gesichtserkennung erlauben, durch die in diesem Fall die hochschwangere Frau unschuldig festgenommen wurde.

„Jetzt sollte sich auch bei der Ampel endlich die Erkenntnis durchsetzen, dass der Einsatz von Gesichtserkennung im öffentlichen Raum eine Gefahr für Leib und Leben ist. Wir appellieren an die Bundesregierung, sich jetzt endlich – wie im Koalitionsvertrag versprochen – für den Schutz von Demokratie und Menschenrechten einzusetzen. Das bedeutet ein konsequentes Verbot von biometrischer Überwachung ohne Wenn und Aber!“ – Konstantin Macher von Digitalcourage e.V.

Weiterführende Links:

[1] https://www.heise.de/news/Gesichtserkennung-fehlgeschlagen-Hochschwangere-faelschlicherweise-festgenommen-9236436.html
[2] https://www.nytimes.com/2023/08/06/business/facial-recognition-false-arrest.html
[3] https://digitalcourage.de/blog/2023/biometrie-ampel-bricht-koalitionsvertrag

Quelle: Digitalcourage e.V.