Predictive Policing Predictive Policing

BiblioMap

Diese SVG-Grafik fensterfüllend anzeigen

Synonyme

Predictive Policing, Precrime-System

Bemerkungen

Die Programme überschätzen das Risiko von Gefährderinnen. In der Praxis führen sie bei Polizisten, die sie benutzen, zu einem Tunnelblick.

Von Adrienne Fichter, Florian Wüstholz im Text Die Polizei weiss, was Sie morgen vielleicht tun werden (2020)

Das Ergebnis ist, dass wir Armut kriminalisieren, dabei aber die ganze Zeit glauben, unsere Werkzeuge seien nicht nur wissenschaftlich, sondern auch gerecht.

Von Cathy O’Neil im Buch Weapons of Math Destruction (2016) im Text Civilian Casualties

Significant claims have been made that predictive policing systems exhibit racial bias, disproportionately directing police attention on to particular ethnic groups.

Von Ben Williamson im Buch Big Data in Education (2017) im Text Conceptualizing Digital Data

In einigen Kantonen wurden jahrelang digitale Prognostikprogramme und Präventivmassnahmen im rechtsfreien Raum angewendet. Gefährderdatenbanken wurden ohne rechtliche Grundlage angelegt.

Von Adrienne Fichter, Florian Wüstholz im Text Die Polizei weiss, was Sie morgen vielleicht tun werden (2020)

Die Schweiz ist im deutschsprachigen Raum Pionierin für Predictive Policing. Immer mehr sogenannte «Gefährder» werden in Datenbanken erfasst, in der eigenen Wohnung aufgesucht und angesprochen, beobachtet, überwacht.

Von Adrienne Fichter, Florian Wüstholz im Text Die Polizei weiss, was Sie morgen vielleicht tun werden (2020)

Take, for example, the algorithm-generated ‘heat maps’ used in Chicago, Illinois, to identify people who are most likely to be involved in a shooting. A study published last month indicates that such maps are ineffective: they increase the likelihood that certain people will be targeted by the police, but do not reduce crime.

Von Kate Crawford, Ryan Calo im Text There is a blind spot in AI research (2016)

Es gibt keine öffentliche Debatte über Predictive-Policing-Programme und auch keine Regulierungen. Nur wenige wurden von unabhängiger Seite evaluiert. Für viele Polizeibeamtinnen ist nicht nachvollziehbar, wie die Programme funktionieren. Die Algorithmen sind Geschäftsgeheimnis der Anbieter, und die Daten liegen teilweise auf Servern im Ausland.

Von Adrienne Fichter, Florian Wüstholz im Text Die Polizei weiss, was Sie morgen vielleicht tun werden (2020)

Precobs wird in einigen Städten in Bayern, Baden-Württemberg und der Schweiz eingesetzt beziehungsweise getestet, um Einbruchsdelikte zu verhindern. Dabei stützt sich die Software auf eine starke theoretische Grundlage: Diverse Wissenschaftler haben bereits nachgewiesen, dass auf eine Tat häufig weitere Taten in kurzen zeitlichen und räumlichen Abständen folgen, sogenannte Near Repeats. Nach solchen Mustern sucht Precobs und schlägt automatisch Alarm, wenn aus einer Ecke der Stadt mehrere Einbrüche gemeldet werden.

Von Andrea Trinkwalder in der Zeitschrift Neuronale Denkfehler (2018) im Text Irren ist künstlich auf Seite 132

Der Strafrechtsexperte und Datenschutzaktivist Hanni Fakhoury von der Electronic Data Foundation sagt auf Anfrage: «Eines der Probleme von Predictive Policing ist, dass letztlich jeder Algorithmus, der auf menschlichen Daten basiert, in das System eingespeist wird. Wenn Polizeiarbeit auf stereotypen oder gar rassistischen Profilen gründet, wird der Algorithmus einfach dieselben Ergebnisse ausspucken.» Fakhoury hält die Software für noch nicht ausgereift. «Im Moment gibt es noch zu viel Unsicherheit und fehlendes Wissen darüber, wie diese Entscheidungen getroffen werden.»

Von Adrian Lobe im Text Per Mausklick zum Tatort (2014)

Methodisch ist die Vorgehensweise insofern problematisch, als Muster, die in der Vergangenheit nicht auftraten, in der Zukunft schwerlich vorausgesagt werden können. Wenn es keinerlei Regelmässigkeiten über Verbrechen gibt, die sich zu einem Muster zusammenpuzzeln lassen, können auch keine Vorhersagen getroffen werden. Überall dort, wo ein Täter nicht gezielt vorgeht, wo er impulsiv agiert (wie etwa bei Kapitalverbrechen) oder im Affekt handelt, läuft die Methode folglich ins Leere. Kriminalität ist kein blosses Rechenspiel, sondern ein komplexes Konstrukt aus Intentionen, Motivationen und äusseren Umständen. Insofern kann Predictive Policing nur ein Ergänzungswerkzeug der Ermittler sein.

Von Adrian Lobe im Text Per Mausklick zum Tatort (2014)

Im Sommer machte in den USA ein weiterer Fall Schlagzeilen: An der Tür von Robert McDaniel klingelte die Polizei. Der junge Mann, ein Highschool- Abbrecher, wohnte in einem Problemviertel von Chicago, war aber nicht polizeibekannt. Die Polizeibeamtin sagte ihm brüsk: «Wenn du irgendein Verbrechen begehst, wird das ernsthafte Konsequenzen haben. Wir beobachten dich!» McDaniel war verdutzt. Was er nicht wusste: Er landete auf der Heat List – einem Index von 400 Personen, die am wahrscheinlichsten ein Verbrechen begehen. McDaniel hatte das Pech, dass er im «falschen» Viertel lebte. Die Eigenschaften «Schulabbrecher» und «kriminelles Umfeld» machten aus ihm einen potenziellen Täter.

Von Adrian Lobe im Text Per Mausklick zum Tatort (2014)

Schon 2011 hatte die Polizei von Los Angeles die Operation LASER gestartet, um gewalttätige Wiederholungstäter und Gangmitglieder »mit laserartiger Präzision« ins Visier zu nehmen. Man malte sich aus, Polizisten würden so präzise wie hochqualifizierte Chirurgen arbeiten können, die mittels Lasertechnologie Tumoren entfernen. Abermals wurden Menschen auf eine Liste gesetzt, und irgendwie kam es, dass 89 Prozent von ihnen nicht weiß waren, was darauf schließen ließ, dass die Software die ethnischen Vorurteile weißer Amerikaner widerspiegelte. Acht Jahre nach der Einführung von LASER veröffentlichte das Los Angeles Police Department einen eigenen niederschmetternden Bericht über die Unzuverlässigkeit der »laserartigen« Risikobewertungen und unzureichend ausgebildetes Bedienungspersonal. Das Programm wurde beendet.

Von Gerd Gigerenzer im Buch Klick (2021) im Text Transparenz

2012 führte die Chicagoer Polizei Software ein, um zu bestimmen, wer wahrscheinlich Verursacher oder Opfer von Straftaten werden würde. Die Software bewertete die Menschen, indem sie eine Unzahl von Faktoren wie beispielsweise das Strafregister berücksichtigte. Das Motto lautete: »Wir wissen, wer sie sind.« Durch dieses Wissen landeten binnen weniger Jahre rund 400 000 Personen mitsamt ihrer Risikobewertung auf einer Liste. Diese wurde weder einer unabhängigen Prüfung noch einer Erfolgskontrolle unterzogen. Acht Jahre später beerdigte die Chicagoer Polizei das Programm in aller Stille, nachdem Forscher von der RAND Corporation in einem Bericht zu einem vernichtenden Urteil gekommen waren: Es gebe keinen Beleg dafür, dass das Programm die Gewaltdelikte eingeschränkt hätte. Stattdessen lösten die undurchsichtigen inneren Prozesse der Software ein hohes Maß an Furcht und Misstrauen in der Öffentlichkeit aus.

Von Gerd Gigerenzer im Buch Klick (2021) im Text Transparenz

Warum gelingt es Predictive Policing nicht, seine Versprechen einzulösen? Eine typische Antwort lautet, es seien mehr Daten erforderlich. Tatsächlich sind für die Vorhersage von Straftaten ebenso viele Informationen verfügbar wie für die Vorhersage von Rückfallquoten oder Grippeerkrankungen. Die Antwort betrifft vielmehr die Ungewissheit, mit der das kriminelle Verhalten von Menschen behaftet ist. Wer ein Verbrechen begeht und wo er es verübt, wird von zu vielen Faktoren bestimmt, und es ist nicht möglich, diese Faktoren anhand früherer Fälle zu identifizieren und künftiges Verhalten vorherzusagen. Die Daten könnten »schmutzig« sein, kontaminiert von ethnischen oder anderen Bias, die zu falschen Risikobewertungen und negativen Auswirkungen auf die Betroffenen führen. Die Fälle von Chicago und Los Angeles hatten den positiven Aspekt, dass Journalisten, zivilgesellschaftliche Organisationen und letztlich öffentliche Gremien in gemeinsamer Anstrengung den Abbruch dieses kommerziellen, pseudowissenschaftlichen Projekts erzwangen. In Hamburg wurde es sogar fallengelassen, bevor es je begonnen hatte.

Von Gerd Gigerenzer im Buch Klick (2021) im Text Transparenz