Le maintien de l'ordre prédictif est beaucoup plus répandu qu'on ne le pensait

Savoir comment se protéger contre les violations de données en ligne est devenu une connaissance de plus en plus cruciale pour participer à la vie en ligne: nous (espérons-le) changeons nos mots de passe et vérifions diligemment la case de vérification en deux parties. Mais un nouveau rapport a révélé que, dans toutes les villes du pays, le simple fait d'appeler la police contribue à un réseau Web de données plus vaste et plus insidieux que ce que nous n'avions jamais réalisé auparavant.

Des dizaines de villes aux États-Unis ont conclu des contrats non confirmés avec PredPol, une entreprise de technologie «prédictive de la criminalité» qui a comparé son logiciel à une stratégie de police «fenêtres brisées». Les communautés touchées, notamment Atlanta, Palo Alto, Californie et Tacoma, Etat de Washington, abritent collectivement plus d'un million d'habitants, selon des documents obtenus par le point de vente. Carte mère suite à une série de demandes en vertu de la loi sur la liberté de l’information.

La police prédictive utilise les données recueillies par les services de police pour tenter de prédire quand et où des crimes sont commis volonté se produire. Si cette tactique ressemble à un voeu pieux, eh bien, oui, elle l'est, du moins essentiellement. Une grande partie de la police prédictive découle de la stratégie de police «à fenêtres brisées», qui a commencé à prendre de l’importance dans les années 1980. La théorie criminologique maintenant largement critiquée affirme que les signes de criminalité, de désordre et de comportement antisocial - comme, littéralement, des vitres brisées - créent un environnement urbain propice plus loin le désordre et le crime, à un degré plus grave. La solution consistait à lutter contre la petite délinquance, dans le but de contrecarrer le futur crime grave. Au lieu de cela, ce qui s'est passé, c'est un contrôle excessif des communautés minoritaires.

Comment la prévalence de la police prédictive a été sous-déclarée

Les partisans de la police prédictive soutiennent cependant que les données sont des données. Ce sont des chiffres. C’est infaillible. Mais bien sûr, A.I. est toujours construit par des humains, qui imprègnent systématiquement leurs systèmes apparemment objectifs de préjugés raciaux. Le maintien de l'ordre prédictif n'est pas différent. Dès 2016, les défenseurs des droits civils, y compris l'ACLU, ont fait part de leurs préoccupations concernant l'utilisation croissante des logiciels de surveillance prédictive, affirmant que ceux-ci conduisent à une surveillance excessive des communautés pauvres et minoritaires.

«Les systèmes conçus pour soutenir le statu quo n’ont pas leur place dans la police américaine», lit-on dans une déclaration signée par 17 organisations de défense des droits civiques, notamment l’ACLU et la NAACP. «Les données générant des activités d’application prédictive, telles que l’emplacement et la chronologie des crimes précédemment signalés, ou les tendances des appels 911 lancés par la communauté et les agents - sont profondément limitées et biaisées.»

L'une des principales plaintes de la police prédictive est qu'elle repose exclusivement sur les crimes signalés. Cela ne peut pas - ça ne peut pas - tenir compte de l’environnement social réel d’une communauté. En outre, la police prédictive «ne prédit» que le crime de rue. Le logiciel ne suit pas la criminalité en col blanc. Les agents du FBI ne sont pas obligés de stationner des agents du FBI au coin de Wall Street pour traquer les individus qui ont l’air affamé de commettre des délits d’initiés.

PredPol, basé à Santa Cruz, en Californie, affirme disposer d'un algorithme permettant de prédire la criminalité dans des zones de 500 pieds par 500 pieds. Dans certains cas, disent-ils, ils peuvent même localiser des coins ou des maisons spécifiques. En utilisant "le Big Data et l'IA", la société promet également de "prédire où et quand des événements indésirables sont susceptibles de se produire: crimes, collisions, surdoses - nous faisons tout", selon leur bio Twitter.

Selon les documents de Motherboard, PredPol a conclu - et dans un certain nombre de cas, il détient toujours - des dizaines de contrats précédemment non signalés avec des villes du pays. Le manque de transparence est imputable à la position de PredPol en tant que fournisseur. Nombre de leurs fichiers sont techniquement connus du public; Mais les communautés, en particulier celles qui sont victimes de contrôles excessifs, ne savent pas où chercher.