Microsoft va Precrime avec une application qui prédit la récidive

Au cours d'une diffusion Web avec les services de police au début de l'année, un programmeur principal de Microsoft a laissé entendre que la société était en train de développer une application capable de prédire si un détenu serait de nouveau emprisonné six mois après sa libération.

«Il s’agit d’un logiciel capable de prédire l’avenir», a déclaré le programmeur Jeff King.

L’application encore non nommée s’exécute en analysant l’histoire du détenu en utilisant - quoi d’autre? - un algorithme complexe, qui, selon King, est précis à 91%. Quelques exemples de facteurs qui, selon King, seraient pris en compte: appartenance à un gang, participation à un programme de réadaptation, infractions commises pendant le temps restant à passer, et heures passées en isolement préventif. En fait, ce n’est pas si loin des facteurs pris en compte par les commissions des libérations conditionnelles lorsqu’elles prennent la décision de libérer ou non des détenus.

Celles-ci semblent être des prédicteurs raisonnables jusqu’à ce que vous considériez que les détenus évalués n’ont peut-être pas beaucoup de choix quant à la façon dont ils ont passé leur incarcération. Comme L'économiste note, les gangs de prison n’étaient même plus un objet jusqu’à la seconde moitié du 20e siècle, lorsque la population incarcérée a explosé et que la vie derrière les barreaux est devenue un homme tellement dangereux que les gardiens n’étaient plus un moyen de protection. En ce qui concerne la réadaptation, au cours des dix dernières années, les États à court d'argent ont réduit considérablement le financement de ces programmes par des centaines de millions. En 2011, la Californie a notamment amputé 250 millions de dollars des programmes de traitement de la toxicomanie, de la formation professionnelle et de l'éducation. C’est en partie à cause du taux de délinquants qui ont suivi un programme de réadaptation beaucoup plus faible qu’il ya 20 ans. Imposer aux détenus la responsabilité de prouver leur capacité d'adaptation à la prison, tout en en faisant le pardon pour des politiques plus susceptibles d'accroître la récidive, est au mieux révélateur de la moitié de l'histoire.

Vient ensuite la question de savoir ce que nous faisons avec le logiciel Microsoft. Rapport minoritaire -Nombre de chiffres. Un ex-détenu aurait-il plus de services sociaux pour l'empêcher de récidiver? Les commissions de libération conditionnelle prendraient-elles en compte l’opinion de l’algorithme? Un faible score serait-il utilisé pour justifier des peines d'emprisonnement plus longues? Qu'en est-il de la justification de la peine obligatoire, une politique qui historiquement a fait beaucoup plus de mal que de bien.

Quand il a brisé les plans prédictifs de Microsoft sur La fusion Daniel Rivero a écrit que le discours de King était «pratiquement passé inaperçu», avec une centaine de visionnements du discours de YouTube. (Bon oeil, Daniel.) Peut-être est-ce passé sous silence parce que ce n’est plus aussi surprenant. Les algorithmes de prévision du crime et les arguments sur leurs nuances et leurs implications morales sont de plus en plus courants. La société japonaise Hitachi compte une demi-douzaine de villes américaines impliquées dans un test de validation d'un système qui, selon la société, peut aider à prévoir les crimes en comparant les statistiques historiques sur la criminalité, les cartes de transport en commun, les bulletins météo et même les médias sociaux. En ce qui concerne les technologies de pointe, Chicago gère une «liste chauffante» de délinquants potentiels qui se rendent au hasard des visites de la police, indépendamment de ce qu’ils ont fait. Et Los Angeles envisage un lecteur automatisé pour numériser la plaque d'immatriculation de toute voiture conduisant simplement près une zone fréquentée par les prostituées et l’envoi d’une lettre «Cher John» au nom figurant sur l’immatriculation du véhicule. De plus en plus, la meilleure prédiction que nous puissions vous donner est que votre avenir sera surveillé et évalué par une énorme quantité de renseignements extraterrestres. Mais bon, au moins vous aurez un hoverboard.