Les technologies de reconnaissance faciale du FBI ne respectent pas votre vie privée et vos droits

Qui est le chien de garde du chien de garde? Le Government Accountability Office, comme son titre l'indique. Le récent rapport du GAO sur l’utilisation par le gouvernement de la technologie de reconnaissance faciale a été rendu public mercredi. Essentiellement, nous nous sommes trouvés une situation. Une mauvaise situation. En bref: avec ses programmes de reconnaissance faciale, le FBI viole votre vie privée et ne vous en parle pas. De plus, le FBI ne vérifie pas que ces programmes sont précis et fiables.

Le FBI et la biométrie remontent à longtemps - la relation amoureuse a commencé avec les bases de données d'empreintes digitales. Mais cela va beaucoup plus loin que cela, maintenant. Pour le FBI, le terme «biométrie» signifie «reconnaissance automatique d'individus en fonction de leurs caractéristiques biologiques et comportementales». En 2011, le FBI a déployé le projet pilote de son système «Next-Generation Identification» (NGI).; quatre ans plus tard, en avril 2015, il était entièrement opérationnel.

Le NGI utilise en partie le système de photo inter-États (IPS) pour ces soi-disant données biométriques. Cette base de données - en plus des bases de données externes de sociétés privées - fournit aux agences gouvernementales un accès à plus de 411 million des photos de visage (la population actuelle des États-Unis n’est que de 319 millions). Le ministère de la Justice affirme que la plupart de ces photos sont tirées de photos d'identité: «Plus de 80% des photos de NGI-IPS sont criminelles», mais ils font également équipe avec de nombreux États pour obtenir un permis de conduire et des photos de passeport. Le GAO dit que le moment un suspect est «réservé pour un crime», il ou elle est dans les livres - c’est-à-dire dans le NGI-IPS.

Le rapport n’indique pas exactement à quel point le FBI manipule vos photos sur les médias sociaux. Le FBI affirme qu'il ne les inclut pas dans le NGI-IPS, mais il les utilise:

“… Les photos prises avec des caméras de sécurité ou des photos de médias sociaux ne sont pas enregistrées dans NGI-IPS… Selon le FBI, les bases de données de photos externes ne contiennent pas de photos obtenues de manière privée ni de photos de médias sociaux, et le FBI ne conserve pas ces photos; il ne fait que chercher contre eux.

Mais il convient de noter à quel point les médias sociaux pourraient être une mine d’or. L'application photo de votre ordinateur est capable de vous reconnaître, vous et vos amis. Facebook aussi, et c’est extrêmement bon pour cataloguer chaque personne sur une photo. Chaque fois que vous utilisez un objectif Snapchat, Snapchat trace les contours uniques de votre visage. Et cela ne s’arrête pas là: ces technologies sont pratiquement partout.

Quoi qu’il en soit, le FBI ne s’amuse pas seulement avec votre visage: l’accès s’étend jusqu'aux services de police locaux. (Il y a aussi ceci: "Le système de reconnaissance faciale du Département de la Défense est utilisé pour aider les combattants sur le terrain à identifier les combattants ennemis.") Le FBI est la seule agence disposant de direct accès, mais tout le monde peut simplement demander un accès. Une fois l'accès accordé, l'agence en question envoie une photo au FBI et demande un nombre spécifique de correspondances potentielles. (La photo est peut-être en haute résolution, mais connaissant les caméras de sécurité, ce n'est probablement pas le cas.) Une fois là-bas, le NGI-IPS exécute la photo dans sa base de données, puis, selon le GAO, «une analyse humaine doit être effectuée». Une équipe de «29 spécialistes en images biométriques formés aux services FACE Évaluation faciale de la comparaison des analyses faciales» donne ensuite le mot final. Enfin, le nombre requis de correspondances potentielles est renvoyé à l'agence. Il appartient ensuite à cet organisme de déterminer si ces suspects présumés sont des suspects réels.

Voici comment ça fonctionne:

«Plus précisément, la technologie extrait les caractéristiques des visages et les place dans un format, souvent appelé empreinte de visage, qui peut être utilisé, entre autres, pour la vérification. Une fois que l'empreinte faciale a été créée, la technologie peut utiliser un algorithme de reconnaissance faciale pour comparer les empreintes faciales les unes aux autres afin de générer une valeur de score unique représentant le degré de similitude entre les deux faces."

Selon votre connaissance de la science-fiction, cela peut sembler ou ne pas sembler être un système fiable et digne de confiance. Ce n'est pas. Voici un section en-tête dans le rapport du GAO:

"Le FBI dispose d'informations limitées sur l'exactitude de ses capacités technologiques de reconnaissance faciale."

Tout ce que le FBI sait, c’est que, quand fait testez le taux d’exactitude du programme sur 50 correspondances potentielles - ce qu’il a fait, de manière déconcertante, avec une base de données de test, et non avec la base de données réelle - il était précis à 86%. Le FBI n'a «pas évalué l'exactitude des recherches de reconnaissance faciale effectuées par NGI-IPS dans son contexte opérationnel - le cadre dans lequel les photos enregistrées, plutôt qu'une base de données de test de photos - sont utilisées pour rechercher des pistes d'investigation.» Nous veillons à la précision des systèmes de reconnaissance faciale des entreprises privées qui sont ses employés: il n’ya pas d’audits.

Quatre-vingt-six pour cent exacts. En d'autres termes: environ quatre étoiles sur cinq. Si votre restaurant de sushis local avait quatre étoiles sur cinq, vous pourriez envisager de commander des plats à emporter. Mais tout comme un petit nombre d’évaluations peut fausser la note d’un restaurant, un autre haute nombre de correspondances potentielles peut fausser la précision de NGI-IPS. Cinquante matches potentiels est le maximum que les agences puissent demander; le système peut cracher aussi peu que deux. Le GAO indique que plus la liste est petite, moins le système est précis.

Il y a aussi tout ce fâcheux positif. «Les responsables du FBI ont déclaré qu’ils n’avaient pas évalué la fréquence à laquelle les recherches de reconnaissance de visage effectuées par NGI-IPS mettaient une personne en correspondance avec la base de données (le taux de faux positifs).» la présomption traditionnelle d'innocence dans les affaires pénales en imposant davantage au défendeur de démontrer qu'il n'est pas ce que le système identifie comme étant celui-ci. »Le système peut s'effondrer de part et d'autre de l'équation: si la photo est de mauvaise qualité, les taux de réussite s'effondrent; si le logiciel est de mauvaise qualité, les taux de réussite s'effondrent. Les faibles taux de réussite signifient beaucoup de faux positifs.

Après avoir terminé son rapport, le GAO a adressé six recommandations à la procureure générale Loretta Lynch et au directeur du FBI James Comey. L'essentiel: le ministère de la Justice a un problème d'opacité. Le public peut savoir que sa vie privée est violée, mais le public ne sait pas précisément Comment sa vie privée est violée. En outre, le ministère de la Justice doit remédier au manque de surveillance afin de garantir un minimum d'atteinte à la vie privée. Enfin, le ministère de la Justice doit s'assurer, même rétroactivement, que ces programmes sont fiables.

Le ministère de la Justice n’a accepté que, en totalité, une recommandation. Il a «partiellement accepté» deux autres, mais a rejeté les trois autres, dont deux ont tenté d'établir des directives de précision.