Les mathématiciens demandent à leurs collègues de boycotter le travail de la police à la suite des meurtres

[ad_1]

Crédit: Gina Ferazzi / Los Angeles Times via Getty

La vague de calculs sur le racisme systémique et la brutalité policière qui a balayé les institutions – a atteint les départements de mathématiques normalement reclus des universités. Un groupe de mathématiciens aux États-Unis a écrit une lettre appelant leurs collègues à cesser de collaborer avec la police en raison des disparités largement documentées dans la façon dont les agences américaines d'application de la loi traitent les personnes de races et d'ethnies différentes. Ils concentrent leurs critiques sur une technique mathématique visant à arrêter le crime avant qu'il ne se produise.

Le, daté du 15 juin, est adressé à la revue spécialisée Avis de l'American Mathematical Society (AMS), et arrive aux États-Unis et dans le monde entier, déclenché par le meurtre de George Floyd par un policier à Minneapolis, Minnesota, en mai. Plus de 1 400 chercheurs se sont joints à l'appel.

Ces dernières années, des mathématiciens, des statisticiens et des informaticiens ont développé des algorithmes qui rassemblent de grandes quantités de données et prétendent aider la police à réduire la criminalité – par exemple, en suggérant où le crime est le plus susceptible de se produire et en concentrant davantage de ressources dans ces domaines. Un logiciel basé sur de tels algorithmes est utilisé dans les services de police des États-Unis, mais leur nombre n'est pas clair. Son efficacité est contestée par beaucoup.

Mais «étant donné le racisme structurel et la brutalité dans la police américaine, nous ne pensons pas que les mathématiciens devraient collaborer avec les services de police de cette manière», écrivent les mathématiciens dans la lettre. «Il est tout simplement trop facile de créer un placage« scientifique »pour le racisme.»

"L'activité de collaboration avec la police n'est pas quelque chose que nous pensons qu'un mathématicien devrait faire", explique le co-auteur Jayadev Athreya, mathématicien à l'Université de Washington à Seattle. (Lui et les autres auteurs soulignent que la lettre représente leurs propres opinions et non celles de leurs employeurs.)

L’AMS déclare qu’elle «n’a pas de position officielle sur la participation des mathématiciens à la fourniture d’expertise aux organismes chargés de l’application des lois ou aux entreprises qui font affaire avec de tels organismes».

Biais historiques

La lettre cite à titre d'exemple la société PredPol de Santa Cruz, en Californie, fondée par des mathématiciens. PredPol fournit aux services de police un logiciel qui suggère des emplacements géographiques dans lesquels la criminalité est susceptible de se produire un jour donné, en fonction des modèles statistiques de la criminalité précédente.

Les critiques disent que le. En outre, ils affirment que les «conditions de contrôle» de la police prédictive – la police ordinaire – sont elles-mêmes biaisées sur le plan racial. «Nous avons des études qui montrent que certains crimes, par exemple, la consommation de drogues, sont les mêmes entre les blancs et les noirs par exemple», explique Sandra Wachter, juriste à l'Université d'Oxford, au Royaume-Uni, qui étudie les implications juridiques et éthiques de La technologie. «Mais en ce qui concerne les personnes accusées de ces crimes – qui sont arrêtées ou qui sont condamnées – il existe un très fort parti pris racial.»

Mais le directeur général de PredPol, Brian MacDonald, fait valoir que dans le cas de son entreprise, il n'y a aucun risque que les biais historiques reflétés dans les statistiques de la criminalité affectent les prévisions, car les données utilisées par la société sont intrinsèquement moins biaisées que les autres types de statistiques de la criminalité.

Franklin Zimring, criminologue à l'Université de Californie à Berkeley, ajoute que la valeur des outils de police prédictive n'est pas prouvée et que le logiciel peut conduire à des boucles de rétroaction. "Si la présence policière elle-même a une influence biaisée sur le volume mesurable des infractions, vous ne devriez pas utiliser ces événements comme base pour allouer des ressources policières, ou c'est une prophétie auto-réalisatrice", dit Zimring.

MacDonald soutient que PredPol utilise uniquement les crimes signalés par les victimes, tels que les cambriolages et les vols, pour informer son logiciel. «Nous ne faisons jamais de prédictions pour les types de crimes susceptibles de provoquer des préjugés de la part des agents, tels que les délits liés à la drogue ou la prostitution», dit-il.

Reste la question de l’efficacité des technologies de l’entreprise. Une étude sur huit ans d'utilisation de PredPol par le service de police de Los Angeles en Californie a conclu qu'il était «difficile de tirer des conclusions sur l'efficacité du système dans la réduction des véhicules ou d'autres délits». Une étude de 2015 publiée dans le Journal de l'American Statistical Association et co-écrit par les fondateurs de la société a examiné deux villes qui avaient déployé son logiciel prédictif et a montré qu'il était capable de prédire la localisation des crimes mieux qu'un analyste humain.

Une étude séparée par certains des mêmes auteurs a constaté qu '«il n'y avait pas de différences significatives dans la proportion d'arrestations par groupe racial-ethnique entre les conditions de contrôle et de traitement».

MacDonald dit également que, contrairement à d'autres sociétés qui travaillent avec les forces de l'ordre, PredPol divulgue le fonctionnement de ses algorithmes et subit des audits. Cela pourrait avoir exposé la société à un examen plus approfondi des médias que les autres et pourrait être la raison pour laquelle cela a été souligné dans la lettre, explique MacDonald. «Du fait de notre ouverture, nous sommes plus visibles et donc potentiellement plus sujets à la critique et à l'examen que les autres sociétés.»

Conférence annulée

Wachter partage les préoccupations des rédacteurs de lettres, mais elle ajoute que les mathématiciens devraient également s'engager avec des chercheurs d'autres disciplines pour étudier le problème et proposer des solutions. «Une conversation cloisonnée est problématique», explique Wachter.

Andrea Bertozzi, mathématicienne appliquée à l'Université de Californie à Los Angeles, qui a travaillé sur des modèles mathématiques de la criminalité, est d'accord. «Je pense que ce sont de bonnes discussions pour les gens», dit-elle. Les recherches effectuées au cours de la dernière décennie montrent que les algorithmes doivent être utilisés avec prudence et que les chercheurs doivent s'engager avec les communautés susceptibles d'être affectées, ajoute Bertozzi.

Bertozzi est co-auteur du document PredPol 2015 et a investi dans l'entreprise. Pour cette raison, certains mathématiciens étaient préoccupés par l'annonce, début juin, qu'elle avait été invitée à donner la conférence Emmy Noether 2021, un événement prestigieux parrainé par l'AMS et l'Association pour les femmes en mathématiques (AWM), en janvier prochain. Certains commentateurs sur les réseaux sociaux ont déclaré que le moment de l'annonce était offensant (il est survenu lors des manifestations après le meurtre de Floyd). Bertozzi dit que sa conférence n'allait pas couvrir les algorithmes de police, mais néanmoins, "j'ai suggéré à l'AWM d'annuler la conversation, plutôt que de générer des divisions dans la communauté mathématique en ce moment", dit-elle. «J'ai de l'empathie envers les personnes qui souffrent.»

L'AWM a annoncé le renversement dans un. C'était une décision mutuelle entre l'AMS, l'AWM et Bertozzi, explique Scott Turner, directeur des communications de l'AMS.

"AWM s'excuse pour notre insensibilité au moment de l'annonce la semaine dernière du conférencier et de la douleur qu'elle a causée", a écrit la société dans un tweet ultérieur. «Nous reconnaissons que nous avons un travail continu à faire pour être une organisation qui lutte pour la justice sociale et nous nous engageons à faire ce qui est nécessaire.»

[ad_2]

Soyez le premier à commenter

Poster un Commentaire

Votre adresse de messagerie ne sera pas publiée.


*