Au cœur de Sao Paulo, un tableau numérique présente en continu le nombre d'interpellations réalisées grâce à Smart Sampa, un système de vidéosurveillance utilisant la reconnaissance faciale alimentée par l'intelligence artificielle.
Mis en place par la municipalité, ce dispositif a été conçu pour lutter contre la criminalité, mais sa mise en oeuvre a généré un nombre préoccupant d’arrestations injustifiées.
Un écran à l'entrée d'un bâtiment public permet à plusieurs policiers de surveiller les 40 000 caméras installées dans cette métropole de 12 millions d'habitants, surnommée « Sampa ». Avec un coût mensuel de 1,6 million d'euros, le système a été introduit récemment en 2024, lors d’une période où près d’un vol de téléphone sur cinq survenait dans la région, souvent avec violence.
En l’espace d’un an, presque 4 000 personnes ont été arrêtées grâce à Smart Sampa, permettant également de localiser près de 3 000 fugitifs grâce à des recoupements d'images en temps réel avec les données judiciaires. Orlando Morando, le secrétaire à la sécurité de Sao Paulo, insiste : « Aujourd'hui, je ne peux pas imaginer notre ville sans Smart Sampa. »
Pour montrer son fonctionnement, il charge sa propre photo dans le système. En moins d’une seconde, une liste de lieux et d’horaires où il a été filmé apparaît à l’écran. Sonia Ferreira Silva, une retraitée de 68 ans, exprime son admiration pour cette technologie, bien qu’elle la compare au roman dystopique « 1984 » de George Orwell.
- Des failles inquiétantes -
Malgré ses atouts, le système connaît des défaillances sérieuses. Une analyse réalisée par l'AFP démontre que plus de 8 % des arrestations initiales de fugitifs étaient erronées. Au mois de décembre, un retraité de 80 ans a ainsi été retenu des heures durant car le système l'avait confondu avec un violeur, un cas parmi au moins 59 confusions signalées.
Le réseau de surveillance est constitué non seulement de caméras publiques, mais aussi de dispositifs installés dans certains bâtiments privés ayant donné leur accord. Plus de 141 arrestations reposaient sur des mandats d’arrêt déjà échus, mais les autorités pointent du doigt le système judiciaire, arguant qu'il n'a pas mis à jour ses données.
- Une baisse des crimes ? -
Les partisans du système mettent en avant une baisse des vols de près de 15 % à Sao Paulo l’année dernière. Cependant, un rapport d'ONG souligne que beaucoup des personnes interpellées relèvent d’une catégorie vague d'« autres » infractions, souvent liées au non-paiement de pensions alimentaires, une situation qui, selon les critiques, ne contribue pas réellement à la sécurité publique.
« Smart Sampa prétend être la solution contre le crime, mais elle sert principalement à surveiller les citoyens », déplore Amarilis Costa, directrice du réseau d'avocats Liberdade. En outre, les données ne précisent pas l’identité raciale d'une bonne partie des personnes arrêtées, ce qui soulève des questions de « racisme algorithmique », un problème avéré dans plusieurs pays où la reconnaissance faciale présente des biais raciaux.
Pourtant, le secrétaire à la sécurité assure que le système ne favorise ni ne discrimine en fonction de la couleur de peau. La majorité des arrestations liées à Smart Sampa se concentrent dans les quartiers périphériques, touchant principalement des individus issus de milieux défavorisés.
