Tous surveillés

« Tous surveillés, 7 milliards de suspects », documentaire réalisé par Sylvain Loubet l’an dernier, a obtenu le prix Albert Londres 2020.

Arte TV a de nouveau placé ce remarquable documentaire sur son site Internet jusqu’en juin 2021.  Le point de départ du film est la décision prise la ville de Nice, à la suite de l’attentat du 14 juillet 2016, d’expérimenter la reconnaissance faciale. Pas moins de 2000 caméras filment en permanence des passants. Un logiciel acheté à une société israélienne permet de les identifier immédiatement.

Il est probable que ce système n’aurait pas empêché le terroriste de Nice de lancer le camion frigorifique qu’il avait loué dans la foule. C’est pourtant l’argument de la sécurité qui est mis en avant. Quel est le but recherché ? D’empêcher des personnes à qui on attribue une probabilité de commettre un acte terroriste de se mêler à la foule. Deux mécanismes sont mis en œuvre : un algorithme permettant de prévoir un comportement, et des sanctions prises à titre préventif.

En Chine, la vidéosurveillance et la reconnaissance faciale se sont développés à une vitesse fulgurante depuis l’arrivée de Xi Jinping au pouvoir : 100 millions de caméras installées en 2003, 600 millions en 2020 soit une pour deux habitants. Sylvain Loubet a enquêté dans la ville de Ronghen, où un système de crédit social a été mis en place. Il s’agit d’un « rating » des personnes qui utilise les mêmes codes que la notation des pays par Moody’s ou Standard and Poors : de AAA pour les citoyens modèles à D pour les infréquentables, en passant par AA, A, B et C.

Si l’on est classé AA, on a le droit d’adhérer au Parti Communiste ; si l’on est classé D, on ne peut pas voyager. La reconnaissance faciale permet à tout moment d’appliquer cette discrimination, en empêchant par exemple un dégradé de prendre le train ou l’avion.

Le classement dans une catégorie résulte de l’application d’un score : un acte vertueux permet de gagner des points, un acte déviant en retire. La philosophie du système est d’encourager les citoyens à se conformer aux normes de comportement édictées par les autorités. Elle responsabiliserait les citoyens, en leur faisant prendre conscience des progrès qu’ils doivent réaliser. Elle éliminerait ou réduirait fortement la délinquance en stigmatisant les infracteurs potentiels et en les empêchant de nuire. L’universitaire Li Junyue, inventeur de ce rating personnel, souligne malicieusement que si la France avait mis en place son système, le mouvement des gilets jaunes n’aurait pas été possible.

Le contrôle de la population est normalement opéré dans le calme et la routine de la vie quotidienne. Beaucoup de citoyens y trouvant leur compte : les rues sont plus sûres. Dans les situations de crise, le système révèle sa brutalité. C’est le cas au Sinkiang, province habitée principalement d’Ouïgours, musulmans turcophones. La détection des opposants, y compris des opposants potentiels non encore actifs, a pris la dimension d’une répression de masse. On estime qu’un million d’Ouïgours, 10% de la population de cette ethnie, sont incarcérés dans des « centres d’enseignement » où on leur lave le cerveau.

C’est d’une « dictature 3.0 » qu’il faut parler. Le Big Brother imaginé par George Orwell a pris 40 ans de retard, mais il est là, sous nos yeux. Chaque citoyen peut être parfaitement identifié où qu’il soit, sans même devoir présenter des papiers d’identité. Un dossier peut être établi sur lui avec des informations aussi diverses que sa consommation d’électricité, la couleur de sa voiture ou sa pratique religieuse. Un algorithme peut utiliser les données de ce dossier pour prédire son comportement et prendre éventuellement des sanctions préventives.

La ville de San Francisco, toute proche de la Silicon Valley, a refusé de mettre en place la reconnaissance faciale. Elle entend ne pas mettre le doigt dans un engrenage. Au début, il ne s’agira, par exception, que de limiter la liberté de mouvement de psychopathes patentés. Puis, par grignotage, d’étendre peu à peu la discrimination des catégories de plus en plus larges de la population.

Grignotage et effet de cliquet empêchant le retour en arrière sont observés en France depuis de nombreuses années, de l’institutionnalisation de l’état d’urgence à la « sécurité globale ». « Tous surveillés, 7 milliards de suspects » est un film bienvenu pour faire prendre conscience de dérives rendues possibles par les progrès fulgurants de la technologie.