Choc techno-sécuritaire :

Les nouvelles technologies pourraient constituer un formidable outil de politique publique mais, au nom de la sécurité, nous sommes surtout en train d’industrialiser les dispositifs numériques de surveillance.

Le vif débat suscité par la proposition de loi «sécurité globale» s'est finalement conclu par son vote en première lecture. Les nouvelles technologies, dont l'usage policier est bien présent dans le texte, sont globalement passées sous le radar du débat. Pourtant, la promptitude de l'usage sécuritaire de la technologie mise en regard de la difficulté à moderniser les administrations publiques dénote un malentendu fondamental concernant l'intérêt des nouvelles technologies dont l'Etat ne semble envisager l'utilité immédiate que pour quadriller l'espace public.

En l’espace de quelques années, les usages techno-sécuritaires se sont développés à une vitesse exponentielle. La collecte de données personnelles, les fichages biométriques et de données personnelles très sensibles, les logiciels de reconnaissance faciale ou les drones rejoignent l’arsenal juridique au service des divers fronts de guerre symboliques ouverts par les exécutifs successifs.

Sous l’œil de la caméra

A partir de 2018, au nom de la sécurité, les expérimentations de reconnaissance faciale se sont multipliées partout en France avant que la Commission nationale de l'informatique et des libertés (Cnil) ne finisse par en interdire les plus controversées d'entre elles, en zone Paca notamment. La loi sécurité globale est le dernier exemple en date. Elle prévoit l'usage de drones - pudiquement nommés «dispositifs aéroportés de captation d'images» -dans l'espace public, de caméras mobiles qui permettront aux forces de l'ordre d'exploiter les images captées en temps réel. Saisie, la Défenseuse des droits a alerté sur les «risques considérables» d'atteinte à la liberté d'informer et au droit à la vie privée en installant ainsi une surveillance particulièrement intrusive dont l'objectif est de collecter massivement et indistinctement les données à caractère personnel de la population.

L'enjeu démocratique est majeur : nous sommes en train d'industrialiser les dispositifs de surveillance. Cette vision des technologies transforme en profondeur nos rapports sociaux ainsi que les équilibres des droits qui définissent la vie privée, l'existence collective, les libertés. Le risque est de préfigurer une idéologie autoritariste qui stipule que la sécurité est plus importante que la liberté, que le contrôle est plus important que la vie privée. Ce qui concourt à façonner de nouvelles normes intériorisées, encastrées dans ce que Deleuze prophétisait dans son post-scriptum comme la «société de contrôle».

En quadrillant l’espace public, chaque individu devient par défaut potentiellement un coupable. Sous prétexte de l’urgence, nous sommes en train d’organiser une inversion générale de la charge de la preuve qui présage d’un système juridique basé sur la présomption de culpabilité. Jusqu’ici, c’est à l’accusation de faire la preuve de la culpabilité du suspect. Sous l’œil de la caméra et face aux algorithmes de reconnaissance faciale, c’est à chacun que reviendra désormais, à tout instant et en tout lieu, la charge de prouver son innocence en offrant son visage à l’identification algorithmisée. Sans qu’aucun garde-fou, recours en cas d’erreur, contre-pouvoir véritablement opérationnel ne soit explicité ou même prévu.

La paranoïa étatique

Le tout-sécuritaire pointe en filigrane le désengagement de l’Etat de ses prérogatives sociales pour se replier vers ses fonctions régaliennes. Ce faisant, il a perdu la confiance de son peuple. Le discours dominant ultrasécuritaire articulé autour d’une rhétorique de la peur, de la menace, des antagonismes, de la guerre contre un ennemi toujours invisible, ne peut être lue que comme une ultime tentative d’auto-légitimation. Légitimant en conséquence la collecte massive de données. Légitimant donc les dispositifs de technosurveillance généralisés. Et transfigurant au passage le Contrat social dont les termes initiaux «liberté contre sécurité» glissent sans grande résistance vers la formulation «liberté contre sécurité contre vie privée».

Pour répondre à la double insécurité consécutive à un Contrat social affaibli et à l'obsession de ne pouvoir tout contrôler, nous risquons d'arriver à un point de non-retour : la crainte qu'il n'y ait jamais assez de données. Cette peur alimentant la paranoïa étatique. Le réflexe de quadriller le territoire de technologies de surveillance, de ficher la population entière (création du méga-fichier TES en 2018, projet en cours Health Data Hub) au nom de la sécurité plébiscitée - artificiellement ou non - par les opinions publiques est devenu l'horizon ultime des démocraties ouest-européennes.

Sous prétexte de protéger la société, les choix sécuritaires en réalité l’exposent. Les intrications profondes entre les services de renseignement, les services d’ordre, l’armée et les Big Tech installent une toile d’acteurs privés et publics qui enregistrent nos existences numériques. La sécurité est un marché qui représente une manne financière importante. D’ici à 2022, le marché mondial de la reconnaissance faciale devrait générer 8 milliards d’euros de revenus, porté par l’augmentation des activités de lutte contre la criminalité et le terrorisme. En surtraitant l’automatisation de fonctions régaliennes via de nombreux partenariats public-privé, en captant massivement des données personnelles ou stratégiques, certaines entreprises privées sont en passe de faire éclater la souveraineté étatique.

La souveraineté du citoyen à disposer de lui-même (et donc de ses données) est sérieusement mise à mal. L’acceptation sociale de ces technologies pose un problème éthique. Les usages technosécuritaires sont souvent précédés par des usages individuels et commerciaux. La reconnaissance faciale a d’abord été incorporée dans des objets de domotique domestique intelligente, sur les réseaux sociaux ou pour déverrouiller des smartphones. Ces expériences fluides ouvrent la porte à une acceptabilité forte en créant l’accoutumance à des technologies par nature duales. La banalisation de ces technologies invisibilise des risques politiques bien réels.

Les nouvelles technologies constituent pourtant un formidable outil de politique publique. Si elles ne sont associées à aucun dispositif de fichage et de répression, si elles étudient les grandes masses pour mener plus loin notre compréhension du monde et mise au service du progrès de la connaissance alors elles sont bienvenues. En disposant des bonnes données en quantité suffisante, l’open data et l’intelligence artificielle est un instrument efficace pour identifier les signaux faibles en amont et modéliser des éléments importants de politiques publiques robustes comme les plans d’urbanisme, la gestion intelligente des services de la ville, la lutte contre le réchauffement climatique, la robotique intelligente dans le cadre d’un plan industriel numérique ambitieux. Les plateformes peuvent aider à bâtir des services publics modernes autour d’un contrat social renouvelé en mettant en son cœur transparence algorithmique, loyauté, respect de la vie privée. Plutôt que des stratégies sécuritaires politiciennes qui décrédibilisent l’action générale, les nouvelles technologies sont indispensables à la construction de biens communs.

Ce ne sont pourtant pas les choix privilégiés. Dans la continuité de la logique invoquée après les attentats de 2015 et la loi renseignement, la fulgurance de la crise sanitaire et sécuritaire actuelle vient de nouveau heurter l'essence de l'Etat de droit français. Il devient urgent de repenser une nouvelle «éthique d'Etat» autour de ce que Paul Ricœur appelait des «institutions justes».

Les contre-pouvoirs

Notre enjeu démocratique est de repositionner le projet de liberté politique au centre du fonctionnement institutionnel. Cela passe par un usage utile de la loi qui protège et renforce les contre-pouvoirs plutôt que de les affaiblir ou de les criminaliser comme c’est le cas actuellement. L’éthique d’Etat consiste à penser les institutions comme lieu de pouvoir mais aussi de contre-pouvoir.

Concrètement, il s'agit de renforcer le rôle des instances existantes (Conseil d'Etat, Conseil constitutionnel, Cnil). En complément, nous pourrions injecter une dose de contrôle citoyen direct en créant un «shadow parliament» comme lieu hybride de contrôle, d'«accountability» politique, de débats et de réflexion collective mais aussi d'innovation sociale et technologique. L'architecture démocratique de ce type d'instance bénéficierait à tous.

Le contrôle institutionnel gagnerait enfin à être complété par une forme de démocratie latérale hors les murs institutionnels en renforçant les protections des contre-pouvoirs construits par la société civile (ONG, associations, lanceurs d’alerte). Un Etat éthique doit précisément accompagner cette conscience politique, entrer en convergence avec les expertises citoyennes critiques. Voilà où nous attendons le rôle d’un Etat éthique à la fois démocratique et technologiquement innovant.

Liens

Publié le 26/11/2020 ∙ Média de publication : Libération