Saltar al contenido · Skip to content · Salta al contenuto · Zum Inhalt · Ir ao conteúdo · Przejdź do treści
Réflexions sur le citoyen en probation

Théorie

Réflexions sur le citoyen en probation

La surveillance algorithmique a transformé la citoyenneté en « liberté conditionnelle », nous forçant à valider continuellement notre identité face à des machines avec lesquelles il est impossible de raisonner.

Par Mariana Puente Lera19 novembre 202610 min de lecture

Lecture en profondeur

La plupart d’entre nous avons vécu une version de cette expérience. Nous arrivons à un aéroport après un long vol, passeport en main, et rejoignons la file pour les portiques automatisés, qui promettent de nous épargner la dignité de parler à un être humain. Nous posons le passeport sur la vitre, regardons la caméra et attendons. Rien ne se passe. On nous demande alors d’enlever nos lunettes, puis de nous placer sur les empreintes peintes, puis de lever un peu la tête. Toujours rien.

Finalement, un feu rouge apparaît, et nous sommes dirigés vers le seul guichet pourvu de personnel à l’autre bout du hall, où un agent compare notre visage à notre photographie avec l’expression de quelqu’un qui a, sans aucun doute, effectué cette procédure au moins cinq cents fois le même jour. Nous sommes, bien sûr, exactement qui nous disons être. Nous l’étions depuis le début. La seule question en suspens était de savoir si la machine serait d’accord.

Cet épisode est trivial, et la plupart des gens l’oublient avant d’atteindre le carrousel à bagages. Pourtant, il mérite davantage d’attention, car il condense une transformation du sens de la citoyenneté qui progresse si progressivement, et dans un registre si banal, qu’elle échappe largement à l’attention.

Pendant la majeure partie de l’ère moderne, la citoyenneté fonctionnait comme un statut : on la possédait, et l’État était tenu d’agir en conséquence. Elle en vient de plus en plus à ressembler à une forme de probation. On la détient en principe, mais on doit démontrer qu’on la détient de manière répétée, à des systèmes qui n’ont aucune connaissance de la personne qui se trouve devant eux, avec lesquels on ne peut pas raisonner, et qui sont indifférents aux explications.

Les anthropologues considèrent depuis longtemps le récit officiel de la citoyenneté avec un certain scepticisme. La philosophie politique et le droit constitutionnel tendent à la définir à travers des droits, des statuts et des titres formels, et ces définitions ne sont pas tant erronées qu’incomplètes. Les recherches de James Holston dans les périphéries auto-construites de São Paulo ont montré que la citoyenneté brésilienne était universelle dans sa forme légale mais inégale dans la pratique, les résidents plus pauvres étant systématiquement tenus de produire des documents, des preuves et des autorisations que les citoyens plus aisés ne se voyaient jamais demander. Il a nommé cet arrangement « citoyenneté différenciée ».

La conclusion plus large, partagée par une grande partie de la discipline, est que la citoyenneté est moins une possession qu’une relation, renouvelée ou retirée dans les rencontres quotidiennes par lesquelles les gens se présentent aux institutions. Les droits, en pratique, ne sont fiables qu’autant que l’agent qui les administre l’est.

Le changement dans cet arrangement dans notre monde moderne concerne la nature de cet agent.

Une vision historique longue aide à clarifier cela. C’est un fait révélateur, et quelque peu humiliant, que les plus anciennes écritures connues, les tablettes proto-cunéiformes d’Uruk dans le sud de la Mésopotamie, n’enregistraient ni mythe ni loi, mais des comptes : quantités de grain, de bétail, rations de bière et travail dû aux administrateurs du temple. Dès ses origines les plus anciennes, l’État s’est engagé à énumérer les personnes et leurs possessions.

James Scott a célèbrement décrit cela comme la poursuite de la « lisibilité ». Dans Seeing Like a State, il a montré comment les recensements, les cartes cadastrales, les registres de propriété et les noms de famille permanents servaient à traduire la texture dense, locale et idiosyncratique de la vie sociale en catégories standardisées qu’une autorité distante pouvait lire, taxer ou enrôler.

Ce qui est moins souvent remarqué, c’est à quel point les États ont mal accompli cette tâche pendant la majeure partie de leur histoire. L’énumération était laborieuse. Elle nécessitait des greffiers, des matériaux et des voyages ardus, et ses résultats étaient souvent obsolètes au moment où on les consultait. Même l’appareil de surveillance le plus ambitieux du XXe siècle, celui de la République démocratique allemande, n’a atteint son étendue que grâce à une dépense extraordinaire de travail humain : en 1989, la Stasi s’appuyait sur près de 190 000 informateurs et avait accumulé des dossiers s’étendant sur plus de cent kilomètres d’étagères. Le système était menaçant, mais il était aussi, par toute mesure technique, grossièrement inefficace.

Il est possible de soutenir que beaucoup de ce que les sociétés libérales en sont venues à considérer comme la vie privée n’a jamais été principalement un principe, mais plutôt un sous-produit de la limitation administrative. L’État s’abstenait d’observer tout le monde largement parce qu’observer tout le monde dépassait ses capacités.

Cette limitation a maintenant été (presque) surmontée. La reconnaissance faciale automatisée peut attacher un nom à un visage en moins d’une seconde. Le programme Aadhaar de l’Inde a enregistré les empreintes digitales et les motifs de l’iris de plus de 1,3 milliard de personnes et médiatise désormais leur accès aux rations alimentaires, aux pensions, aux services bancaires et aux télécommunications. Des entreprises privées ont constitué des bases de données de dizaines de milliards d’images extraites des réseaux sociaux et vendu l’accès à des agences de police sur plusieurs continents. Des systèmes prédictifs entraînés sur le comportement d’achat, la mobilité et les réseaux sociaux génèrent des évaluations de risque d’individus qui n’ont commis aucune infraction. Le changement décisif ici est économique avant d’être technique. L’observation est devenue presque gratuite, et un système qui coûte peu à faire fonctionner n’a aucune raison intrinsèque de cesser de fonctionner.

Ce que ces systèmes observent, cependant, n’est pas la personne telle que la théorie libérale la conçoit. Dans sa Conférence mémorielle Huxley de 1938, Marcel Mauss a soutenu que la « personne », comprise comme le porteur d’un nom, d’une identité légale, d’une conscience morale et de droits, n’est pas un donné universel mais une construction historique, élaborée différemment selon les sociétés et les époques. La surveillance contemporaine, je suggérerais, produit une nouvelle variante de celle-ci.

La personne reconnue par les systèmes algorithmiques est un agrégat de fragments : une empreinte digitale, un modèle facial, un code postal, un historique de crédit, un schéma de communication, une liste de contacts à l’étranger. Ces fragments sont détenus dans des bases de données séparées par des institutions séparées et sont ensuite recombinés en un profil qui agit au nom de l’individu.

Le récit de Marilyn Strathern sur la personne mélanésienne, dans lequel la personne est conçue non comme un individu borné mais comme un « dividu » composé de relations divisibles, offre une analogie suggestive bien qu’imparfaite. Cette analogie a des limites, puisque le dividu mélanésien est constitué par la réciprocité tandis que le sujet de données est constitué par l’extraction. Cette figure composite peut être approuvée pour un crédit, signalée pour une enquête, admise à une frontière ou se voir refuser une prestation, souvent sans que l’être humain dont elle porte le nom n’apprenne jamais la décision.

Le résultat est une duplication quasi-schizoïde. À des fins officielles, il y a maintenant effectivement deux de chacun de nous, et celui qui compte généralement est celui que nous n’avons jamais rencontré — et ne rencontrerons jamais.

Comment de tels systèmes ont-ils progressé avec si peu de contestation publique ? L’étude de James Ferguson sur un programme de développement au Lesotho fournit un cadre utile. Ferguson a caractérisé l’appareil de développement comme une « machine anti-politique » : un mécanisme qui reformule les questions politiques en problèmes techniques, les délègue à des experts, et ce faisant étend le pouvoir de l’État tout en soustrayant son exercice à la délibération démocratique.

La gouvernance algorithmique est peut-être la machine anti-politique la plus efficace jamais conçue. Les questions qui appartiennent proprement au débat public (qui mérite la suspicion, dont les mouvements doivent être enregistrés, combien d’identifications erronées sont tolérables) sont recadrées comme des questions de taux de précision et de seuils d’erreur et assignées à des ingénieurs et des fournisseurs. La substance politique de ces décisions est désormais relocalisée dans des sites où les citoyens ne possèdent ni statut ni vocabulaire pour les contester.

Une ironie supplémentaire mérite d’être notée. Les technologies numériques ont été promues, en grande partie, comme des instruments de libération de la bureaucratie, promettant la fin des files d’attente, des formulaires papier et des fonctionnaires obstructifs. Mais le contraire s’est produit, comme cela arrive généralement lorsque des réformes de marché conçues pour réduire la bureaucratie tendent à les multiplier. La paperasse est devenue continue et imperceptible, et les citoyens sont devenus des demandeurs permanents.

Les effets sur la vie politique sont difficiles à quantifier, puisqu’ils consistent largement en actions qui ne sont jamais prises. Une enquête de l’Agence des droits fondamentaux de l’Union européenne a constaté que près de trois répondants sur dix seraient moins disposés à assister à une manifestation pacifique si la reconnaissance faciale était utilisée. Le droit de réunion reste donc constitutionnellement intact même si son exercice diminue silencieusement. Les parents conseillent aux enfants quels espaces en ligne éviter ; les militants laissent leurs téléphones derrière eux ; les citoyens ordinaires développent un sentiment diffus mais persistant de quelles opinions sont mieux laissées inexprimées. Le concept d’« habitus » de Pierre Bourdieu, les dispositions durables par lesquelles les structures sociales deviennent incarnées comme seconde nature, décrit ce processus avec une certaine précision. La surveillance atteint son effet le plus complet une fois qu’elle devient habitus, lorsque les individus modifient leur conduite en anticipation de l’observation et qu’aucune interdiction explicite n’est plus requise.

Cela ne suggère pas que les populations sont simplement passives. Lors des manifestations de 2019 à Hong Kong, les manifestants ont utilisé des parapluies pour obstruer les caméras et ont dirigé des lasers vers leurs objectifs. Des artistes et des militants en Europe ont développé un camouflage facial destiné à déjouer les logiciels de reconnaissance. San Francisco et plusieurs autres villes américaines ont interdit l’usage de la reconnaissance faciale par la police à la suite de campagnes locales soutenues.

De plus en plus, les individus articulent également des revendications en leur qualité de sujets de données, exigeant l’accès à leurs dossiers, la correction des erreurs et le droit de contester les décisions automatisées. Un récit adéquat doit également reconnaître que beaucoup de gens vivent la surveillance comme protectrice plutôt que menaçante, et la méthode ethnographique exige que de tels témoignages soient pris au sérieux. Elle exige également de demander quelle sécurité est produite. Le résident rassuré par une caméra au coin de la rue et l’adolescent arrêté à plusieurs reprises à cause d’elle habitent souvent la même rue.

Hannah Arendt a défini la citoyenneté comme « le droit d’avoir des droits », une formulation qu’elle a développée à travers une réflexion sur les réfugiés apatrides de l’entre-deux-guerres, qui ont découvert que leur humanité abstraite ne leur offrait aucune protection une fois que l’appartenance politique était retirée. La situation actuelle diffère de celle qu’elle a décrite, et est à certains égards plus insidieuse. Le danger principal n’est plus l’expulsion de la communauté politique mais l’inclusion conditionnelle en son sein : une appartenance qui reste formellement sécurisée tandis que l’accès à ses protections dépend de savoir si un système automatisé est prêt à reconnaître l’individu concerné. On peut rester citoyen et se voir malgré tout refuser au magasin de rations, détenir à la frontière, ou découvrir que les droits garantis sur le papier se dissolvent au moment où le système détermine que l’on ne « calcule » pas tout à fait.

Il est essentiel, enfin, de résister à la tentation de traiter ces développements comme inévitables. Le changement technologique est fréquemment représenté comme une force quasi-naturelle, quelque chose qui advient aux sociétés plutôt que quelque chose qu’elles choisissent. Pourtant, chaque caméra a été installée par quelqu’un, chaque base de données commissionnée par quelqu’un, et chaque décision d’interposer un algorithme entre un citoyen et ses droits a été prise par des personnes qui auraient pu décider autrement.

Mauss a insisté sur le fait que la catégorie de la personne est une réalisation historique, ce qui signifie qu’elle peut être constituée différemment. Il en va de même pour l’État et pour les machines à travers lesquelles il perçoit désormais ses membres. La question décisive n’est donc pas de savoir si ces systèmes peuvent être rendus plus précis, mais si les sociétés démocratiques sont prêtes à accepter un ordre dans lequel l’appartenance doit être continuellement prouvée à une autorité avec laquelle on ne peut pas argumenter, et, si elles refusent, quelles formes institutionnelles de reconnaissance elles sont prêtes à construire à sa place.

Partager

Pour Instagram : copiez le lien et collez-le dans votre story ou en MP.

À lire plus tard

Continuez avec

  • Collage éditorial sur la situation politique tunisienne, combinant des symboles institutionnels, sociaux et nationaux. Image générée avec le modèle IA de ChatGPT.

    Théorie

    Le Mirage Révolutionnaire ?

    Que s'est-il passé lors des soulèvements de décembre 2010 et janvier 2011 ?

    Mortadha Ghaliounji

  • Lapin à queue blanche dans le Montana (CC BY 4.0 Larry D. Moore / Wikimedia Commons)

    Théorie

    Qu'est-ce qu'un lapin ?

    Un lapin traverse le champ et semble ne laisser aucun doute, jusqu'à ce que Quine demande ce que nous avons vraiment vu et que la philosophie transforme l'animal en problème. Entre mots, classifications et essences, cet essai examine l'instant où une catégorie utile cesse de décrire des organismes concrets et commence à peupler le monde d'une entité supplémentaire appelée lapinité.

    Agustín Cosso

  • Collage editorial generado con GPT Image 2.0 que representa la evolución histórica de la socialdemocracia, desde Friedrich Ebert y el reformismo europeo hasta la Tercera Vía, mediante una composición inspirada en carteles políticos vintage, archivos históricos y diseño propagandístico del siglo XX.

    Théorie

    De la social-démocratie à la Troisième Voie.

    La SPD allemande, le Labour britannique, le Parti Socialiste français, la CHP Turc : un même courant, mille visages.

    Mortadha Ghaliounji

Commentaires

Pas encore de commentaires. Ouvrez la conversation.

Connectez-vous pour commenter. Se connecter